医師のAIリテラシー ── 使いこなす側の力── 何を知るべきか、限界の理解、患者への説明

01なぜいまリテラシーが要るのか

電子カルテや検査機器と違い、AIは「もっともらしく間違える」という性質を持ちます。計算機は桁を間違えれば誰の目にもおかしな数字になりますが、生成AI（＝文章や画像を作り出すAI）は、事実でない内容を自信たっぷりの文体で差し出します。これをハルシネーション（＝AIが事実に基づかない情報を作り出す現象）と呼びます。出力の見た目が整っているほど、受け手は疑いにくくなります。

だからこそ、AIを診療の場に置くときの安全弁は、道具の側ではなく使う医師の側にあります。英国 NHS がまとめた Topol Review（2019）は、デジタル技術を医療に取り込む条件として、まず医療従事者の教育とリテラシーを挙げました。技術を入れる前に、使う人を育てる ── この順序が要点です。

リテラシーが不足したまま便利な道具だけが広がると、次の 3 つが同時に起こります。

• 過信 ── AIの答えを検証せずに採用し、誤りをそのまま患者に持ち込む
• 過剰な不信 ── 逆に一切使わず、本来得られたはずの支援を捨てる
• 説明の空白 ── なぜその判断に至ったかを、医師自身が患者に語れなくなる

02何を知るべきか ── 最低限の地図

医師は機械学習の数式を導出できる必要はありません。必要なのは、道具の性質と境界を言葉で説明できることです。世界保健機関（WHO）が 2021 年に出した『Ethics and governance of artificial intelligence for health』は、透明性・説明責任・安全性を医療AIの基本原則に据えました。ここから逆算すると、臨床現場の医師が押さえるべき地図は次の 4 つに絞れます。

この 4 点は、専門分野が内科でも外科でも放射線科でも共通します。米国医師会（AMA）が「拡張知能（Augmented Intelligence）」という言葉をあえて選び、AIを医師の代わりではなく判断を補強する道具と位置づけたのも、同じ発想からです。主語は最後まで医師にある、という姿勢です。

03限界の理解 ── できないことを言えるか

リテラシーの中心は、実は「AIにできること」ではなく「AIにできないこと」を具体的に言えることです。できることは宣伝が教えてくれますが、できないことは自分で見極めるしかありません。臨床でとくに重要な限界は次の 3 つです。

とくに 3 つ目が、医師にしか埋められない領域です。AIは平均的な集団の傾向を学びますが、目の前の一人が何を大切にし、どんな暮らしの中で治療を続けるのかは知りません。同じ検査結果でも、選ぶ治療は患者ごとに変わります。この「一般から個別への翻訳」は、データではなく対話から生まれます。医師にしかできない仕事です。

04検証の習慣 ── 信じる前に確かめる

リテラシーは知識だけでなく習慣として身につきます。AIの出力を受け取ったら、反射的に確かめる。この動作を体に入れておくことです。航空機のパイロットが計器を鵜呑みにせず相互に確認するのと同じ発想です。現場で使える確認の手順を、重い順に挙げます。

1. 出典に当たる ── AIが引用した論文・ガイドラインが実在するか、一次資料で確かめる。要約だけで判断しない。
2. 数値を突き合わせる ── 用量・検査値・確率が、承認情報や標準的な基準と矛盾しないかを見る。
3. 別経路で裏を取る ── 重い判断ほど、AI以外の情報源（成書・同僚・専門医）と照合する。
4. 迷ったら使わない ── 確かめきれないなら、その出力は判断材料から外す。使わない勇気も習慣のうち。

05患者への説明 ── 透明性という責任

AIを診療に使うとき、患者はその存在を知らないことが少なくありません。WHO の原則が透明性を最初に挙げたのは、この情報の偏りを埋めるためです。医師に求められるのは、専門用語で煙に巻くことではなく、平易な言葉で位置づけを伝えることです。

実際の説明は、次のような枠で十分に成り立ちます。

• 使ったこと ── 「画像の読影に、AIによる支援ツールも使いました」と事実を伝える
• あくまで補助であること ── 「最終的な判断は私が責任を持って行います」と主語を示す
• 限界も含めて ── 「AIも万能ではないので、他の検査と合わせて考えます」と正直に添える

この説明は、患者の不安を煽りません。むしろ「機械任せではない」という安心と、判断の主体が誰かという透明性を同時に届けます。信頼は、便利さを隠すことからではなく、限界まで開示することから生まれます。

06教育の設計 ── リテラシーは生まれつきではない

ここまで述べたリテラシーは、才能ではなく教育で身につくものです。日本でも、文部科学省の医学教育モデル・コア・カリキュラム（令和 4 年度改訂版, 2022）に、データサイエンスとAIに関する基本的な素養が組み込まれました。学生のうちから、道具の性質と限界を学ぶ土台を作ろうという流れです。

ただし、卒前教育だけでは足りません。AIは数か月単位で変わるため、卒後の継続的な学びが欠かせません。現場で機能する教育設計には、共通する要素があります。

• 手を動かす ── 座学だけでなく、実際に使い、わざと間違えさせて限界を体感する
• 失敗事例を共有する ── うまくいった話より、ハルシネーションに気づいた事例のほうが学びが深い
• 更新に追随する ── 一度学んで終わりにせず、道具の変化に合わせて学び直す仕組みを組織に持つ

製薬企業のメディカル部門にとって、これは接点をどう設計するかの課題でもあります。医師が道具の限界を学びたいと思ったとき、頼れる中立的な情報がどこにあるか。この問いは、次章で触れる規制の枠組みと切り離せません。

07他章との接続 ── 規制と情報提供の柵

医師のAIリテラシーは、製薬側の情報提供のあり方と背中合わせです。AIを使った資材や情報が医師に届くとき、そこには薬機法と各種ガイドラインの柵があります。混同しやすい条文を、ここで正確に押さえておきます。

• 誇大広告の禁止 ── 薬機法 第 66 条。効能・効果や安全性について、事実を誇張したり誤認させたりする表現を禁じます。AIが「盛った」表現を生んでも、規制は緩みません。
• 未承認医薬品等の広告禁止 ── 薬機法 第 68 条。承認前の医薬品を広告してはならない、という規定です。
• 情報提供にあたっての配慮 ── 薬機法 第 68 条の 2。医薬品情報を提供する際の努力義務を定めます。

これらの解釈と運用の指針が、厚生労働省医薬・生活衛生局長通知として 2018 年に出された「医療用医薬品の販売情報提供活動に関するガイドライン」（通称：販提G）です。また、広告表現の物差しである適正広告基準は、厚生労働省 医薬・生活衛生局 監視指導・麻薬対策課長の通知として示されています。AIがどれだけ賢くなっても、医師に届く情報がこれらの枠の中にあることは変わりません。医師のリテラシーと、送り手の規制順守は、同じ信頼を両側から支える柱です。

本サイトの他章とも次のように繋がります。AI Medical シリーズの診断支援・文献要約の回はこのリテラシーの前提であり、次回の製薬企業のAI戦略は、送り手の側の設計を扱います。

AIは、医師から仕事を奪う道具ではなく、医師の判断を試す道具です。もっともらしい出力を前に、その由来を問い、限界を言葉にし、確かめてから採用し、患者に正直に説明する ── この一連の動作ができる医師にとって、AIは強力な助けになります。できない医師には、静かな落とし穴になります。差を分けるのは道具の性能ではなく、使う側のリテラシーです。そしてそれは、才能ではなく、教育と習慣で育てられます。製薬の側もまた、医師がこの力を育てる環境を、規制の柵を守りながら支える立場にあります。