AI医療の倫理 ── 公平性・説明可能性・同意── バイアス、説明責任、インフォームドコンセント、責任分配

01バイアスの問題 ── データが偏れば、AI も偏る

AI の判断は、学習に使ったデータから作られます。データが特定の集団に偏っていれば、その偏りは出力にそのまま出ます。アルゴリズム (＝計算手順) が悪いのではありません。与えたデータの構成が、そのまま結果に映る という単純な話です。

医療で問題になりやすいバイアスには、いくつか典型があります。

よく知られた例があります。米国で広く使われていた医療資源配分のアルゴリズムが、同じ健康状態でも特定の人種集団を「必要度が低い」と判定していた──2019 年に Science 誌が報告しました。原因は、健康状態の代わりに「過去の医療費」を指標にしていたことです。医療へのアクセスが制限されていた集団は医療費が少なく、その結果「必要度が低い」と誤って評価されました。設計者に差別の意図がなくても、指標の選び方一つで結果は偏ります。

製薬の文脈でも同じことが起きます。ある治療薬の対象患者を AI で絞り込むとき、学習データが特定の集団に偏っていれば、本来対象になるはずの患者が候補から漏れます。臨床試験の被験者選定でも、市販後のリアルワールドデータ解析でも、常に確かめるべき点です。

02説明可能性 ── 「なぜそう判断したか」を語れるか

高性能な AI の多くは、内部の判断過程を人間が追いにくい構造をしています。これを「ブラックボックス問題」と呼びます。精度が高くても、なぜその出力になったのかを説明できなければ、医師は患者に理由を語れず、判断に責任を持てません。

説明可能性 (＝Explainability。AI の判断根拠を人が理解できる形で示すこと) には、2 つの水準があります。混同されやすいので、分けて考えます。

医療で本当に要るのは、多くの場合 局所的な説明 です。「一般にこう働きます」ではなく、「あなたの検査結果について、AI はここに注目してこう判断しました」と語れなければ、患者との対話は成り立ちません。ただし注意が要ります。AI が示す「根拠らしきもの」が、本当の判断理由とは限りません。もっともらしい説明が後付けで作られているだけの場合もあり、説明そのものの正しさを検証する姿勢が欠かせません。

03インフォームドコンセント ── AI の関与をどう伝えるか

インフォームドコンセント (＝説明を受けたうえでの同意) は、医療倫理の柱です。患者が自分の受ける医療を理解し、納得して選ぶための手続きです。AI が診療に関わるようになると、この同意の中身に新しい論点が加わります。

実務で決めなければならないのは、次のような点です。

• そもそも伝えるべきか ── 診断の補助に AI を使ったことを、患者にどこまで説明するか。血液検査の機器をいちいち説明しないのと同じ扱いでよいのか、判断への関与が大きいなら別に伝えるべきか
• 何を伝えるか ── AI がどの範囲を担い、最終判断は誰がするのか。精度の限界や、外れる可能性があることをどう伝えるか
• データの二次利用 ── その患者の診療データが、AI の学習や改善に使われる可能性はあるか。使うなら、別の同意が要らないか
• 断る権利 ── 患者が「AI を使わないでほしい」と言ったとき、代わりの選択肢を用意できるか

ここで避けたいのは、同意書に一行「AI を利用することがあります」と書いて済ませる形式主義です。同意とは、書類にサインをもらうことではありません。患者が理解して選べる状態を作ることです。伝える情報が多すぎて理解できなければ、それは同意になっていません。正確さと分かりやすさをどう両立させるか──ここが AI 時代の同意設計の難所です。

04責任の分配 ── AI が関与した診療で、誰が負うのか

AI を使った診療で患者に不利益が生じたとき、責任の所在が問題になります。関わる主体が複数いて、それぞれ役割が違うからです。

現在の一般的な考え方では、最終判断は人が行い、その判断への説明責任も人が負う という原則が保たれています。AI は判断を助ける道具であって、責任の主体ではありません。ただし AI の性能が上がり、人が実質的に AI の出力を追認するだけになると、「人が判断した」という建前は形だけのものになりかねません。責任を人に残すには、人が意味のある形で判断に関わり続ける設計が要ります。これを「意味のある人間の関与 (＝meaningful human control)」と呼ぶ議論が、国際的にも進んでいます。

05公平性の設計 ── 偏りは「後で直す」では間に合わない

バイアスは、完成した AI を後から点検して見つければよい、というものではありません。開発の各段階に確認の仕組みを組み込まなければ、偏りは見えないまま現場に届きます。公平性 (＝Fairness) は、開発の入口から出口まで通して設計する対象です。

• データを集める段階 ── 対象となる患者集団の多様性が、学習データに反映されているか。特定の集団が不足していないかを、数で確かめる
• 作る段階 ── 集団ごとに精度を分けて測る。全体で 95% でも、ある集団だけ 80% なら、その AI は公平とはいえない
• 使う段階 ── 導入後も集団別の成績を監視し、劣化や新たな偏りが出ていないかを見続ける

ここで一つ、逃げられない論点があります。「公平」の定義は一つではありません。全集団で精度をそろえることと、全集団で見逃し率をそろえることは、数学的に同時には満たせない場合があります。つまり、何を公平とするかは技術ではなく 価値判断 であり、開発者だけで決められるものではありません。医療者・患者・規制がともに決めるべき問いです。「公平にしました」という言葉が、実際にはどの定義の公平なのか──そこを問う姿勢が要ります。

06患者の視点 ── 「使われる側」から見た AI

倫理の議論は、開発者や医師の視点に寄りがちです。しかし AI 医療の影響を最も直に受けるのは患者です。患者の側から見れば、いくつか当たり前の願いがあります。

• 自分のこととして扱われたい ── 統計上の平均値ではなく、自分固有の状態を見てほしい。AI が「同じような患者はこうだった」で片付けることへの不安
• 理由を知りたい ── なぜその診断・治療になったのか、納得できる言葉で聞きたい。「AI がそう言ったから」では納得できない
• 選ぶ余地がほしい ── AI を使う・使わないも含めて、自分で選べる感覚を持ちたい
• データの行き先を知りたい ── 自分の診療データがどこで、何に使われるのかを知りたい

AI の導入で診療の効率が上がっても、患者が「機械の流れ作業で処理された」と感じれば、医療への信頼は下がります。医療は技術であると同時に、人と人の関係です。AI が事務や解析を引き受け、その分だけ医師が患者と向き合う時間が増えるなら、それは倫理的に望ましい方向です。逆に、AI が生んだ時間を別の効率化に回すだけなら、患者にとっての意味は薄れます。AI で空いた時間を、誰のために使うか ── これも倫理の問いです。

07規範 ── 拠って立つ原則と指針

AI 医療の倫理は、ゼロから考える必要はありません。医療倫理には長い蓄積があり、AI にも応用できる原則が整理されています。まず、生命倫理の古典的な 4 原則を土台にします。

この 4 原則の上に、AI 特有の指針が重なります。実務で参照できる主なものを挙げます。

• 世界医師会 (WMA) の声明 ── 「医療における拡張知能に関する声明」で、最終的な判断と患者への責任は医師にあること、AI は医師を置き換えるのではなく支えるものであることを確認しています
• 世界保健機関 (WHO) の指針 ── 「保健分野の人工知能の倫理とガバナンス」(2021 年) で、自律の保護、人間による監督、透明性、説明責任、包摂と公平などの原則を示しています
• 日本の指針 ── 内閣府「人間中心の AI 社会原則」(2019 年) や、総務省・経済産業省「AI 事業者ガイドライン」(2024 年) が、開発・提供・利用の各立場に応じた考え方を整理しています
• 日本医師会「医の倫理綱領」 ── AI 以前からある医師の職業倫理の土台で、患者の利益と信頼を最優先する姿勢は、AI を使う場面でも変わりません

これらの指針は互いに矛盾しません。表現は違っても、「人間の判断を残す」「偏りを避ける」「透明性を保つ」「責任を明確にする」という共通の芯を持っています。個別の技術が変わっても、この芯は動きません。

08本サイトの他の章との接続

AI 医療の倫理は、単独で完結する話ではありません。本サイトの他の章と読み合わせると、判断の解像度が上がります。

• AI Medical シリーズの各回 ── 診断支援・創薬・患者コミュニケーションなど、各応用領域で本回の 4 原則がどう効いてくるかを、具体の場面で確かめられます
• 広告規制の章 ── AI が生成した情報を医療従事者や患者に届ける場面では、薬機法の広告規制 (誇大広告は第 66 条、未承認医薬品等の広告は第 68 条、適正使用のための情報提供は第 68 条の 2) を外せません。表現の正確さと根拠は、AI を使っても人が担保します
• 資材審査の章 ── AI で作った資材も、審査の作法は変わりません。速く作れることと、正しく確かめることは別の工程です
• 社会的信頼・ガバナンスの章 ── 医療は「信頼財」です。一度の倫理的な失敗が、長く積み上げた信頼を損ないます。AI の効率と信頼をどう両立させるかが、経営レベルの論点になります

AI 医療の倫理は、「AI を使うか使わないか」という二択ではありません。使うことを前提に、どう使えば患者の利益と信頼を守れるかを設計する営みです。バイアスは開発の入口から確認する。説明可能性は目の前の患者について語れる形で用意する。同意は書類でなく理解として取る。責任は最終判断を人に残す形で分ける。公平の定義は価値判断として関係者で決め、患者の視点を設計の中心に置く。どれも新しく発明された倫理ではありません。医療がずっと大切にしてきたものを、AI という新しい道具に合わせて言い直しただけです。

製薬に関わる立場から見れば、AI の倫理は規制対応のコストではなく、信頼を積み上げる投資です。次回は、この倫理を現場で実践する主体──医師そのものに焦点を移します。AI を道具として使いこなす力 ── AI リテラシー ── が、これからの医師に何を求めるのかを描きます。