逸脱検出をAIで ── 誇大・承認外・出典欠落── 逸脱の芽を機械が拾い、人が確かめる

01逸脱の型 ── 資材で問題になるのは、だいたい決まっている

資材審査で引っかかる逸脱は、無限にあるわけではありません。医療用医薬品の資材でくり返し問題になる型は、ある程度決まっています。まずこの型を整理しておくと、AI に何を探させるかが見えてきます。

四つに共通するのは、「書かれた文言」と「承認・出典という事実」との、ずれだという点です。逸脱とは、文章が単独で悪いのではなく、資料の外にある事実（添付文書の承認内容、引用元の原著）と照らして初めて逸脱になります。ここが、AI 検知の設計を左右する肝になります。

02AI 検知の仕組み ── ルールで拾い、意味で読む

資材の逸脱を AI に探させるとき、方法は大きく二つに分かれます。組み合わせて使うのが実務の形です。

一つはルールベース。「著効」「必ず」「世界初」といった要注意語のリストを作り、機械的に引っかける。速くて、なぜ引っかかったかも明快です。ただし言い換えには弱い。「著効」を禁止しても「目覚ましい改善」と書かれれば素通りします。

もう一つが大規模言語モデル（＝大量の文章で学習した AI、以下 LLM）による意味の照合です。LLM は語そのものではなく、文の言おうとしていることを読みます。「目覚ましい改善」も「著効」も、効果を過大に見せる同じ意図として拾える。ただし LLM は前回までの回でも見たとおり、意味を理解しているのではなく「この文脈で次に来そうな語」を確率で並べているだけです。だから、もっともらしく外すことがあります。

実務では、まずルールで明白な地雷語を拾い、次に LLM で言い換えや文脈依存の逸脱を拾う、という二段構えが現実的です。そして LLM に照合させるなら、照らす相手の事実を必ず一緒に渡す。承認内容を見せずに「承認外か」を聞いても、モデルは知っているふりで答えてしまいます。

03誇大の検知（第 66 条）── 「効きすぎ」を読み取る

薬機法第 66 条は、医薬品等の効能・効果や安全性について、明示・暗示を問わず、虚偽または誇大な記事の広告・記述・流布を禁じます。資材でいちばん多い逸脱がこれです。誇大は、はっきりした嘘だけでなく、言い切りや強調の積み重ねでも生まれます。

AI に誇大を拾わせるとき、目のつけどころは次のようなものです。

• 断定の強さ ── 「必ず」「確実に」「安全」と言い切っていないか。医薬品に絶対はなく、言い切りはそれ自体が誇大に傾く
• 安全性の過小表現 ── 「副作用がほとんどない」「心配なく使える」など、リスクを実際より軽く見せていないか
• 最上級・唯一性 ── 「最も効く」「唯一の」など、裏づけのない一番手表現
• 体験談・写真による暗示 ── 文章では言っていなくても、劇的な変化を示す図や症例写真で効果を過大に印象づけていないか

LLM はこうした「言い切りの強さ」や「印象の過剰さ」を読むのが比較的得意です。要注意語のリストだけでは取りこぼす婉曲な誇大を拾えます。一方で、適正な範囲の記述まで「誇大かもしれない」と拾いすぎる傾向もあります。強く拾って人に判断させる設計なら、この拾いすぎは許容できます。逆はできません（第 6 節）。

04承認外効能の検知（第 68 条）── 添付文書と照らす

第 68 条は、承認を受けていない医薬品等について、その効能・効果等の広告を禁じます。承認された薬でも、承認された効能・効果の範囲を超える使い方を資材で示唆すれば、実質的に未承認の広告になり得ます。適応外使用の示唆は、資材審査で最も神経を使う領域の一つです。

この検知は、誇大の検知とは性質が違います。文章を読むだけでは判定できません。その薬の添付文書に書かれた承認内容と、一文ずつ照らす作業だからです。だから AI に任せるなら、承認された効能・効果、用法・用量、対象患者を、照合材料として必ず与えます。

実務での使い方はこうです。AI に、資材中の効能・効果に関する記述をすべて抜き出させ、それぞれが添付文書のどの記載に対応するかを並べさせる。対応する承認記載が見つからない記述は、承認外の疑いとして人に回す。抜き出しと対応づけという手間仕事を AI が肩代わりし、審査者は疑わしい箇所の判断に集中できます。

05出典・根拠の欠落 ── 数字とグラフの後ろを見る

販売情報提供活動に関するガイドライン（＝販提G。医療用医薬品の販売情報提供活動に関するガイドライン、2018 年の厚生労働省医薬・生活衛生局長通知）は、提供する情報が科学的・客観的な根拠に基づき、出典を明記することを強く求めます。資材の逸脱で見落とされがちなのが、この根拠の欠落です。文章表現は穏当でも、後ろの数字が浮いていることがあります。

AI が拾えるのは、たとえば次のような欠落や不整合です。

• 出典のない数値・グラフ ── 「有効率 80%」に引用元が付いていない
• 本文と引用元のずれ ── 引用された論文の結論と、資材の言い回しが食い違う（原著は限定的な効果しか言っていないのに、資材は一般化している）
• 社内データの偽装的提示 ── 社内推計やアンケートを、査読論文の結果のように見せる
• グラフの体裁による誇張 ── 軸の途中省略や目盛りの操作で、差を大きく見せる

ここで注意したいのは、AI の限界です。「出典が書かれていない」ことは AI でも比較的検知できます。ところが「書かれた出典が本当にその内容を裏づけているか」は、引用元の原著を実際に読み合わせないと分かりません。AI に原著を渡さなければ、モデルは引用の当否を確かめようがなく、あるかどうかも怪しい整合性を「たぶん合っている」と流してしまいます。出典の有無は AI、出典の当否は人が原著で ── ここも分担がはっきりしています。

06偽陽性と偽陰性 ── どちらを恐れるかで設計が決まる

検知システムの良し悪しは、二種類の外し方で測ります。偽陽性（＝逸脱でないのに逸脱と拾う）と偽陰性（＝逸脱なのに見逃す）です。この二つは、片方を減らすともう片方が増える、綱引きの関係にあります。

資材審査で許されない失敗は、はっきりしています。偽陰性です。逸脱を見逃して資材が出れば、誇大広告や承認外効能の発信という実害が出ます。一方、偽陽性で人の確認が増えるのは、面倒ではあっても被害ではありません。だから AI 検知は、「拾いすぎてでも見逃さない」側に振るのが原則です。感度を高く設定し、拾った候補を人が一つずつ落としていく。静かに素通りさせるより、うるさく拾って却下されるほうが、審査の目的にかないます。

07人の最終確認 ── AI は下ごしらえ、判定は人

ここまでを一本にまとめると、AI と人の役割はきれいに分かれます。AI が引き受けるのは、広く・速く・疲れずに拾うこと。人が引き受けるのは、拾われた候補を事実と照らして判定し、責任を負うことです。

審査者の手元に残る仕事は、次の三つに絞られます。

• 事実と照らす ── AI が拾った候補を、添付文書・引用元の原著・関連通知と突き合わせ、本当に逸脱かを確かめる。ここは一次資料に当たる人の仕事で、AI に委ねきれない
• 文脈で判断する ── 同じ文言でも、資材全体の流れや対象読者によって、逸脱かどうかは変わる。全体を読み通す判断は人が担う
• 合否と記録に責任を負う ── 通す・直す・止めるの決定と、その根拠の記録。「AI が問題なしと言った」は、審査を通した理由にならない

この分担が守られていれば、AI の導入は審査を速くし、見落としを減らします。逆に、AI の「問題なし」を鵜呑みにして人の確認を省けば、速くなった分だけ危うくなる。速さで浮いた時間は、確認を厚くするために使う ── 前回までの回で繰り返してきた原則が、ここでもそのまま効きます。厚生労働省が公表する販売情報提供活動の監視事業報告を見ても、逸脱の多くは「誰も確かめなかった一文」から生まれています。最後の関所は、人が守ります。

08他章との接続 ── 検知から、その先へ

本回の逸脱検知は、AI資材審査シリーズの他の回や、本サイトの他章とつながっています。読み合わせると、AI を審査に組み込む全体像が立体になります。

• AI資材審査 第 4 回 ── ルールをAIに持たせる（ガードレール設計） ── 本回は「逸脱を拾う」話。次回は、そもそも逸脱を作らせない枠（ガードレール）を AI にどう持たせるかを扱う。検知の前段にあたる設計論
• AI Programming 第 1 回 ── コード生成の基礎 ── LLM が「意味を理解せず、ありそうな続きを並べている」原理。本回で AI 検知を鵜呑みにできない理由の土台
• AI Marketing 第 5 回 ── 製薬コンテンツの規制 × AI ── 生成の速さと審査の重さのバランス。作る側と審査する側を、同じ規制の物差しで読み合わせる

逸脱検知に AI を入れる意味は、「合否を機械に決めさせる」ことではありません。人の目が疲れて取りこぼす前に、機械が広く速く逸脱の芽を拾い上げる ── そこにあります。誇大（第 66 条）は言い切りの強さを、承認外（第 68 条）は添付文書との照らしを、出典の欠落は数字の後ろを。型ごとに勘どころは違いますが、共通するのは、逸脱とは資料の外にある事実とのずれだという一点です。

だから AI には、照らす相手の事実を必ず渡す。そして拾った候補は、人が一次資料と突き合わせて判定する。偽陽性は我慢し、偽陰性は許さない。AI が「問題なし」と言っても、それは合格の証明にならない。速く拾えるようになった分だけ、確かめる工程を厚くする。次回は、この検知の一歩手前 ── 逸脱をそもそも生ませない枠を AI にどう持たせるか、ガードレール設計へ進みます。