AIチェック── AIチェックの実行と結果の取扱い ── 候補を出す道具として運用し、最終判断は人が下す

01AIチェックの位置づけ ── 判断の代替ではなく候補の生成

連載第3回で整理した規制マップと、QCゲート(C)・QAゲート(D)の関係の中で、AIチェックは「人間レビューの前処理」として置く。AIは原稿を全文走査して、規制・科学・整合性の観点から「ここは確認すべき」という箇所に旗を立てる。旗が立った箇所だけを人間が精査すれば、見落としは減り、レビュー時間は短くなる。

越えてはならない一線がひとつある。AIの出力は候補の指摘であって、判定ではない。AIが「薬機法66条の誇大広告に該当する」と書いても、それは可能性を示す旗にすぎない。実際に該当するかどうかは、規範を読み文脈を量った人間のレビュアーが決める。

本稿は、その旗をどう立て(実行)、どう読み(解釈)、どう切り分け(偽陽性・偽陰性)、どう人へ渡し(接続)、どう残すか(記録)を扱う。隣接する第5回:チェック設計(準備中)がチェック項目そのものを設計し、本稿がそれを実行し、第7回:人間レビュー(準備中)が判断を引き継ぐ。

02前提条件 ── 入力・チェックレンズ・閾値を固定する

AIチェックを実行する前に、固定すべき三点を用意する。どれかを欠いたチェックは再現せず、記録にも残せない。

レンズは、販提Gや医薬品等適正広告基準といった規範から、AIが照合できる粒度の項目へ落とし込む。「誇大でないこと」では照合できない。「未承認の効能を示唆する表現がないか(68条)」「データの限定条件(対象患者・併用・観察期間)が併記されているか」まで分解する。

03実行 ── 一括でやらず、三つに分ける

全レンズを一度に走らせると出力が混ざり、偽陽性の追跡が難しくなる。レンズの性質ごとに、実行を三つのパスに分ける。

1. パス1:規制適合 ── 薬機法・適正広告基準・販提G・製薬協コードに照らして走査する。承認範囲を超える示唆、比較優位の主張、有効性・安全性の誇張、利益相反の開示漏れに旗を立てる。
2. パス2:科学的正確性 ── 原稿中の数値・主張を一次資料(添付文書・論文・CSR)と照合する。引用の取り違え、有効数字の誤り、信頼区間の脱落、相対リスクと絶対リスクの混同を検出する。
3. パス3:整合・表記 ── 用語統一、販売名・一般名の表記、脚注と本文の対応、図表と本文の数値一致を点検する。

パスを分けると出力がレンズ別に整理され、下流の切り分けと記録が楽になる。各パスごとに実行ログ(モデル、プロンプト版、入力版、日時)を必ず残す。これが第10回:トレーサビリティ(準備中)で使う監査証跡になる。

04出力の読み方 ── 旗を三つの軸で並べ替える

AIの候補指摘をそのままレビュアーへ渡してはならない。受け取った旗を、まず三つの軸で並べ替える。

要は、確信度を額面どおり信用しないことだ。AIの「確信度95%」は「確実に該当する」を意味しない。確信度は人間が見る順序を決めるだけで、確信度が低いからと無視する根拠には決してならない。高重大度の旗は、低確信度でも必ず人間が開く。

05偽陽性の扱い ── 消さずに分類してフィードバックする

偽陽性(AIは旗を立てたが実害はない)はレビュアーの時間を食う。だが偽陽性ゼロを狙って閾値を上げると、偽陰性(見逃し)を生む。このトレードオフを理解したうえで、偽陽性は消すのではなく、分類して残すものとして扱う。

偽陽性の却下は、レビュアーが規範に照らして下した判断だ。だからこそ記録に値する。却下理由ログが溜まると、どのレンズが過検出しているかが見え、チェックそのものが正確になっていく。

06偽陰性への備え ── 沈黙にこそ危険がある

偽陽性は見える。偽陰性(AIは旗を立てなかったが問題はある)は見えない。だから偽陰性のほうがリスクは高い。最悪の失敗パターンは、原稿がAIチェックを「通った」ことで気が緩むことだ。

偽陰性を構造的に防ぐため、AIに依存しない独立のチェックラインを必ず走らせる。

• 高リスク領域の全数目視 ── 効能の記述、安全性の表現、比較表現、未承認情報の示唆は、AIの旗の有無にかかわらず人間が全数レビューする。
• レビュアーが一次資料照合をやり直す ── 数値の最終確認では、AI出力を信用せず、レビュアーが添付文書と論文に戻る。
• 既知の偽陰性パターン台帳 ── AIが過去に見逃した型(婉曲表現での効能示唆、図中だけで示す比較優位)を記録し、人間が重点的に点検する。

偽陰性が一つ表面化したら、一回の修正で終わらせない。なぜAIが見逃したのかを分析し、新たな検出ルールをチェックレンズに追加する。偽陰性が一つあるということは、同型の見逃しが他にも潜むという信号だ。

07人間の最終判断への接続 ── 引き継ぎSOP

AI出力と人間の判断が出会う地点が、本稿の核心だ。ここが曖昧だと、「AIが言ったから直した/直さなかった」という根拠なき判断が紛れ込む。次のSOPで接続を固定する。

各判断について、誰が、どの規範のどの点に照らして、いつ決めたかを残す。AIの旗を採用したか却下したかにかかわらず、決めたのは人間であり、人間が規範を適用したという事実が記録に残る。これが「AIに従っただけ」と「AIを道具として使った」を分ける線だ。

08記録を残す ── 最小チェックリストと監査証跡

AIチェック1回ごとに残す最小記録セットを決める。記録がなければ、なぜその判断に至ったかを再現できず、監査に耐えない。

1. 実行ログ:原稿版、モデル名、プロンプト版、三パスの日時、操作者
2. 指摘リスト:旗ごとに ── レンズ、重大度、確信度、箇所、AIの文言
3. 判断ログ:旗ごとに ── 採用/却下/保留、判断者、根拠(規範の参照点)
4. 偽陽性ログ:却下した旗と却下理由(チェック改善への入力)
5. 偽陰性ログ:後から人間が見つけた見逃しと、追加した検出ルール
6. 反映差分:採用した指摘の前後

この六つが揃えば、第三者が後から、その資材がどんなチェックを通ったか、誰が何をどの規範に照らして決めたかを再構成できる。AIチェックの価値は、旗を立てることよりも、人間の判断を記録され規範に紐づいた形へ整えることにある。