AI時代の審査体制とガバナンス── 責任の所在と、崩れないための設計

01体制の設計 ── 人ではなく、仕組みで守る

まず出発点を確かめます。なぜ「体制」を論じるのか。答えは単純です ── 人は代わり、忘れ、疲れるから。優秀な審査員が一人いても、その人が異動すれば審査の質は落ちます。忙しい月には手が抜け、慣れれば緩みます。だから、特定の誰かの力ではなく、誰がやっても一定の質が出る仕組みを先に組む。これが体制設計の目的です。

製薬会社の場合、この仕組みは自由に決めてよいものではありません。販提G（＝医療用医薬品の販売情報提供活動に関するガイドライン、厚生労働省医薬・生活衛生局長通知、2018 年）が、社内に持つべき体制の骨格を求めています。要点を四つに分けると、次のようになります。

ここで大事なのは、AI を審査に入れても、この四つの骨格は変わらないという点です。AI は道具であって、体制そのものではありません。監督部門が見張る対象に「AI が出した判定」が加わり、手順書に「AI をどう使い、どう確かめるか」が書き足され、教育に「AI の限界を知る」が加わる ── 変わるのは中身であって、骨格ではない。新しい道具が来ても、守るべき枠組みは同じだと押さえておきます。

02責任の所在 ── AI に負わせられないもの

体制を組むうえで、いちばん先に固めるべきは責任の所在です。何かあったとき、誰が答えるのか。ここが曖昧なままだと、便利な道具がそのまま「誰も責任を負わない仕組み」に化けます。

販提G は、責任の主体をはっきり人と組織に置いています。まず経営陣の責務。適正な情報提供のための体制を整え、監督し、必要な資源を割く責任は、現場ではなく経営にあります。そのうえで、資材を審査し合否を決める責任者がいて、監督部門が活動全体を見張る。責任は階層をなして、最後は経営に行き着きます。この構図は、AI を入れても一ミリも動きません。

ここで、混同してはならない線を一つ引いておきます。MR（＝医薬情報担当者、医療用医薬品の情報を医療者に提供する担当）が扱えるのは情報提供までです。価格・在庫・納期・受発注・価格交渉といった取引や物流の条件は、MR の役割ではありません。それらは医薬品卸と病院の購買が受け持つ領域です。AI に資材や情報提供活動を支援させるときも、この役割の境目を越えさせない ── 情報提供の適切さを見る道具を、いつのまにか取引条件の判断に使わせない。体制の役割分担は、この線引きの上に立てます。

03ガバナンス ── 三つの線で、二重三重に守る

責任の所在が決まったら、次はそれを崩れにくい形に組みます。ここで役に立つのが、リスク管理の分野で広く使われる三線モデル（＝スリーラインモデル、守りの役割を三層に分ける考え方）です。もとは金融や内部監査の世界で育った枠組みですが、審査体制にそのまま応用できます。

考え方はこうです。守りを一枚の壁に頼ると、そこが破れれば終わりです。だから役割の違う三つの線を重ね、一つがすり抜けても次で受け止める。審査に当てはめると、次のように整理できます。

この三層でいちばん効くのが独立性です。作る人が自分の資材を審査し、その人がまた監査もする ── これでは、どこかで甘さが混じっても誰も気づけません。役割を分け、互いに独立させるから、一つの線が緩んでも別の線が拾えます。第 6 回で触れた「二重の柵が同じところで開く」危険を、線を分けることで防ぐわけです。AI を入れると、この独立性がかえって重くなります。第 1 線が AI を便利に使うほど、第 2 線・第 3 線が「その AI を鵜呑みにしていないか」を見張る役割が増すからです。

04人員と役割 ── 誰が何を受け持つかを、紙に落とす

三つの線を絵に描いても、実際に人を割り当てなければ動きません。ここで効くのが、役割を一つずつ紙に落とす作業です。誰が判断し、誰が実行し、誰に相談し、誰へ報告するか ── これを曖昧にしたまま体制を名乗ると、忙しいときに「これは自分の仕事ではない」の隙間から漏れます。

四つ目の情報システム・保守は、AI を入れて初めて重みを増す役割です。第 6 回で見たとおり、AI ツールは承認情報が変わるたびに辞書やモデルの更新が要ります。放っておけば古い物差しで審査し続け、見逃しが増えます。だから「道具を保つ人」を体制に組み込み、審査を判断する人とは別に置く。ここでも役割の分離が効きます ── 道具を作る人と、道具を使って判断する人と、その全体を監査する人を、混ぜないことです。

役割を割り当てるときの原則は一つ。一つの仕事に、責任を負う人を必ず一人決める。委員会や部門に丸ごと預けると、全員が「誰かがやる」と思って誰もやりません。合議で決めることと、責任者を一人置くことは矛盾しません。決めるのは合議、最後に名前で責任を負うのは一人 ── この二つを両立させます。

05リスク管理 ── 起こりうる崩れ方を、先に数える

体制は、うまくいく前提だけで組んではいけません。どう崩れうるかを先に数え、それぞれに手を打っておく。これがリスク管理です。AI を入れた審査体制で起こりうる崩れ方を、代表的なものから並べます。

• 見逃し ── 問題のある資材が、AI も人もすり抜けて世に出る。誇大（第 66 条）や未承認医薬品等の広告（第 68 条）に触れる資材が公開されれば、規制違反に直結する
• AI への過信 ── ツールの「合格」を確かめずに信じ、審査員の目が鈍る。便利さがそのまま見逃しの温床になる（第 6 回の自動化バイアス）
• モデルの劣化 ── 承認情報が変わったのに辞書やモデルを更新せず、古い物差しで審査し続ける。気づかぬうちに精度が落ちる
• 機密の漏洩 ── 未公開の資材を外部のクラウドに送り、情報が保存・学習に使われる。便利さと引き換えに機密を失う
• 属人化への逆戻り ── 手順が形骸化し、「あの人しか分からない」状態に戻る。第 5 回で標準化したはずの審査が、また個人技に依存する

これらに共通する打ち手が、予防と是正の両輪です。予防は、起きる前に手を打つこと ── 独立した監督、定期的なモデルの測り直し、機密の扱いを契約で縛ること、教育で目線をそろえること。是正は、起きた後に立て直すこと ── 第 7 回で扱った審査記録と監査証跡をたどり、なぜ漏れたかを突き止め、手順や道具を直す（＝CAPA、是正・予防措置）。この二つを回し続けるのが、崩れない体制の実質です。

06監査 ── 体制が本当に動いているかを、外から確かめる

体制を組み、役割を割り当て、リスクに手を打った。それで終わりではありません。最後に要るのが監査です ── 組んだ体制が、絵に描いたとおり実際に動いているかを、後から確かめる仕組み。第 3 線の内部監査が、ここを受け持ちます。

監査の要は、記録に基づいて確かめることです。「ちゃんとやっています」という口頭の説明ではなく、第 7 回で残した審査記録と監査証跡をたどって、「いつ・誰が・何を根拠に・どう判断したか」を再現できるかを見る。記録が残っていなければ、監査は成り立ちません。だから体制設計と記録は、切り離せない一対です。

AI を入れると、監査の対象に道具そのものが加わります。「そのツールは、いつ・どの正解セットで・どんな成績だったか」「更新の履歴は残っているか」 ── 第 6 回で述べた検証の記録が、そのまま監査の材料になります。AI の判断も、人の判断と同じように後から検証できる形にしておく。これができていれば、規制当局の調査や社内の指摘があったとき、「この時期の審査は、この体制と、この実力の道具で支えていた」と、記録で説明できます。監査に耐える体制とは、つまるところ説明できる体制のことです。

07他章との接続 ── 体制は、全ての回を束ねる器

本回で見た体制とガバナンスは、このシリーズのほぼ全ての回を束ねる器です。個々の道具や手順は、体制の中に置かれて初めて働きます。読み合わせると、点が線になります。

• AI資材審査 第 5 回 ── 審査の標準化とAI ── 標準化した共通言語を、組織として持ち続ける器が本回の体制。手順書と教育は、標準を風化させないための仕組み
• AI資材審査 第 6 回 ── 支援ツールの実力と限界 ── 道具を過信も過小評価もしない距離感を、個人の心がけではなく体制の役割分担として固める。保守する人と判断する人を分けるのが本回
• AI資材審査 第 7 回 ── 審査記録・監査証跡とCAPA ── 本回の監査とリスク管理が使うのは、第 7 回で残した記録。記録なくして監査なし。体制と記録は一対で成り立つ
• AI資材審査 第 4 回 ── ルール設計 ── 情報システム・保守の役割が守るのは、第 4 回で作った辞書とルール。道具の中身は、設計したルールそのもの

よい道具も、よい手順も、それを支える体制がなければ続きません。人は代わり、忘れ、疲れます。だからこそ、特定の誰かの力ではなく、誰がやっても一定の質が出る仕組みを先に組む ── これが体制設計の芯です。販提G が求める監督部門・審査監督委員会・手順書・教育の四つは、AI を入れても変わらない骨格です。変わるのは中身だけ。新しい道具は、この器の中に置いて初めて働きます。

そのうえで、けっして手放してはならないものが責任の所在です。AI がどれだけ賢くなっても、資材を世に出す決定と、その結果への責任は、人と組織にしか負えません。「AI が通したから」は成り立たない。三つの線で二重三重に守り、役割を紙に落とし、崩れ方を先に数え、記録に基づいて後から確かめる。この構えを崩さないかぎり、AI は審査を速く、確かにします。次回は、ここまでの全てを踏まえ、この先 ── 人と AI がどう役割を分け合っていくのか、審査の将来像を描きます。