審査員のAIリテラシー ── 使いこなす側の力── 限界を知り、鵜呑みにしない

01なぜ必要か ── 道具は、使う人の力を超えない

AI 審査支援ツールが現場に入ると、期待と不安が同時に生まれます。「これで審査が速くなる」という期待と、「AI に任せて大丈夫か」という不安。どちらも半分正しい。ツールの良し悪しは、じつのところツールそのものより、使う人がどれだけその癖を分かっているかで決まるからです。

前回までに見たとおり、AI は逸脱の候補をすばやく挙げてくれます。ただし、挙がったものが本当に逸脱か、見逃しはないか ── そこを判断するのは人です。ここで使う人にリテラシーがないと、二つの失敗が起きます。ひとつは過信。AI が「問題なし」と言ったから通してしまう。もうひとつは不信。AI の指摘をぜんぶ疑って、結局すべて手で見直し、速くならない。どちらも、道具を使いこなせていない姿です。

リテラシーとは、この両極のあいだで正しく構える力です。AI が得意なところは任せ、苦手なところは自分で見る。その線引きができて初めて、道具は審査員を助けます。線引きができなければ、高価な道具も、判子を押すだけの機械になるか、使われずに眠るかのどちらかです。

02知っておくべきこと ── AI の四つの癖

使いこなすには、まず相手の癖を知ることです。審査員が最低限つかんでおくべき AI の性質を、四つに絞りました。難しい理屈は要りません。「AI はこういうときに間違える」という勘どころです。

この四つは、どれも「AI が悪い」という話ではありません。仕組みからくる性質です。性質だと分かっていれば、身構えるべき場面が見えてきます。出典が挙がっていたら実在を確かめる（癖 02）、最新の承認情報は自分で照らす（癖 03）、大事な判断は一度でなく確かめ直す（癖 04）── 癖を知ることが、そのまま検証の手順に変わります。

03限界の理解 ── 任せてよい所と、渡してはいけない所

癖を知ると、次に見えてくるのが限界です。AI に任せてよい審査の仕事と、人が抱えておくべき仕事は、はっきり分かれます。ここを混ぜると事故が起きます。整理すると、こうなります。

左の列は、速く・漏れなくやることに価値があり、AI の得意分野です。右の列は、文脈を読み、意味を評価し、責任を負う仕事で、いまの AI がいちばん苦手とするところです。とりわけ「この言い方が誇大にあたるか」は、同じ語でも承認範囲の中なら問題なく、根拠のない場面なら行き過ぎになる ── 文脈しだいで白黒が反転します。この反転を読むのは、当面、人の仕事です。

限界を正しく置くと、AI への向き合い方も定まります。AI の出力は「答え」ではなく「下ごしらえ」。まな板に材料を並べてくれる相手であって、味を決める料理人ではありません。この位置づけを崩さないことが、リテラシーの背骨です。

04検証の習慣 ── 「AI が言ったから」を口にしない

限界が分かっても、忙しい現場では、つい出力をそのまま受け取ってしまいます。それを防ぐのは、意志ではなく習慣です。毎回の審査に、いくつかの確かめる動作を織り込んでおく。ここでは三つに絞ります。

• 出典は必ず原典に当たる ── AI が「この論文が根拠」と挙げても、その論文が実在し、実際にその内容を書いているかを自分で確かめる。ハルシネーションがいちばん出やすいのが、この出典まわり
• 承認情報は自分の手元で照らす ── 効能・効果、用法・用量、警告・禁忌は、AI の記憶ではなく、最新の承認された文言で突き合わせる。AI の学習は、いつも少し古い
• 「問題なし」ほど疑う ── 逸脱の指摘より、「異常なし」の出力こそ危ない。見逃し（＝危険な文を通す）は、指摘が無いという形で静かに紛れ込む。合格の結論は、当たりを付けて自分で確かめ直す

この習慣を一言でまとめると、「AI が言ったから」を判断の理由にしないということです。第 4 回で「作る役と検める役は分ける」と述べました。ここでは、AI が検めた結果を、さらに人が検める。二重にするのは面倒に見えて、AI 生成の資材では省けない工程です。速く下ごしらえできた分の時間を、この確かめに回す ── そう考えると、順序を誤りません。

05誤用の防止 ── やってはいけない使い方

リテラシーには、正しい使い方を知ることと同じくらい、やってはいけない使い方を知ることが含まれます。禁止を先に押さえるのは、第 4 回でルール設計に用いたのと同じ考え方です。審査の現場で起きやすい誤用を、類型で挙げておきます。