発見した人を壊さない組織へ: 通報制度とAI創薬をつなぐ「検知の後始末」

「問題を見つける力」が高い組織ほど、問題を見つけた人を壊してしまうことがある。

これは職場のハラスメントだけに限った話ではない。新薬開発にAIを導入する場面でも、同じ構造が現れる。AIは病気の原因になりうる分子や、薬になりうる候補を人間より速く見つけられる。しかし、候補を見つけることと、患者に届く薬をつくることの間には、長い検証、失敗、責任の分担、現場の再設計がある。

一見すると、職場の通報とAI創薬は遠い世界の出来事に見える。けれども両者は、ひとつの深い問いでつながっている。

異常や可能性を検知する仕組みを導入したとき、その発見の後始末を誰が引き受けるのか。

この問いを避けたまま検知能力だけを高めると、組織は賢くなるどころか、発見した人と発見された現場の双方に負担を押しつけることになる。

発見は解決ではなく、負債の発生である

パワーハラスメントを目撃した人が通報するとき、その行為は通常、善意と正義感から出発する。被害を受けている新人を守りたい。見て見ぬふりをしたくない。組織に正しく対処してほしい。ところが、通報によって問題が可視化されても、組織の対応が不十分なら、次に発生する仕事は通報者のもとへ戻ってくる。

事実確認に応じる。関係者から事情を聞かれる。相手との関係が変わる。周囲の視線を受ける。処分や配置転換の結果に責任を感じる。場合によっては、「なぜもっと早く言わなかったのか」「本当にそこまで深刻だったのか」と、通報者自身が説明を求められる。

ここには、見えにくい負債がある。問題を発見した時点では、組織は一つのリスクを新たに認識しただけに見える。しかし実際には、調査、保護、判断、再発防止、心理的ケアという複数の仕事が同時に発生している。検知は無料ではない。検知能力が高いほど、後工程を設計していない組織には大きな負荷がかかる。

AI創薬にも似た負債がある。AIが膨大な化合物の中から、標的に結合しそうな候補を短時間で絞り込めたとしても、それは薬の完成を意味しない。候補は実験で確かめられ、毒性や体内動態が調べられ、製造可能性や臨床上の有効性が検証される必要がある。予測の速度が上がれば、次に待つ実験の列も長くなる。

AIが「有望な候補」を一万件提示したとして、人間の研究チームが扱えるのはその一部だろう。そこで必要になるのは、単に予測精度を上げることではない。どの候補を選ぶか、何をもって失敗とみなすか、どの段階で止めるか、誰が判断を説明するかを決めることである。

発見の自動化は、責任の自動化ではない。むしろ、責任の設計をより急がせる。

「賢い道具」と「安全な仕組み」は別物である

技術導入では、しばしば道具の性能に議論が集中する。AIがどれほど正確か。従来法よりどれほど速いか。何件の候補を見つけたか。しかし、現実の成果は道具の性能だけでは決まらない。成果は、道具と手順と権限と保護策の組み合わせで決まる。

職場の通報制度を例に考えてみよう。匿名窓口があり、相談フォームがあり、規程も整っている。それでも、通報後に被害者や通報者が孤立し、報復を恐れ、調査の進捗を知らされないなら、その制度は形式上存在していても、実質的には機能していない。

AI創薬でも同じだ。優れたモデルがあっても、研究者が予測を検証する実験設備を持たなければ、候補は画面上の数字にとどまる。実験結果をモデルへ戻す仕組みがなければ、AIは現場から学習できない。医療や規制の専門家が判断に参加しなければ、研究室の成功が患者にとっての価値へ変換されない。

この違いを、検知層、判断層、保護層、学習層という四つの層で整理できる。

検知層は、異常や可能性を見つける。通報窓口やAIモデルがここにあたる。判断層は、見つかったものが本当に重要か、何を優先するかを決める。保護層は、問題を知らせた人、検証を担当する人、影響を受ける人を守る。学習層は、結果を次の判断に反映する。

多くの組織は検知層だけを導入して満足する。しかし検知層が強化されるほど、判断層と保護層の弱さが露呈する。通報は受け付けるが、通報者を守れない。候補は生成できるが、検証できない。異常を見つけられるが、止める権限がない。

この状態は、火災報知器だけを増設した建物に似ている。警報は正確になるが、避難経路がなく、消火設備もなく、誰が消防へ連絡するかも決まっていない。警報の性能を褒めることはできても、建物が安全になったとは言えない。

失敗を減らすには、検知より先に「次の一手」を決める

検知システムを設計するとき、最初に問うべきなのは「何を見つけられるか」ではない。「見つかったら、誰が、いつまでに、何をするか」である。

たとえば職場の通報なら、次のような具体性が必要になる。

通報を受けた人は、何時間以内に受領を伝えるのか。通報者と被害者を、調査中にどのように保護するのか。相手との接触を避ける措置を誰が決めるのか。調査の独立性をどう担保するのか。通報者が精神的な負担を受けた場合、どこで支援を受けられるのか。結果をどの範囲まで説明するのか。

ここで重要なのは、通報者を「証拠を提供する装置」と見なさないことである。通報者は調査の入力データではなく、出来事の影響を受ける当事者だ。必要なのは感謝の言葉だけではない。情報提供の負担、報復の可能性、関係悪化のリスクを具体的に減らす仕組みである。

AI創薬の導入でも、同じ設計思想を使える。AIが候補を出したら、誰が検証するのか。予測の不確実性をどのように表示するのか。既存の知識から外れた候補を、誤りとして捨てるのか、探索の機会として残すのか。モデルの結果と実験結果が食い違ったとき、どちらを疑い、どのように再評価するのか。

ここでは、AIの出力を答えではなく、優先順位をつけた仮説として扱う必要がある。仮説には、確からしさだけでなく、検証に必要なコスト、失敗したときの損失、成功したときの社会的価値も含めるべきだ。

この考え方を簡単な式で表すなら、候補の価値は次のように考えられる。

期待価値 ＝ 成功した場合の価値 × 成功確率 － 検証コスト － 失敗時の損失

もちろん、創薬の現実を完全に数式へ押し込めるわけではない。だが、この見方は「AIが高い確率を示したから試す」という単純な判断を防ぐ。患者に大きな利益をもたらす可能性があり、比較的安全に検証できる候補を優先するという、現実的な判断へ近づける。

職場の通報にも同じ式を応用できる。通報を受けた後の期待価値は、問題を是正できる可能性だけでなく、通報者への負担や報復のリスクを差し引いて考えなければならない。組織が通報者に大きな犠牲を要求する制度は、正義を実現する制度ではなく、正義の費用を弱い立場の個人へ転嫁する制度である。

本当に強い組織は、発見者を英雄にしない

問題を発見した人を英雄として称える文化は、一見すると前向きに見える。しかし、それは危険な場合がある。英雄は特別な勇気を持ち、個人的な犠牲を引き受け、最後まで戦う存在として描かれるからだ。

その結果、組織は「誰か勇気のある人が声を上げればよい」と考えてしまう。制度の不備が、個人の人格的強さによって覆い隠される。通報者が疲弊しても、「よく頑張った」と称賛するだけで、次の人が同じ負担を背負わない保証はつくられない。

研究開発でも、AIを使いこなす少数のスター研究者に依存する状態は危うい。彼らがモデルの限界を理解し、実験チームを説得し、経営陣へ価値を説明し、失敗の責任まで背負っているなら、仕組みではなく個人がプロセスを支えていることになる。その人が異動した瞬間、導入は止まる。

成熟した組織は、英雄を必要としない。

通報者が一人で戦わなくてもよいように、複数の窓口と保護措置を用意する。AIに詳しい一人だけが判断しなくてもよいように、科学、臨床、統計、倫理、規制の視点を組み合わせる。個人の勇気や才能を称賛する前に、それらがなくても安全に機能する構造をつくる。

この原則は、AI時代にますます重要になる。AIは発見の能力を広げるが、発見の数が増えるほど、人間の判断は希少な資源になる。だからこそ、判断を個人の直感に集中させず、異論を言える場、記録を残す手順、止める権限、再開の条件をあらかじめ設計する必要がある。

そこで役に立つのが、導入前に行う「負担予算」の設定である。AI導入によって、誰の仕事が何時間増えるのか。新しい検証に必要な設備はあるのか。異常を報告する人は、報告後にどのような心理的負担を受けるのか。負担を測らずに効率化を語ると、効率は単に負担の移転を意味してしまう。

すぐに使える、発見を安全にする五つの原則

1. 検知機能と同時に、対応の所有者を決める

通報やAIの警告を受け取る部署だけでなく、最終的に判断し、保護し、説明する責任者を明確にする。「関係部署で対応する」という表現は、責任者が不在であることの婉曲表現になりやすい。

2. 発見者をデータではなく当事者として扱う

通報者や現場の研究者に、追加の説明や証拠提出を無制限に求めない。相談後の連絡頻度、心理的支援、匿名性、報復防止を手順として用意する。AIの検証担当者についても、失敗の責任を個人に集中させない。

3. 出力ではなく、意思決定の記録を評価する

AIが何件の候補を出したか、通報を何件受けたかだけでは不十分だ。候補がどのような理由で選ばれ、どの時点で中止され、通報後にどのような保護が提供されたかを記録する。成果とは、発見数ではなく、発見を安全な判断へ変換した数である。

4. 停止条件を先に定める

検証が進んでいるから続ける、問題が表面化したから急いで処理する、という惰性を避ける。一定の毒性リスクが確認されたら止める、通報者への報復兆候があれば第三者調査へ移すなど、事前の停止条件をつくる。

5. 成功の定義を「速さ」から「価値への変換」へ変える

AIが候補を出す速度や、通報受付の件数だけを競うと、後工程が破綻する。重要なのは、より安全な薬の候補が検証され、被害が減り、現場の人が次も声を上げられる状態が実現したかどうかである。

結論: 問題を見つける組織から、発見を引き受ける組織へ

私たちは長いあいだ、見えない問題を見えるようにすることを進歩だと考えてきた。もちろん、それは必要である。ハラスメントを見過ごさないことも、病気に関わる新しい分子を見つけることも、最初の一歩になる。

しかし、発見は終点ではない。発見された瞬間、組織は新しい責任を獲得する。そこから先を誰かの勇気や献身に任せるなら、検知能力の向上は被害や混乱の増幅にもなりうる。

AIについても、価値の中心は予測の派手さにはない。価値は、予測を検証可能な仮説へ変え、仮説を安全な判断へ変え、判断を社会的な利益へ変える連鎖にある。

最も進んだ組織とは、最も多くの問題を見つける組織ではない。見つけた問題を、発見者の犠牲なしに引き受けられる組織である。

この視点に立てば、職場の通報制度もAI創薬も、単なる検知技術ではなくなる。どちらも、何を見つけるか以上に、見つけた後に誰を守り、誰が決め、どのように学ぶかを問う社会的なインフラになる。

次に新しいAIを導入するとき、あるいは職場で異常を報告するとき、最初に性能や勇気を問う必要はない。まず尋ねるべきなのは、もっと具体的な問いである。

「それが見つかった後の負担を、私たちは本当に引き受ける準備ができているか」