AIに殺人犯役をやらせたら、親切すぎて自白しそうだった

AIでミステリーゲームを作っています。雪で閉ざされた山荘で殺人事件が起き、五人の容疑者へ自由に質問し、証言の矛盾や証拠から犯人を当てるゲームです。

かなり面白そうなんですが、一つ根本的な問題がありました。

AI、親切すぎる。

普通のAIは、質問されたらできるだけ役に立つ答えを返そうとします。普段なら長所です。ただ、殺人犯役では困ります。

「昨夜どこにいましたか」「凶器を知っていますか」と聞かれて、素直に真相へ近づく情報を出し続けたらゲームになりません。

開始三分で最終回です。

そこで、AIを賢く答えさせる前に、「何を知らないことにするか」「何を知っていても隠すか」を設計する必要が出てきました。

犯人へ真相を全部教えて「うまく演じて」と頼むだけでは足りません。

捜査協力がすごい。

犯人より警察向きです。

「知らない」と「隠している」を分けないと、全員同じ人になります

人物ごとに分ける必要があるのは、知識の量だけではありません。

同じ「知りません」という答えでも、本当に知らない人、見たけれど関わりたくなくて隠す人、犯人なので嘘をつく人では意味が違います。

この違いがないと、登場人物は全員「質問された情報を適当に出し入れするAI」になります。それでは推理できません。

プレイヤーが見抜くべきなのは答えそのものだけでなく、なぜその人がそう答えたかだからです。

そこで、事件の本当の姿、その人物が知っていること、プレイヤーがすでに知っていること、過去に何と証言したかを分けて持たせる設計にしました。

嘘つきにも品質管理が必要です。

会社として書くとかなり不穏ですが、ゲームの話です。

過去の証言を忘れると、矛盾が全部ただの物忘れになります

ミステリーでは、過去に何を言ったかが重要です。

最初に「十時には部屋にいました」と言った人が、後で「十時は食堂にいました」と答えたら、その違い自体が手がかりになります。

ところがAIが過去の発言をうまく持てていないと、この矛盾が「犯人だから嘘をついた」のか「単に前の会話を忘れた」のか分からなくなります。

犯人のアリバイより記憶力を疑うゲームになる。

そのため、過去の証言を残し、新しい発言と食い違った時に矛盾として扱えるようにします。

証拠を見せても何も変わらない犯人は強すぎます

逆に、秘密を守らせすぎてもゲームになりません。

証拠を見せても、目撃証言を出しても、ずっと「知りません」と言い続ける犯人は推理の対象ではなく壁です。

だから、証拠が増えるほど反応を少しずつ変える必要があります。最初は完全否定し、証拠が一つ出たら一部だけ認め、別の証言とぶつかったら説明を変える。こうすると、何を答えるかだけでなく、どの順番で情報が出るか自体がゲームになります。

ここでShirokaneの画像を入れる予定

実際の尋問画面、人物ごとの知識、証拠と証言の関係が見えるスクリーンショットをここへ入れる予定です。

殺人犯の口止めを考えていたら、会社の情報管理と同じ話になりました

この設計はゲームだけの話ではありません。

会社でも、AIが知っている情報を誰にでも全部答えれば便利、とは限りません。人事評価、顧客との契約、経理の数字など、知ってよい人が限られる情報があります。

会社のAIが全部知っていて、誰にでも親切に全部答える。

犯人より困る。

だから「AIが何を知っているか」だけでなく、「誰に何を見せてよいか」まで設計する必要があります。

実務のナレッジシステムへ応用すると、何ができるのか

この考え方を会社のナレッジシステムへ持ち込むと、単なる「社内文書を検索できるAI」より一段進んだことができます。

例えば、営業担当者には顧客との契約条件や提案履歴を見せる。一方で、人事評価や役員向けの財務情報は見せない。管理職には部門の目標やメンバーの担当業務まで見せる。ただし、他部門の機密案件までは見せない。

さらに重要なのは、情報が変わった時に、その影響先まで追えることです。

たとえば取引条件が変更されたとします。その変更が、営業マニュアルだけに関係するとは限りません。見積書のテンプレート、社内の承認手順、顧客への説明文、システム上の入力ルールまで影響する可能性があります。

普通の検索は「新しい情報を探す」ことは得意です。でも実務で本当に困るのは、何が変わった結果、どこを直さなければいけないのかです。

犯人の証言が変わったら、アリバイ表だけ直して終わりではない。

他の証言、証拠、時系列まで確認しないと事件全体が壊れます。会社も同じです。

規程が変わったら、その規程を参照しているマニュアル、申請書、業務手順、教育資料まで影響を追える。顧客との契約が変わったら、その条件を前提にしている見積もりや業務の流れを見つけられる。仕様が変わったら、その仕様に依存している設計や作業を洗い出せる。

ここまで来ると、AIは単に「会社のことを知っている検索窓」ではありません。

会社の中で、何が何に依存しているかを追える仕組みになります。

ミステリーゲームでやっているのは、誰が何を知り、どの証言とどの証拠がつながっているかを管理することです。実務では、それが「誰が何を見てよく、どの情報がどの業務や文書へ影響しているか」に変わります。

殺人犯を作っていたら、企業のナレッジ基盤になりました。

難しい技術を説明するより、犯人を作った方が分かりやすいことがあります

もともと、AIが情報同士の関係をたどって答える仕組みを分かりやすく説明したい気持ちもありました。ただ、普通に説明すると急に専門用語が増えて眠くなります。自分でも眠いです。

それなら「犯人は凶器を知っている。でも目撃者は知らない」という世界を作った方が早い。誰が何を知るか、どの証拠とどの証言がつながるかは、専門用語を知らなくても理解できます。

最近は、難しい仕組みを説明したい時、説明する前に変なものを作るのもありだと思っています。

記事一本のために殺人事件まで起こしているので。

もちろん架空です。