AIは魔法の道具じゃない。アルゴリズムだから、どう使うかが大事

AIって、たまに魔法の道具みたいに扱われます。

入れれば何か賢くなる。つなげれば自動化できる。最新モデルに変えれば精度が上がる。

でも、自分はあまりそう見ていません。

AIも結局、アルゴリズムで動いているものです。

何か特別な力が突然答えを出しているわけではありません。情報を探す。候補を並べる。必要な情報を文脈として渡す。その材料から答えを作る。いくつかの処理がつながって、最後の結果が出ています。

だから大事なのは、「AIを使うこと」よりどう使うかだと思っています。

同じAIでも、置く場所で結果はかなり変わる

例えば、社内の情報をAIに答えさせたいとします。

必要な資料がそもそも入っていないなら、どれだけ賢いモデルを使っても答えられません。必要な資料はあるけど検索で拾えていないなら、直すべきはモデルではなく探し方です。古い情報が上に出るなら、情報の鮮度や優先順位を直す必要があります。

最後の文章だけ見れば、全部「AIの精度が悪い」に見えます。

でも、原因は全部違う。

だから自分は、AIを入れるときに「どのモデルを使うか」だけではなく、どこに置くか、何を渡すか、どこまで任せるか、どこを仕組みとして固定するかをかなり考えます。

アルゴリズムが分かると、使い方を変えられる

自分はAIそのものだけではなく、検索、順位付け、推薦、文脈の作り方など、その周辺のアルゴリズムもかなり見ます。

理由は単純で、仕組みが分かると「なぜこうなったのか」を分解できるからです。

必要な情報が候補に入らなかったのか。候補には入ったけど別の情報に負けたのか。古い情報を優先したのか。材料は正しかったけど最後の答えでズレたのか。

ここまで分かれば、直す場所が見えます。

AIを賢くするというより、AIがちゃんと働ける場所を作る。自分の感覚としてはこっちに近いです。

この考え方はLLMOにもそのまま使っている

自社のAI検索対策でも同じです。

「記事をたくさん書けばAIに出る」という話ではありません。

買い手がどんな問いをするのか。どんな情報源が候補になるのか。会社名、人物、実績、数字、比較基準がちゃんと結び付いているか。情報が古くなっていないか。AIが意味を取りやすい形で書かれているか。

そういう構造を見ます。

だから、一般論を大量に書くより、実際にやったこと、失敗したこと、数字、判断理由、比較基準を残す方を重視しています。

これも結局、アルゴリズムを理解して、どう情報を置けば使われやすいかを考えているだけです。

自社プロダクトにも同じことをしている

PM on Railsや社内の知識基盤でも、AIをつなげて終わりにはしていません。

どの情報を正式なものとして扱うか。元の情報が変わったら、そこから作られた情報をどう見直すか。古い情報をどう扱うか。似た情報が複数あるとき何を優先するか。答えの根拠をどこまでたどれるようにするか。

こういうところまで設計します。

実際に運用して、古い情報が残る、似た情報が増えすぎる、元の情報を変えても下流へ反映されない、といった問題も踏みました。

AIを入れたら終わりじゃない。普通にシステムなので、運用すれば普通に設計上の問題が出ます。

その難しさは、別の記事にもまとめています。グラフ型データベースのAIエージェント、運用して分かった難しさ

結局、AIで差がつくのは「どう使うか」だと思う

最新のAIを使うこと自体は、もうそんなに差にならないと思っています。

同じモデルは他社も使えます。同じ道具にもアクセスできます。

差が出るのは、その道具をどこへ置くかです。

何をAIに任せるか。何を人が判断するか。何の情報を渡すか。どんな順番で処理するか。どこに検証を入れるか。どう業務や顧客価値につなげるか。

AIは魔法の道具じゃない。アルゴリズムでできているものだから、仕組みを理解して、結果が出る使い方を考える。

自分たちがAI開発、LLMO、社内システム、自社プロダクトでやっていることは、結局ずっとこれなんだと思います。