生成AIに任せられない商材で、1週間で動く推薦エンジンのPoCを作った案件
- 何に困っていたか
- 推薦文をAIに自由に書かせられない前提があり、候補をまとめてLLMに渡して並べさせる一般的な作り方が最初から使えませんでした。
- 何をしたか
- LLMに任せるのは、入力された文章を検索条件に変える処理と、検索が照合した根拠の範囲で推薦理由を文章にする処理の2つだけにしました。検索は語句の一致(BM25)と意味の近さ(ベクトル検索)を並行して走らせてRRFで統合し、並べ替えは自前のスコア関数で毎回同じ結果が出るように実装しました。
- どうなったか
- 相談から1週間で動くPoC
- 検索・並べ替えは10ms未満
- 推薦理由をスコアの内訳で説明
AIに何をさせないかを先に決めてから設計するので、「AIにお任せ」で済ませられない事情があっても、動くものと説明できる根拠が同時に手に入ります。並べ替えの根拠はスコアの内訳として数値で残し、精度は評価用のテストで測れるようにしてあります。

