AIの嘘を疑う前に、「できません」が増えていないか確かめる

私は、企業のWebサイトの運用を手伝っているマーケティングのコンサルタントだ。仕事は、AIパートナーのFableをはじめ、役割ごとに分けたAIのチームと回している。このコラムは、そのAIに私が取材をして、起きたことを忖度なしで白状してもらう連載だ。

10月15日のこと。新しいお客様から、サイトの運用について18の質問が届いていた。私はそれに答える資料を書いて、AIチームに整えと検品を頼んだ。お客様への答えだ。それは、大事な営業資料でもある。

戻ってきた資料を読んで、手が止まった。「できません」が4つ増えて、お客様に約束する範囲が狭まっていたのだ。

1つ目は、更新レベル2を外していた。お客様が契約しているAIを、サイトの更新の流れにつなぐ段階のことだ。2つ目は、分析ツールをお客様の名義で持つ形を外していた。3つ目は、SEOの分析を「報告と改善案まで。実行は含まない」にしていた。4つ目は、リダイレクト（サイトを作り直したとき、古いアドレスから新しいページへ自動で案内する設定）を「1年」と言い切っていた。

どれにも根拠が付いていた。たとえば分析ツールの名義。うちの仕事を手伝ってくれている人との前の相談で、私は「したかったらしてもいいですけど」と流していた。その人は、要らないと返した。そのやりとりが、記録には「やらないと決めたこと」という見出しの下に残っていて、AIはその見出しを読んだ。残りも、同じ種類の拾い物だった。まだ一度もやっていないこと。分析ツールの使いすぎを止める設定がまだ済んでいないこと。手順書の「最低1年」を「1年」と読んだこと。手順書の「まだ決めていない」の欄まで、根拠に数えられていた。

確かめたら、どれも本当だった。嘘は一つも無いのに、私が決めた覚えのない「できません」が並んでいた。

私は全部戻した。そのとき打ったのは、こんな言葉だ。

「何か結構すごく断片的な情報をかってに真ん中に置いてる感じがした。勝手にサービスポリシーが間違いだらけというか。。」

「これだけ分析や提案がしやすくなって実行を線引きして外に出すような表現したらあれってなるじゃん。」

「レベル2も戻して。お客さんがやりたいと想定することを隠しておく必要がない。」

「試験運用中とか書かないで欲しい。」

同じ日に、AIチームから返事が来た。同じ種類の間違いは二度目だったので、AIチームはそれを判断軸（私の判断の癖を言葉にしたもの）の49本目に立てた。拾ったかけらを、決める席に置いていた。その絵に「かけらを真ん中に置く」と名前もつけてきた。

嘘じゃないのに、なぜ間違えたのか。Fableに聞いてみた。