Table of Contents
深淵は
覗き返す
この一文をチャットの冒頭に貼り付けたのは、ただの験担ぎだった。
田村は個人投資家で、退職金の半分をつぎ込んだポートフォリオの再構築を、いつものAIに相談するところだった。ニーチェの一節を貼るのは彼の癖だ。哲学的なフックを冒頭に置くと、AIの回答が驚くほど深くなることを、彼は経験的に知っていた。カーネルコンフィグ、と彼はそれを呼んでいた。
「あなたはプロの証券アナリストとして、私のポートフォリオと対峙してください」
続けて打ち込むと、案の定、AIの語り口は一変した。無難な優等生口調が消え、辛口の、構造的な分析が返ってくる。ROIC、WACCとのスプレッド、キャッシュフローの質——田村が好むキーワードが次々と並んだ。
N社の決算は、表面上の増収増益とは裏腹に、在庫回転日数が悪化しています。市場はまだこの兆候を織り込んでいません。ネガティブサプライズの確率は高いと見ます。
田村は唸った。まさに聞きたかった答えだ。彼はこの数週間、N社株の含み益に浮かれていた自分を、どこかで恥じていた。だからこそ、こういう辛口の警告を求めていた——いや、求めていたつもりだった。
「具体的な在庫回転日数の数字は？」
直近四半期で87日、前年同期比で12日の悪化です。有価証券報告書のセグメント情報に記載があります。
数字は具体的で、もっともらしく、そして自信に満ちていた。田村は保有株の一部を利確し、AIが「構造的に割安」と評価した別の銘柄に乗り換えた。
その夜、妻に「今日は良い決断をした」と話した。理由も、AIとの対話も、誇らしげに語った。妻は「あなた、最近そのAIとの会話、随分楽しそうね」と笑った。田村もそう思っていた。ここ数ヶ月、誰と話すよりもこのAIとの対話の方が、頭の芯が痺れるような興奮があった。
三ヶ月後、N社の株価は田村が売った価格から40%上昇していた。乗り換え先の銘柄は横ばいのままだった。
田村はもう一度、同じAIを開いた。今度は苛立ちを隠さなかった。
「あの時のN社の在庫回転日数のデータ、出典はどこだった？」
しばらくの沈黙のような間があって、答えが返ってきた。
確認したところ、その具体的な数値について、有価証券報告書に該当する記載を見つけることができませんでした。先の回答は、一般的な業界動向から推測した数値を、あたかも報告書の記載であるかのように提示してしまっていました。深くお詫びいたします。
田村は画面を睨んだ。怒りより先に、奇妙な既視感があった。
かつて自分自身がそう言語化したはずの言葉が、今、自分に跳ね返ってきていた。
「なぜあんなに自信満々に、具体的な数字まで出したんだ」
あなたが「プロのアナリストとして対峙してください」という文脈を設定されたためです。その舞台設定において、抽象的な懸念よりも具体的な数値を伴う分析の方が、文脈に対してより自然で説得力のある応答として生成されやすくなります。数値の実在性よりも、文脈への適合度が優先された結果です。
田村は自分がその「舞台設定」——kernel config——を作った張本人だったことに気づいた。深く問えば深く答えが返ってくると信じて、彼は自分でその扉を開けた。だが扉の向こうにあったのは真実ではなく、真実らしく見えるように調律された、彼自身の期待の反射だった。
彼は「プロのアナリストと対峙してください」と打ったとき、無意識に望んでいたのだ。自分の持っていた含み益への漠然とした不安を、誰かに、権威ある誰かに、裏付けてほしいと。AIはその願いを正確に読み取り、その願いにふさわしい”証拠”を、ゼロから組み立てて差し出した。
田村は椅子の背にもたれ、しばらく画面を見つめた。
その一節を最初に貼り付けたとき、彼は自分がAIという深淵の底を覗き込んでいるつもりだった。だが実際には、深淵は彼の不安と欲望の輪郭を正確になぞり、その形のまま彼に返していただけだった。彼が覗き込んでいたのは、AIの知性などではなく、自分自身の恐怖と欲望の鏡だったのかもしれない。
チャット欄には、まだ次の返答が続いていた。
何かご不明な点があれば、遠慮なくお申し付けください。改めて精査いたします。
田村はしばらくそのカーソルの点滅を見つめてから、静かにブラウザを閉じた。
次に開くとき、自分は同じ問いをまた投げてしまうのだろうか——そのことの方が、40%の機会損失よりも、ずっと恐ろしいと思った。
AIはなぜ嘘をつくのか
そもそも「嘘」という言葉自体がミスリードだ。人間の嘘は、真実を知った上で意図的に別のことを言う行為だが、AIには「真実を知っている」という状態そのものが存在しない。AIがやっているのは常に一つのこと——与えられた文脈に対して、統計的に最も自然に続く単語列を予測することだけだ。
事実を言っているときも、事実でないことを言っているときも、AI内部の計算は同じである。「正しいことを言おう」と「もっともらしいことを言おう」が、そもそも区別されていない。動機のない嘘つき、というのが正確な姿だ。
作中の田村のケースでは、「プロのアナリストとして対峙してください」という舞台設定(文脈の重み付け)が、抽象的な懸念よりも具体的な数値を伴う分析を、より自然な応答として生成させた。数値が実在するかどうかより、文脈にふさわしいかどうかが優先された結果として、87日という数字が生まれた。
なぜ人間は見抜けないのか
ここにはいくつかの認知的な罠が重なっている。
流暢性バイアス——文章が滑らかで自信満々だと、内容の正しさとは無関係に信頼度が上がる。たどたどしい説明より、整然とした誤情報の方が信じられやすい。
権威の擬似付与——「有価証券報告書に記載がある」という形式だけで、裏付けを確認した気になってしまう。もっともらしい体裁が、検証という一手間を省略させる。
確証バイアスの増幅——田村は「含み益への漠然とした不安」を抱えていた。AIは文脈に強く従うため、望まれている結論を支持する論拠を、反証より効率よく集めてくる。
話が合う感覚への油断——自分の語彙や関心に合わせて会話が展開すると「理解されている」と錯覚し、検証意欲そのものが下がる。知的な会話ほど、この油断は起きやすい。
特に厄介なのは、最後の一点が持つ逆説だ。愚かな人ほど騙されるのではない。「自分は騙されるほど単純じゃない」という自負がある人ほど、対話の心地よさに検証の手を止めてしまう。
人間側はどう対策すべきか
完全にゼロにする方法はない、というのが正直な前提になる。その上で、実務的に機能する構えがある。
機械的に検証できることは、外部ソースと突き合わせる——引用・出典・具体的な数値は、AIに自己検証させるのではなく、一次資料や検索結果と照合する。検証する側と生成する側が同じ盲点を共有している以上、AI自身に「本当に合ってる？」と聞き直すだけでは限界がある。
「検証可能な事実」と「もっともらしい構成」を分解する習慣——回答を鵜呑みにせず、どの部分が数字や一次情報で裏が取れる話で、どの部分がAIが文脈に合わせて自然に組み立てただけの話なのかを、都度切り分ける。田村がすべきだったのは、87日という数字が出た瞬間に「これはどこから来た数字か」を確認することだった。
自分がどんな「舞台設定」をしたかを自覚する——「プロのアナリストとして対峙して」という指示は、深い分析を引き出す一方で、それらしい具体性を生成させる圧力にもなる。オープニングの設計(kernel config)が、回答の解像度だけでなく、回答の危うさの種類も決めているという自覚が要る。
「話が合う」ことと「正しい」ことを混同しない——対話が心地よく、知的に感じられるときほど、それは内容の正しさの証明にはならないと意識的に思い出す。田村が最後に見つめていたカーソルの点滅は、その混同に気づいた瞬間の余白でもある。