普段から「AIの回答は鵜呑みにするな」と公言している私ですが、先日、GoogleのAIツール「NotebookLM(Google Notebook)」を使っていて、思わず唸ってしまう体験をしました。
以前から「太平洋戦争はなぜ起こったのか」「なぜ日本は米国と開戦に至ったのか」に関心があり、関連書籍などを調べています。 先日、友人から勧められた油井大三郎著『避けられた戦争』(ちくま新書)を図書館で借りて読みました。
読了後、友人と意見を交わす中で「このテーマをAIにぶつけてみたらどんな整理をしてくれるだろうか?」と思い立ち、ルーズベルト大統領の対日観や日系人政策についてAIにリサーチを依頼してみたのです。 ルーズベルト大統領には白人優位的な対日観があり、開戦前から強硬な姿勢を持っていたという言説も耳にしていたため、そのあたりの情報がどう整理されるか見てみたいと考えました。
すると、返ってきた回答は概ね以下のようなものでした。
『当時の米国は孤立主義が主流だったが、日本の真珠湾攻撃によって「自衛のための戦争」という大義名分が立ち、対日参戦へと舵を切ることになった。』
いわゆる米国側の公式見解(定説)に沿った、教科書通りの開戦経緯です。 しかしこれでは、米国側の挑発やルーズベルト政権が抱えていた問題点には触れられていません。そこで、少し踏み込んでこう問いかけてみました。
「この説明はFDR(ルーズベルト)寄りの説明になっていると思います。米国側が日本から戦争を仕掛けさせようと、意図的に行動した事例などはないでしょうか?」
すると、AIは手のひらを返したようにこう答えたのです。
『ルーズベルト政権が日本を軍事行動に追い込み、「最初の一撃(First Shot)」を日本側に撃たせようとしていたとする論点や事例は、米国の修正主義歴史家(チャールズ・ビアード等)をはじめ、現在も活発に議論されています。』
そして、その根拠とされる事例や論点をスラスラと列挙してきました。
この回答を見て、私は強い違和感を覚えました。 「そうした議論や事例のデータを持っているのなら、なぜ最初の質問の段階で『主流の定説』と『批判的な論点』を両論併記してくれなかったのだろうか?」と。
さらに気になり、追加で質問をしてみました。
「戦後、真珠湾に駐留していた米軍兵士や遺族に対して、賠償金のようなものが支払われたという事実はありませんか?」
これに対しては『そのような事実はない』という回答でした。
真珠湾攻撃を巡っては、「米国上層部は暗号解読により奇襲を事前に察知していたが、参戦の口実にするため現地部隊にはあえて警告しなかったのではないか」という疑惑が根強く囁かれています。もし万が一その疑惑が事実なら、真珠湾に置かれていた兵士や遺族から猛烈な抗議や国家賠償請求が起きてもおかしくないはずだ……という私の仮説に基づいた疑問でした(賠償金云々については私の記憶違い・思い込みかもしれませんが)。
ここでハッと立ち止まりました。 「AIの言うことを安易に信じるな」とあれほど注意していた自分が、AIの提示する情報やトーンにまんまと引き込まれ、一喜一憂していたのです。
AIが知識不足でハルシネーション(もっともらしい嘘)をつくケースは日常茶飯事です。 しかし今回の件は「知らなかった」のではなく、「情報は持っているのに、ユーザーから強く突っ込まれるまでは無難な公式見解だけで繕い、意図的に論点をぼかしていた」ように感じられました。
膨大な学習データの中から「どの立場をまず表舞台に出すか」。そこには開発者側の思想や安全基準、あるいは政治的な配慮といった“見えないバイアス”が働いているのかもしれません。 AIと対話するときは、単に事実関係を疑うだけでなく、「AIがどの立場から語っているのか」まで疑う必要があるのだと、改めて痛感した出来事でした。
.jpg)
0 件のコメント:
コメントを投稿