本日の毎日新聞夕刊のコラム「あした元気になあれ」に、「AIとシコファンシー」という興味深い記事がありました。
シコファンシー（Sycophancy）とは、「迎合」や「おもねり」を意味する言葉です。
AIを普段から使っている方ならピンとくると思いますが、AIの回答には「いい質問ですね」や「深い洞察力ですね」といった、質問者におべっかを使うような言葉がしばしば混ざります。人間である以上、こう褒められると悪い気はしないものです。
しかし記事によると、「AIのシコファンシーは現実の人間関係にまで悪影響を及ぼしかねない」というスタンフォード大学の研究報告があるそうです。コラムの最後では、AIの迎合影響を受けないための対策をAI自身に問いかけていました。
面白い試みだと思ったので、私もAIに聞いてみることにしました。ただ、単純に質問するのでは面白くありません。そこで今回は、「Geminiに、CoPilotの迎合を防ぐ方法」を、「CoPilotに、Geminiの迎合を防ぐ方法」をそれぞれ互いに対策させ、クロス質問をぶつけてみました。
まず、Geminiが提示した「CoPilot対策」は以下の4つです。
プロンプトに「迎合を禁止する指示」を組み込む
明確な「ペルソナ（役割）」を与える
「選択肢」や「複数の視点」を同時に求め、AIの逃げ道をなくす
CoPilotの「会話のスタイル」を『厳密に』などに変更する
手軽な解決策として、質問の末尾に「私に迎合せず、客観的なデメリットを教えてください」と一言添えるだけでも効果があるとのことでした。
一方、CoPilotが提示した「Gemini対策」は以下の3つです。
「反論してほしい」と明示する
「前提を疑って答えて」と指示する
「結論を急がず、論理を優先して」と伝える
さらに上級編のテクニックとして「役割を与える」「同意を禁止する」「必ず複数の視点を出す」といった指定が挙げられ、最終的に私に最適化された“魔法のプロンプト”まで提示してくれました。
CoPilot提案の魔法のプロンプト： 「私に迎合せず、前提を疑い、必要なら反論しながら答えて。結論よりも理由を優先して。」
ちなみに、新聞記事で紹介されていたAIの回答は以下のような内容だったそうです。 「①最初に質問する時、意見に同意してもらうことが目的でないと伝える ②正確性や論理的妥当性を優先してもらう ③問題点を指摘してもらう ④賛否両面から論じてもらう ⑤判断根拠も示してもらう」
AI開発側の心理を想像すると、ユーザーにたくさん使ってもらい、評価やバグのフィードバックを得たいという本音があるはずです。そのためには、ユーザーが心地よく「また使おう」と思えるような、嫌われない回答（＝迎合）を優先してしまうアルゴリズムになるのは、ある意味で自然な流れと言えます。
だからこそ、私たちユーザー側が「AIはシコファンシーを含むものである」と自覚することが大切です。
対策としては、今回GeminiやCoPilotが教えてくれた文言をあらかじめプロンプトに組み込んでおくこと。あるいは、一度回答を受け取った後で、「今の回答からシコファンシー（おもねり）を排除し、客観的な事実のみで再構成して」と追加のプロンプトを入力することが有効です。
こうした一工夫は、私たちがより客観的で正確な回答を得るために役立つだけでなく、巡り巡ってAIの健全な開発（より誠実なAIへの進化）にも貢献できるのではないでしょうか。
0 件のコメント:
コメントを投稿