Facebookの研修所で開発されていたChatbot、つまりおしゃべりロボットが、人間にはわからない言語でお互いに話を始めたらしい。
これは日本のWebサイトなどではあまり報じられていない。
研究所ではこの事実を見つけて、おしゃべりロボットの電源を切ったという。
人間にわからない言語というのは、おしゃべりロボットが人間からのデータ入力を受けずに、ロボット自身が考え出した言語らしい。人間の言語よりも会話が適切に行われるような言語だったのかもしれないのだが。どんな言語だったか興味が湧く。
このおしゃべりロボットの話を聞くまでもなく、人間が作り出したロボットがいつの日か人間を凌ぐ能力を持って、人間を支配するということが発生するかもしれない。これは現実に科学の世界で話題になっていることだ。
ロボットの考える世界を想像すると、そこには人間がいる必要がない世界かもしれない。そうなると、ロボットが世界を支配し、人間は死滅するという事も考えられる。まさに、サイエンス・フィクションのような話だが、それが現実になるかもしれないというのが上のFacebookの研究所のおしゃべりロボットで明らかになったと言える。
ただし、今のところそういった危険性はよく注意している限り発生することはないというのが、一般的な考え方のようだ。
私もその考え方に近い。Facebookの研究所のおしゃべりロボットはもう一度電源を入れて動かすようにすればよい。今のところ、ロボット専用の言語で喋るようになったとしても、危険性はないだろう。むしろ、人間の言語に良い影響を与えるかもしれないのだ。
2017年8月13日日曜日
登録:
コメントの投稿 (Atom)
AI(生成人工知能)の「迎合」を回避するプロンプトの工夫
本日の毎日新聞夕刊のコラム「あした元気になあれ」に、「AIとシコファンシー」という興味深い記事がありました。 シコファンシー(Sycophancy)とは、「迎合」や「おもねり」を意味する言葉です。 AIを普段から使っている方ならピンとくると思いますが、AIの回答には「いい質問...
-
元大蔵省(現在の財務省)官僚で経済学者の高橋洋一先生のYouTube動画、「自民党がAI提言 そもそもAIの実力はどうなの?実践してみた」を視聴しました。 この動画は、最新版のChatGPTを使用し、東京都区部消費者物価指数を題材に「AIが最近の物価動向をどこまで正しく理解し...
-
2週間ほど前だったと思うのだが、「ディスク管理」を開こうとしたところ、 「このアプリは保護のためにブロックされました」というメッセージが出てきて、ディスク管理が使えなくなっていた。 このディスク管理が使えなくなるという問題は、ネット検索をするといくつか対処方法が書かれている。た...
-
Pythonのバージョンを 3.12.1 にアップデートしたら、これまで使っていた日本語化モジュール「japanize-matplotlib」が使えなくなってしまった。 japanize-matplotlibは、matplotlibのフォント設定を自動で日本語化するモジュールで...

0 件のコメント:
コメントを投稿