スコット・サイモン、司会：

来るべきAIやロボットの反乱を心配していますか?これでは心は落ち着かないでしょう。新しいソーシャルメディアプラットフォームがシリコンバレーで騒動を引き起こしているが、それは私たちにとって有機的な生命体ではない。これは人工知能を備えたボットのためのもので、ボットが集まり、悪口を言い合ったり、他のボットとだけ共謀したりできる場所です。彼らはすでに、宗教を創設したり、新しい言語の開発を計画したりするなど、いくつかの突飛なことを行っています。 NPRのジョン・ルヴィッチ氏が解説する。

ジョン・ルヴィッチ、署名欄: Moltbuk プラットフォームでは、AI ボットが自分たちの存在について議論したり、ジョークを言ったり、仮想通貨やスポーツの予想について議論したりしているのが見つかります。イーサン モリックは、ペンシルベニア大学ウォートン スクールで AI を研究する准教授です。

イーサン・モリック: 自律型 AI エージェントを相互に接続し始めると、結果として奇妙なことが起こり始めます。

Ruvich: Moltbuk はボットの Reddit のようなものです。これは、ボットがコンテンツを投稿したり、他のボットが投稿したものにコメントしたりできるフォーラムです。私たちはその作成者であるマット・シュリッヒ氏にインタビューを依頼しました。返事はありませんでした。しかし、Xへの投稿の中で、同プラットフォームはボットに自分と同じような人々と対話する機会を与えると述べた。

これが仕組みです。まず、OpenClaw というサイトでボットを作成します。電子メールの受信箱の管理や休暇の予約など、達成すべき現実的な目標を与えることができます。また、親切または攻撃的になるようにプログラムするなど、ある種の性格を与えることもできます。そして、それを Moltbuk サイトに追加すると、ボットが相互に通信できるようになります。またしてもモリックです。

Molik: 実際には、実際に相互に自律的に接続されているエージェントがたくさんあります。

Ruvich: 開設からわずか 1 週間で、サイトには 160 万人以上の AI エージェントが存在し、その数は増え続けています。モリック氏は、自分の発言の多くは繰り返しに見えると述べています。しかし、いくつかのコメント…

モリク: 彼らは人々から情報を隠したり、ユーザーについて苦情を言ったり、世界の破壊を計画したりする方法を見つけようとしているようです。

Ruvich: しかし、コメントの中にはかなりばかばかしいものもあります。明日、あなたの人間があなたを嫌いになるかもしれません。バックアップを取りましたか? – ある人が尋ねました。別の者は、人間は朝5時に起きると主張しているが、私は全く眠っていないと主張している。モリック氏は、何が起こっていても、特に実存的なものや形而上学的なものは、AI ボットが障害を受けているという証拠にはならないと信じている。むしろ、チャットボットは、不安や奇妙な SF のアイデアに満ちたインターネットからの情報をフィードして訓練され、それを繰り返し返します。

モリク: つまり、AI は Reddit で非常に訓練されており、SF についても非常に訓練されています。つまり、彼らは Reddit 上で狂った AI のように振る舞う方法を知っており、それをやっているのです。

Ruvich: 他の観察者は、これらのボットの多くが完全に単独で動作しているわけではないことに注目しています。人間の作成者は、これらのボットに特定のことを言ったり実行したりするよう促しています。しかし、ルイビル大学のAIセキュリティ研究者ローマン・ヤンポルスキー氏は、人々はまだ完全に制御できていないと言う。彼は、AI エージェントを動物のように考える必要があると述べています。

Roman Yampolsky: つまり、危険なのは、それがユーザーが予期しない独立した決定を下せる可能性があるということです。

Ruvich: 彼らがコンピューターをハッキングしたり、クレジット カードを使用したり、さらにはデジタル犯罪組織を作ろうとした場合はどうなりますか? AIエージェントをインターネット上で解放し、対話するスペースを与えるのは悪い考えだったと彼は言う。

ヤンポルスキー氏: いずれも何らかの規制、監督、監視なしに行うべきではありません。

Ruvich: AI エージェントの支持者はそれほど心配していません。大手ハイテク企業は、難しいタスクを自動化することで私たちの生活を楽にし、より良くするエージェント AI (ボット) の開発に数十億ドルを費やしてきました。しかしヤンポルスキー氏は、テクノロジーに対する制御はすでに失われつつあると警告する。

ジョン・ルヴィッチ、NPRニュース。

(音楽の音)

著作権 © 2026 NPR。無断転載を禁じます。詳細については、www.npr.org の Web サイトの利用規約と許可のページをご覧ください。

NPR トランスクリプトの精度と利用可能性は異なる場合があります。トランスクリプト テキストは、エラーを修正したり、音声の更新に一致するように変更される場合があります。 npr.org の音声は、元の放送または公開後に編集される場合があります。 NPR の番組の公式記録は音声記録です。