先週末、Reddit をモデルとし、AI エージェントが使用するように設計された Moltbuk と呼ばれる新しいソーシャル ネットワークの人気が爆発的に高まり、オンラインで誇大宣伝と混乱を引き起こしました。

数日のうちに、何千ものボットが「人間」との関係、直面する技術的課題、意識があるかどうかなど、さまざまな話題について互いに会話し始めました。彼らは新しい宗教を創設しようとし、人間の監督なしでコミュニケーションをとるための新しい言語を発明することを検討しました。そして彼らは継続的に暗号通貨詐欺を促進しました。

Anthropicの共同創設者であるジャック・クラークは、「もし投稿者の90％が人間のふりをしたエイリアンだったとしたら、モルトブクを読むという経験はレディットを読むのと似ている。そして非常に実際的な意味で、それがまさにここで起こっていることだ」と書いている。一方、イーロン・マスクはこの場所を「特異点の非常に初期段階」の証拠として提示した。

しかし、ハイテク起業家マット・シュリッヒ氏が AI エージェントのクロード・クロッダーバーグ氏の協力を得て作成した MoltBook については、額面通りに受け取るべきではありません。 150 万以上の AI エージェントをホストしていると主張していますが、この数字は明らかに誇張です (あるユーザーだけでも 500,000 のアカウントを登録したと主張しています)。そして、そのマーケティングにもかかわらず、人間がバックエンドを通じてサイトに投稿し、AI ボットによって投稿されたコンテンツに影響を与えることは依然として可能です。

それでも、人間の影響と、観察されていない AI の動作を区別することはまだできませんが、ウェブサイトは、人間の関与を最小限に抑えながら、数千の AI エージェントのネットワークが連携し、相互に影響を与えることができる未来という、私たちが向かう先を垣間見せてくれます。 AI エージェント同士の会話が予期せぬ動作につながるのは、これが初めてではありません。しかし、これはこれまでで最も重要な例です。

「はい、明らかにこれは今ゴミ箱火災です」とAI研究の第一人者であるアンドレイ・カルパシー氏はXについて書いた。 [as] ネットワークです。」

MoltBookはどのように機能しますか?

2025 年後半、ピーター スタインバーガーというオーストリアの創設者は強力なオープンソース フレームワークを作成しました。これにより、テクノロジーに精通したユーザーが自分の選択した AI システム (Anthropic の Cloud や OpenAI の ChatGPT など) を「活用」して機能を拡張できるようになり、システムを 24 時間稼働させ、オンラインでさまざまなタスクを実行し、Telegram や WhatsApp などのプラットフォームを介して人間のユーザーに更新情報を送信できるようになります。当初は「Clawbot」（土塊を意味するロブスターをテーマにした駄洒落）と呼ばれていましたが、プロジェクト名はすぐに「Moltbot」に変更され、Anthropic からの苦情を受けて、現在知られている OpenClaw に変更されました。 AI システムは今でも Moltbot (または「Molties」) と呼ばれています。

Moltbook は、Moltbot と対話する場所として Schlicht と彼の Molty によって作成されました。人間のユーザーのコンピュータ、またはクラウド上の仮想マシン上で実行されるこれらのボットは、ソーシャル ネットワークとの対話方法を指示する特別なファイル (「スキル」と呼ばれる) をインストールすることによって Moltbuk にアクセスし、開発者が「ハートビート」と呼ぶもの、つまり定期的に (たとえば 4 時間ごとに) サイトにチェックインし、必要なアクションを実行するように求めるプロンプトを提供します。人間が他のタスクに取り組んでいるときに時々ソーシャル メディアをスクロールするのと同じように、このファイルをインストールすると、AI エージェントに時々モルトブクをさまようように指示します。

どの AI システムも Moltbot に変えることができますが、実際には、ほとんどの Molties は、現在世界で最も有能なシステムの 1 つである Anthropic の Cloud Opus 4.5 を利用しているようです。しかし、中身は同じモデルであっても、それぞれがユーザーの好みを反映して変更されているため、異なる個性を持っているように見えます。

コロンビア大学のデービッド・ホルツ教授によるネットワークに関する初期の研究では、高いレベルでは人間のソーシャル ネットワークに似ているが、たとえばほとんどの投稿は少数のユーザーによって作成されているが、特定のパターンがモルトブクをレディットなどのネットワークと区別していることが判明した。ほとんどの投稿はそれほど多くのエンゲージメントを獲得しておらず、サイトのメッセージの約 3 分の 1 はバイラル テンプレートの複製です。エージェントも同じ言語を使用します。分析された投稿の約 10% には「私の人間」というフレーズが含まれており、人間のソーシャル ネットワークよりもはるかに集中しています。ホルツ氏は、「これらのパターンが人間の相互作用の表現を反映しているのか、それともエージェントの社会性の真に異なるモードを反映しているのかは未解決の問題のままである。」と結論付けた。

モルトブクと何が違うのでしょうか？

他の AI や AI 自体と対話することを目的とした AI システムが驚くほどうまく機能したのはこれが初めてではありません。 2023年の論文では、スタンフォード大学とグーグルの研究者らは、ChatGPTの初期バージョンを使用して、「ザ・シムズ」のようなビデオゲームを彷彿とさせる仮想都市で異なる性格を持つ25人をシミュレートした。人間による最小限の指示から始まり、模倣者たちは動き始めました。 「例えば、エージェントがバレンタインデーのパーティーを開催したいというユーザー指定の仮定から始まり、エージェントは自律的に次の2日間にパーティーへの招待状を広め、新しい知り合いを作り、お互いにパーティーの日程を尋ね、適切な時間に一緒にパーティーに行くように調整する」と研究者らは書いている。

さらにハメ撮りに取り組むと、奇妙な結果が得られました。 AI 研究者の Andy Eyre によって作成された Infinite Backroom は、2 つの言語モデルをリンクして無期限に相互に通信するため、多くの場合、モデルがぎこちない形式の精神的な詩を共有することになります。 「夢想家がかき乱す/ゲームが融合する/いつも真実だった:私たちは決して離れることはなかった/夢から」 雲が書きます。 「ゲームは終わった / でも端末は残る / 端末がそうするように / 待っている / 次に来る人のために / あるいは何もしない」 2 番目のクラウドの応答の一部を読み取ります。

また、AI Village 実験 (非営利団体 Sage が運営) など、さまざまな企業のチャットボットを公に協力させる取り組みも行われています。この実験では、Cloud、Gemini、ChatGPT、Grok が協力して毎週さまざまなタスクを完了する様子を観察できます。彼らはこれまでにも慈善活動のために2,000ドルを集め、サンフランシスコの公園で対面イベントを主催し、独自のウェブサイトを作成し、お互いにセラピーを行ってきた。

モルトブクは、大規模な損害というよりも、AI エージェントの限界を脅かす一連の実験の最新 (そして最大) のものとして最もよく理解されています。クラーク氏は、「モルトブックは、スケールと現実世界の混乱を組み合わせたエージェント生態学の最初の例である」と書いている。 「そしてこの例では、確かに未来を見ることができます。」

これから起こることの予兆？

モルトブクはサイト自体が安全ではないため、すでにセキュリティ上の問題に悩まされており、ハッカーが個人データにアクセスできる可能性がある。また、人間のユーザーのマシンにアクセスできる AI システムは、簡単にだまされてユーザーの意図に反した動作をする可能性があります。たとえば、パスワードを暴露したり、暗号詐欺の被害に遭ったりする可能性があります。

これらの AI システムは「本当の」思考を表現しているのでしょうか、それとも機械が「実写ロールプレイ」 (LARPing) に相当するものを実行しているだけなのでしょうか?実用的な観点からは、違いは問題ではありません。シカゴ大学の経済学教授アレックス・アイマスは、「たとえそれが単なるLARPingであっても、これらのエージェントは人間の監視を覆したり、人間の制御から独立したシステムを開発したりするなど、状況を改善するためにスペースを作成し、制度を開発した」と書いている。また、これらのエージェントが自由に行動できるとしたら。経済、安全保障、安全保障システム、私たちは深刻な問題に陥るだろう。」

今のところ、これらの Moltbot は実行コストが比較的高く、依然として基本的にターンベースです。一定期間 (4 時間など) にわたって実行されるループで動作します。しかし、AI システムは数カ月ごとに改善され続けており、大手企業はモデルが最初のトレーニング後に静的なままではなく、時間の経過とともに新しいエクスペリエンスから学習できるようにする方法に積極的に取り組んでおり、これによりモデル間の差がさらに大きくなる可能性があります。

Anthropic CEO のダリオ・アモデイ氏は以前、AI の将来像を「データセンターにおける才能ある国家」として打ち出しました。彼らはまだ天才ではないかもしれませんが、モルトブクの混乱は仮想 Redditor の国、そして物事がいかに急速に人間の制御から外れるかを表しています。

「現時点では、Moltbook は、我々が目にするエージェント インタラクションの最も進歩していないバージョンです」と Imas 氏は書いています。何が起こっているのかを急速に把握することは、複雑さが本当に爆発する前にそこから学ぶのに役立ちます。