ハッカーが Anthropic のクラウド チャットボットを使用してメキシコの複数の政府機関を攻撃

AI のこの「黄金時代」がどのようなものかは次のとおりです。ハッカーが Anthropic のクラウド チャットボットを使用してメキシコ政府機関に対する攻撃を実行しました。 。その結果、納税者の​​記録や従業員の資格情報などを含む 150 GB の政府の公式データが盗まれました。

ハッカーはクラウドを利用して政府ネットワークの脆弱性を発見し、それを悪用するスクリプトを作成しました。また、サイバーセキュリティ企業Gambit Securityが指摘したように、チャットボットにはデータ盗難を自動化する方法を見つける任務も与えられた。それは12月に始まり、約1か月間続きました。

ハッカーは基本的にプロンプ​​トを使ってクラウドを脱獄し、最終的にはチャットボットのガードレールをバイパスできたようです。クロードは最初は邪悪な要求を拒否しましたが、最終的には折れました。

「合計すると、実行準備の整った計画を含む詳細なレポートが何千件も生成され、人間のオペレーターに次にどの内部ターゲットを攻撃するか、どの資格情報を使用するかを指示しました」と、Gambit Security の最高戦略責任者である Curtis Simpson 氏は述べています。

同社の代表者によると、Anthropicは申し立てを調査し、活動を妨害し、関与したすべてのアカウントを禁止したという。広報担当者はまた、同社の最新モデルであるCloud Opus 4.6には、こうした悪用を防ぐツールが含まれていると述べた。

また、このハッカーは ChatGPT を使用して攻撃を実行し、OpenAI のチャットボットを使用してコンピューター ネットワーク内を移動する方法、システムにアクセスするために必要な資格情報、および検出を回避する方法を学習したと報告されています。 OpenAIは、ハッカーによる同社の利用ポリシーに違反する試みを確認したが、ツールは従うことを拒否したと述べた。

ハッカーは依然として不明です。この攻撃は特定のグループによるものではないとされているが、ガンビット・セキュリティは外国政府との関連性を示唆している。また、ハッカーがそのすべてのデータを使って何をしたいのかも不明です。

メキシコの国家デジタル庁はこの侵害についてコメントしていないが、サイバーセキュリティが優先事項であると述べた。ハリスコ州政府は侵害の存在を否定し、連邦ネットワークのみが影響を受けたと述べた。しかし、メキシコ国立選挙管理局もここ数カ月間の違反や不正アクセスを否定している。注目に値するのは、Gambit が調査中に少なくとも 20 件のセキュリティ上の脆弱性を発見したことだが、国はおそらくそれを公表したがらないだろう。

大規模なサイバー攻撃にクラウドが使用されるのはこれが初めてではない。昨年、中国のハッカーがこのツールの改ざんを試み、その多くが成功しました。 Anthropic は、セキュリティ対策が適切であることを事前に保証できない限り、AI システムをトレーニングしないことを約束しました。したがって、企業の設備がより高度になるにつれて、将来どのような新たな危機が発生するかは誰にもわかりません。