安全ガイドライン

AI のこの「黄金時代」がどのようなものかは次のとおりです。ハッカーが Anthropic のクラウド チャットボットを使用してメキシコ政府機関に対する攻撃を実行しました。 。その結果、納税者の​​記録や従業員の資格情報などを含む 150 GB の政府の公式データが盗まれました。 ハッカーはクラウドを利用して政府ネットワークの脆弱性を発見し、それを悪用するスクリプトを作成しました。また、サイバーセキュリティ企業Gambit Securityが指摘したように、チャットボットにはデータ盗難を自動化する方法を見つける任務も与えられた。それは12月に始まり、約1か月間続きました。 ハッカーは基本的にプロンプ​​トを使ってクラウドを脱獄し、最終的にはチャットボットのガードレールをバイパスできたようです。クロードは最初は邪悪な要求を拒否しましたが、最終的には折れました。 「合計すると、実行準備の整った計画を含む詳細なレポートが何千件も生成され、人間のオペレーターに次にどの内部ターゲットを攻撃するか、どの資格情報を使用するかを指示しました」と、Gambit Security の最高戦略責任者である Curtis Simpson 氏は述べています。 同社の代表者によると、Anthropicは申し立てを調査し、活動を妨害し、関与したすべてのアカウントを禁止したという。広報担当者はまた、同社の最新モデルであるCloud Opus…