自律型兵器

OpenAIは国防総省とそのモデルを国防総省のネットワーク全体に展開する契約を結んだと同社代表のサム・アルトマン氏がTwitterで明らかにした。同氏は投稿の中で、OpenAIの2つの最も重要な安全保障原則は「国内の大規模監視の禁止と、自律型兵器システムを含む武力行使に対する人道的責任」だと述べた。アルトマン氏は、同社が政府の愛称である陸軍省（DOW）と呼ばれる政府機関との合意の中でこれらの原則を定めており、アルトマン氏もそれらの原則を尊重することに同意したと主張した。 ドナルド・トランプ大統領がすべての政府機関にクラウドやその他の人為的サービスの使用を停止するよう命令した直後、政府機関はOpenAIとの契約を締結した。思い出していただけると思いますが、ピート・ヘグセス米国防長官は以前、AIのガードレールの撤去を拒否し続ければ人類学的「サプライチェーンリスク」のレッテルを貼られ、この技術が米国人に対する大規模監視や完全自律型兵器に使用されなくなると脅迫していました。 OpenAIのモデルに同様のガードレールがあるのであれば、なぜ政府がOpenAIと緊密に連携することに同意したのかは不明だが、アルトマン氏は、提携するすべてのAI企業に同じ条件を提示するよう政府に求めていると述べた。対外援助、人道問題、信教の自由を担当する国務次官高官ジェレミー・レビン氏はツイッターで、DoWは「既存の法的当局の一部を参照し、相互に合意した保護メカニズムを契約に組み込んでいる」と述べた。以前に DoW の機密システムに Grok を導入する契約に署名していた OpenAI と xAI の両方が、これらの条件に同意しました。同氏は、これは「Anthropic社に提案され、拒否された妥協案」と同じであると述べた。 2024年に米国政府と協力し始めたアントロピックは、ヘグセスに屈することを拒否した。アルトマン氏がOpenAIとの契約を発表する数時間前に発表された最新の声明の中で、同氏は自身の立場を改めて表明した。 「陸軍省がどんなに脅迫したり処罰したりしても、国内の大規模監視や完全自律型兵器に対するわれわれの立場は変わらない」とアントロピックは書いた。 「私たちはサプライチェーンのリスク指定に対して法廷で異議を申し立てます。」 アルトマン氏はXに関する投稿の中で、OpenAIは同社のモデルが期待どおりに動作することを保証するための技術的保護手段を作成すると述べ、DOWも同様のことを望んでいると主張した。政府機関と協力してエンジニアを派遣し、 [its models’] セキュリティ」を選択し、クラウド ネットワーク上にのみ展開されます。 ニューヨークタイムズ…