AI セキュリティと戦争マシンの出会い

いつ？ アンスロピックは昨年、軍事用途を含む機密使用を米国政府によって承認された初の大手AI企業となったが、このニュースは大きな話題にはならなかった。しかし今週、2度目の開発が砲弾のように襲い掛かった。国防総省は2億ドルの契約を含め、同社との関係を再検討しているが、これは明らかにセキュリティを重視するAI企業が一部の致命的な作戦への参加に反対しているためとみられる。いわゆる陸軍省は、アンスロピックを「サプライチェーンリスク」に指定する可能性もある。これは通常、中国など連邦機関の監視下にある国と取引する企業に与えられる赤字で、国防総省が防衛作戦でアンスロピックのAIを使用している企業とは取引しないことを意味する。 『WIRED』への声明の中で、国防総省首席報道官ショーン・パーネル氏は、アンスロピックが注目を集めていることを認めた。同氏は、「我が国は、戦闘員がどんな戦いでも勝利するよう支援する用意ができているパートナーを必要としている。最終的には、これは我が国の軍隊と米国民の安全に関わることだ」と語った。これは他の企業へのメッセージでもある。現在、機密扱いでない業務に関して国防総省と契約を結んでいるOpenAI、xAI、Googleは、独自のより高い許可を得るために必要なハードルを乗り越えている。

ここには開梱するものがたくさんあります。一つには、同社のAIモデルクラウドがベネズエラのニコラス・マドゥロ大統領を追放するための強制捜査の一環として使用されたという事実について苦情を申し立てたとしてAnthropicが処罰されるのかという疑問がある（そのように報道されているが、同社はこれを否定している）。また、Anthropic が AI 規制を公に支持しているという事実もあります。これは業界における部外者の立場であり、行政の方針に反するものです。しかし、より大きく、より厄介な問題が存在します。政府による軍事利用の要求により、AI自体の安全性は低下するのでしょうか?

研究者や経営者は、AI がこれまで発明された中で最も強力なテクノロジーであると信じています。事実上、既存のすべての AI 企業は、広範な危害を防ぐ方法で AGI (超知能) を実現できるという前提に基づいて設立されました。 XAI の創設者イーロン・マスクは、かつて AI 規制の最大の支持者でした。彼が OpenAI を共同設立したのは、このテクノロジーが利益追求企業の手に委ねるには危険すぎるとの懸念からでした。

Anthropic は、セキュリティを最も重視する企業としての地位を獲得しています。同社の使命は、悪意のある者が AI の最も奥深い機能を悪用できないように、ガードレールをモデルに深く統合することです。アイザック・アシモフは、『ロボット工学の法則』の中で、最初で最高の言葉をこう述べています。 ロボットは人間に危害を加えたり、不作為によって人間に危害を加えたりしてはなりません。 AI が地球上のどの人間よりも賢くなったとしても (AI リーダーが熱心に信じているシナリオですが)、それらのガードレールは維持されなければなりません。

したがって、主要な AI 研究所が自社の製品を最先端の軍事および諜報活動に統合するのに苦労しているというのは逆説的であるように思えます。 Anthropic は、機密契約を結んだ最初の主要ラボとして、「米国の国家安全保障の顧客向けに特別に構築された Cloud Gov モデルのカスタム セット」を政府に提供しています。それにもかかわらず、Anthropic は、兵器の製造や設計にクラウドを使用することの禁止など、独自のセキュリティ基準に違反することなくこれを行ったと述べた。アンスロピックのダリオ・アモデイ最高経営責任者（CEO）は、クラウドが自律型兵器やAIによる政府監視に関与することを望まないと明言した。しかし、これは現政権では機能しません。国防総省のエミール・マイケル最高技術責任者（元ウーバー最高ビジネス責任者）は今週記者団に対し、AI企業が軍に兵器へのAIの使い方を教えることを政府は容認しないと語った。 「軍事基地からドローンの群れが飛来した場合、それを撃墜するにはどのような選択肢がありますか? 人間の反応時間が十分に速くない場合は、どうすればよいでしょうか?」彼は修辞的に尋ねた。ロボット工学の第一法則についてはここまでです。

効果的な国家安全保障には、最も革新的な企業の最高のテクノロジーが必要であるという正当な議論ができます。数年前ですら、一部のテクノロジー企業は国防総省との協力に消極的だったが、2026年には通常、これらの企業は旗を振る軍事請負業者となるだろう。 AI 幹部が自社のモデルが致死力に関連していると語るのを聞いたことはありませんが、Palantir の CEO、Alex Karp 氏は、明らかに誇りを持って「当社の製品は人を殺すために使用されている」と恥ずかしがりません。