議論が激化する中、ヘグセス氏とアンスロピックCEOが会談

ワシントン — ピート・ヘグセス国防長官は火曜日、人工知能企業アンスロピックの最高経営責任者（CEO）と会談する予定である。アンスロピック社は、同業他社の中で唯一自社の技術を新たな米軍内部ネットワークに提供していない企業である。

チャットボットクラウドのメーカーであるアンスロピックはこの会議についてのコメントを控えたが、ダリオ・アモデイ最高経営責任者（CEO）は、完全自律型武装ドローンや反対意見を追跡する可能性のあるAI支援による大量監視の危険性など、政府によるAIの無秩序な使用に対する倫理的懸念を明らかにした。

ヘグセス氏とアモデイ氏の会談は、公にコメントする権限を持たず、匿名を条件に語った国防当局者によって認められた。

これは、国家安全保障におけるAIの役割に関する議論と、致死力、機密情報、または政府の監視を伴う高リスクの状況でAIがどのように使用されるかについての懸念を強調しています。これはまた、ヘグセス氏が軍隊内で彼が「覚醒した文化」と呼ぶものを根絶することを誓っている中での出来事でもある。

アモデイ氏は先月のエッセイで、「強力なAIは、何百万人もの人々の間で行われた何十億もの会話を観察し、国民の感情を測り、不貞行為の一部を検出し、事態がエスカレートする前に芽を摘むことができるだろう」と述べた。

国防総省は昨年夏、アンスロピック、グーグル、オープンAI、イーロン・マスク氏のXAIのAI企業4社に防衛契約を与えると発表した。各契約の価値は最大 2 億ドルです。

Anthropic は、機密軍事ネットワークの承認を取得した最初の AI 企業であり、Palantir などのパートナーと連携しています。他の 3 社は、現時点では機密扱いでない環境でのみ運営されています。

今年の初め、ヘグセス氏はそのうち xAI と Google の 2 つだけを取り上げていました。

国防長官は1月、テキサス州南部にあるマスク氏の宇宙飛行会社スペースXでの講演で、「戦争をさせない」AIモデルは無視していると述べた。

ヘグセス氏は、軍事AIシステムに対する自身のアプローチは、それらが「正当な軍事用途を制限するイデオロギー的な障壁なしに機能する」ことを意味すると述べ、国防総省は「AIにジンクスを与えるつもりはない」と付け加えた。

ヘグセス氏は1月、マスク氏の人工知能チャットボット「Grok」が国防総省のネットワーク「GenAI.mil」に参加すると発表した。この発表は、マスク氏所有のソーシャルメディアネットワークXに組み込まれているGrokが、同意を得ずに人々の高度に性的なディープフェイク画像を作成したとして世界的な厳しい監視を受けてから数日後に行われた。

OpenAIは2月初旬、陸軍の安全なAIプラットフォームにも参加し、軍人が非機密作戦にカスタムバージョンのChatGPTを使用できるようにすると発表した。

Anthropic は、創業者が 2021 年に OpenAI を離れてスタートアップを設立して以来、大手 AI 企業の中で最も責任感があり、セキュリティ志向が高い企業の 1 つであると長い間自称しています。

ジョージタウン大学安全保障・新興技術センターの分析副ディレクターでフェローのオーウェン・ダニエルズ氏によると、国防総省との不確実性はこうした意図を試しているという。

「Meta、Google、XAIを含むAnthropicのパートナーはいずれも、正規のアプリケーションへのモデルの使用に関する同省の方針に従うことに前向きだ」とオーウェンズ氏は述べた。 「したがって、ここでは会社の交渉力は限られており、AI導入を求める部門からの圧力を受けて影響力を失うリスクがある。」

ChatGPITのリリース後のAIブームのさなか、Anthropicはジョー・バイデン大統領の政権と連携して、国家安全保障上のリスクを防ぐために自社のAIシステムを自主的に第三者の監視にさらした。

CEOのアモデイ氏は、AIの「悲惨な」というラベルを拒否し、AIの潜在的な破壊的な危険性について警告した。同氏は1月のエッセイで、「2023年よりも2026年の方が本当の脅威にかなり近づいている」としながらも、こうしたリスクは「現実的かつ実践的な方法で」管理する必要があると主張した。

アンスロピックが厳格なAI保護策を主張することでトランプ政権と対立するのはこれが初めてではない。人間針チップメーカーのエヌビディアは、一部のAIコンピューターチップを中国で販売できるように輸出規制を緩和するというトランプ大統領の提案を公に批判した。ただし、AI 企業は Nvidia と緊密なパートナーであり続けます。

トランプ政権とアンスロピックは、米国の各州でAIを規制するロビー活動でも反対側に立っている。

トランプ大統領のAI最高顧問デービッド・サックス氏は10月、アンスロピック社が「恐怖心を煽ることに基づいた高度な規制獲得戦略を実行している」と非難した。

サックスがコメントしたのは、

アンスロピックはトランプ大統領がホワイトハウスに復帰した直後に数人の元バイデン幹部を雇用したが、同時に超党派のアプローチを示唆しようとした。同社は最近、トランプ大統領一期目の元ホワイトハウス高官であるクリス・リデル氏を取締役会に加えた。

国防総省と人類に関する論争は、数年前に一部の技術系従業員が国防総省のドローン監視プログラムであるプロジェクト・メイブンへの自社の参加に反対したときの騒動を思い出させる。一部の作業員がプロジェクトから離脱し、グーグル自体も撤退したが、国防総省のドローン監視への依存は高まるばかりだ。

同様に、「軍事分野でのAIの使用はすでに現実のものであり、なくなることはない」とオーエンズ氏は述べた。

同氏は、致死性の武力や核兵器などの兵器の使用について言及し、「バックオフィス業務など一部の状況は低リスクだが、AIの戦場配備には別の高リスクリスクが伴う」と述べた。 「軍のユーザーはこうしたリスクを認識しており、10年近くにわたってリスクを軽減することを考えてきました。」

___

オブライエン氏はロードアイランド州プロビデンスから報告した。