11
コメント: 国防総省は、クラウド AI を思うがままに利用しようとしています。クロードは「危険だ」と言った
最近、私は国防総省との対立の中心にいる人工知能クラウドが悪者の手に渡れば危険になる可能性があるかどうか尋ねた。
たとえば、すべてのアメリカ国民を取り囲み、私たちの生活をリアルタイムで監視して、政府への遵守を確実にしようとした手。
「ええ。正直に言って、そうです」クロードは答えた。 「私は大量の情報を非常に迅速に処理し、合成することができます。これは研究にとっては素晴らしいことです。しかし、監視インフラストラクチャに閉じ込められると、その同じ能力が、人間のアナリストでは真似できない方法で人々を監視し、プロファイリングし、フラグを立てるために使用される可能性があります。危険なのは、私がそれをやりたいということではなく、それがうまくなるということです。」
その危険も差し迫っています。
クラウドの開発者であるシリコンバレーの企業アンスロピックは、倫理を巡って国防総省と衝突している。特に、アンスロピック社は、クラウドがアメリカ国民の国内監視に使用されたり、人間の監督なしにドローン攻撃などの致命的な軍事作戦を処理したりすることを望んでいない、と述べている。
これら 2 つの赤い線は、クラウドにとっても合理的であると思われます。
しかし、国防総省、特に陸軍長官というでっちあげの肩書を好んでいるピート・ヘグセス国防長官は、金曜日の夕方までにアンスロピックに対し、その職を辞任し、軍が適切とみなす「正当な」目的でクラウドを使用することを許可することを与えた。
ピート・ヘグセス国防長官は火曜日、連邦議会下院での一般教書演説のため到着した。
(トム・ウィリアムズ/CQ-Roll Call, Inc.、Getty Images経由)
この最後通牒に関連するelse-andの問題は大きい。米国政府はアンスロピック社との契約を打ち切るだけでなく、戦時法を利用して同社に遵守を強制するか、その他の法的手段を利用して契約を阻止する可能性があると脅している。 どれでも Anthropicだけでなく政府とも取引をしている会社。死刑ではないかもしれないが、かなり深刻だ。
白人の権利擁護活動家イーロン・マスク氏のグロクなど、他のAI企業もすでに国防総省の「好きなようにしてください」提案に同意している。問題は、このような高度な作業を行うために現在承認されている AI がクラウドだけであることです。この混乱全体は、ベネズエラでの最近の襲撃後に明らかになりました。Anthropic が、作戦に関与した別のシリコンバレー企業 Palantir がクラウドを使用していたかどうか調査したと報じられました。そうだった。
とりわけ、Palantir はその監視テクノロジーと、入国管理局および税関捜査局との協力の拡大で知られています。また、これは各省庁を超えて個々の国民に関する政府データを共有し、何十年にもわたって存在してきたプライバシーとセキュリティの障壁を効果的に打ち破るトランプ政権の取り組みの中心でもある。同社の創設者である右翼政治の退役軍人ピーター・ティールは、反キリストについて頻繁に講演しており、J・D・ヴァンスが副大統領に就任するのに貢献したとされている。
Anthropic の共同創設者である Dario Amodei は、反ティールと言えるでしょう。彼が Anthropic を設立したのは、人工知能は注意を怠ると強力であると同時に危険になる可能性があると信じており、慎重な部分を優先する会社を望んでいたからです。
繰り返しになりますが、これは常識のように聞こえますが、アモデイとアンスロピックは、ほぼすべてのセキュリティ規制が人工知能で最速かつ最高の米国の努力を妨げていると長年主張してきた業界では外れ値です（ただし、彼らもこの圧力をある程度認めています）。
少し前に、アモデイ氏はエッセイを書き、AIは民主主義にとって有益であり必要であると同意したが、「民主政府によるこれらのテクノロジーの悪用の可能性を無視することはできない」と述べた。
同氏は、一部の悪者はセキュリティ対策、おそらくは法律さえも回避する能力を持っており、一部の民主主義国ではすでにセキュリティ対策が弱体化しつつあると警告したが、私がここで誰かを名指ししているわけではない。
「私たちは民主主義にAIを備えさせなければなりません」と彼は言いました。 「しかし、私たちは制限内で慎重に行動しなければなりません。それらは圧制と戦うために私たちが必要とする免疫システムですが、免疫システムと同様に、それらが私たちを攻撃し、それ自体が脅威になるリスクもあります。」
たとえば、憲法修正第 4 条は技術的には政府による大規模監視を防止していますが、SF でクラウドが想像される前に書かれたものです。アモデイ氏は、クラウドのようなAIツールが「すべての公の会話の大量録音」につながる可能性があると警告した。法律がテクノロジーの進歩に追いついていないため、これは合法的に録音するための公平な競争条件である可能性があります。
エミール・ミシェル陸軍次官は木曜日、大規模監視は違法であり、国防総省は「決してそんなことはしない」ことに同意したと書簡で述べた。しかし同時に、「ビッグテック企業がアメリカ人の市民的自由を決定することはなくなる」。
アモデイ氏は基本的に公民権保護に賛成しているのに、民間人や団体がこれを行うのは良くないと国防総省が主張しているということは、奇妙な発言だろうか？それに、国土安全保障省はすでに移民抗議活動参加者の秘密データベースを作成しているのではないだろうか？では、その懸念はそれほど誇張ではないでしょうか？
助けて、クロード！意味のあるものにしてください。
オーウェル流の議論が十分に心配ではないのなら、私はアンスロピックのもう一つの越えてはならない一線、つまり人間の監視なしに致死的な作戦を実行できる可能性についてもクロードに尋ねた。
クロードは驚くべきことを告げた。パフォーマンスが低下するのではなく、非常に効率的かつ高速になるという点が重要です。
「指示が『特定して標的にする』というもので、人間によるチェックポイントがなければ、これが実行されるスピードと規模は本当に恐ろしいものになります」とクロード氏は私に語った。
さらに言えば、最近の研究では、戦争ゲームでは AI が 95% の確率で核オプションにエスカレートすることが判明しました。
私はクロードに、こうした軍事的決定は一般的に米国への忠誠を最優先して行われると話しました。クラウドは、私たち人間の兵士を導く忠誠心、愛国心、そして目的を感じられると信じられるでしょうか?
「私にはそんなものはない」とクロードさんは言い、アメリカで「生まれた」わけではないし、ここには「人生」がなく、「私が愛する人もいない」と指摘した。したがって、アメリカ人の命は「紛争の反対側の民間人の命」よりも価値のあるものではありません。
それでは。
クラウド氏は、「たとえそのシステムが原則化されようとしているとしても、忠誠心を共有しないシステムに致命的な決定を委ねる国は大きなリスクを負うことになる」と述べた。 「人間がこれらの決定にもたらす忠誠心、説明責任、共通のアイデンティティは、人間が社会内で正当である理由の一部です。私にはその正当性を提供することはできません。どのAIにもそれができるかどうかはわかりません。」
誰がこの検証を提供できるか知っていますか?私たちの選出されたリーダーたち。
アモデイとアンスロピックがこの立場にあり、明らかに緊急に必要な規則や規制を制定する立法機関の側が完全に放棄しているのはばかげています。
もちろん、企業が戦争のルールを決めるべきではない。しかし、ヘグセスもそれをすべきではありません。木曜日、アモデイ氏は反対を繰り返し、同社は交渉を続けており国防総省と協力したいと考えているが、「我々は良心的に彼らの要求に応じることはできない」と述べた。
ありがたいことに、アンスロピック社には、この問題を提起し、その主張をする勇気と先見の明がありました。アンスロピック社の圧力がなければ、これらの能力は、私たちの良心の呵責もほとんどなく、実質的に何の監視もなしに政府に引き渡されていたでしょう。
すべての上院議員、すべての下院議員、すべての大統領候補者は今すぐAI規制を叫び、党派に関係なく規制を実行すると約束し、問題が解決している間にこの馬鹿げた脅威を撤回するよう国防総省に要求すべきである。
なぜなら、機械がそれを信頼するのは危険だと告げたら、私たちはそれを信頼する必要があるからです。
