Anthropic、中国の AI 研究所 3 社がクラウドを悪用して独自のモデルを改善したと非難

Anthropic AI は、AI 企業 3 社が自社のクラウド チャットボットを悪用したと非難し、「蒸留攻撃」に対する措置を呼び掛けています。 Anthropic はウェブサイトで、DeepSeek、Moonshot、MiniMax が「自社のモデルを改良するためにクラウドの機能を違法に抽出する産業規模のキャンペーンを実行している」と主張した。

AI の世界における蒸留とは、能力の低いモデルが、より強力なモデルからのフィードバックに依存して自らをトレーニングすることを指します。蒸留は完全に悪いことではないが、この種の攻撃はより凶悪な方法で使用される可能性があるとアンスロピック氏は述べた。 Anthropic によると、これら中国の AI 企業 3 社は「約 24,000 の不正アカウントを介したクラウドとの 1,600 万件以上のやり取り」に関与していたという。 Anthropic の観点から見ると、これらの競合企業は、より高度な AI モデルを開発するための近道としてクラウドを使用しており、これにより一部のセキュリティ対策を回避することもできました。

Anthropic は投稿の中で、IP アドレスの相関関係、メタデータ要求、インフラストラクチャ指標に基づいて、これらの抽出攻撃キャンペーンのそれぞれを「高い確信度」で特定の企業に結び付けることができ、同様の行為を観察した AI 業界の他の企業との裏付けもできたと述べています。

昨年初め、OpenAI はライバル企業が自社のモデルになりすましているという同様の主張に直面し、それに応じて疑わしいアカウントを禁止した。 Anthropic に関して言えば、クラウドを運営する同社は、蒸留攻撃をより困難かつ検出しやすくするためにシステムをアップグレードすると述べた。 Anthropic はこれら他の企業を非難している一方で、クラウド チャットボットのトレーニングに楽曲の違法コピーを使用したとして AI 企業を非難する音楽出版社からの訴訟にも直面している。