スペイン政府は、AIが生成した児童性的虐待コンテンツの作成と拡散に関与した疑いがあるとして、ソーシャルメディア大手のX、Meta、TikTokに対する調査を求めた。

スペインのペドロ・サンチェス首相は火曜日、「閣僚理事会は検察庁基本法第8条を発動し、X、メタ、TikTokがAIを通じた児童ポルノの作成と普及を通じて犯している犯罪を捜査するよう要請する」とXに書いた。サンチェス氏は、プラットフォームが「私たちの息子や娘たちの精神的健康、尊厳、権利を攻撃している」と非難し、「退役軍人の不処罰は終わらせなければならない」と述べた。

この呼びかけは、スペインがソーシャルメディアをより広範に取り締まる動きをしている中で行われた。今月初めにドバイで開催された世界政府サミットで講演したサンチェス氏は、ソーシャルメディアプラットフォームを対象とした一連の措置に加え、16歳未満の子供のソーシャルメディアアクセスを禁止する計画を発表した。この禁止案はまだ議会の承認を必要としているが、オーストラリアが12月に世界で初めてそのような禁止を課したことを受けて発表され、フランスやデンマークなど他の国々も同様の措置を課す措置を講じている。

続きを読む： 子ども向けのソーシャルメディアを禁止する取り組みが行われている場所

サンチェス氏は、当時大手テクノロジー企業が検閲を怠り、違法な性的コンテンツの生成すら怠っていたことを批判し、ソーシャルメディアを「破綻国家、法律が無視され、犯罪が容認され、真実よりも偽情報が重視され、ユーザーの半数がヘイトスピーチにさらされている」と呼んだ。

ハイテク億万長者のイーロン・マスク氏は、

メタ社はサンチェス氏の検察当局への企業捜査の要請についてはコメントを避けたが、同社のAIツールはヌード画像生成の要求に応じないよう訓練されているとタイム誌に語った。これは、個人の露骨な画像を作成するために使用される可能性のある、いわゆる「ヌード化」アプリがプラットフォーム上で広告を掲載することを禁止しています。そして、児童搾取に対して厳格なポリシーを持っています。

TikTokの広報担当者はTIMEへの声明で次のように述べた。[Child sexual abuse material] これは不快なものであり、当社のプラットフォームでは明らかに禁止されています。 TikTok には、若者を搾取したり危害を加えたりする試みを阻止するための堅牢なシステムが導入されており、悪者より一歩先を行くために先進テクノロジーを優先し、投資し続けています。」

TIME誌はアックス氏にコメントを求めた。

画像の作成や変更に使用できる AI チャットボットである XAI の Grok は、特に AI が生成したエロティックな画像の拡散をめぐってここ数カ月、ますます厳しい監視に直面している。 12月にチャットボットが更新された後、デジタルヘイト対策センターは、グロクが未成年者を描いた2万3000枚を含む、推定300万枚の性的に露骨な画像を作成したことを発見した。ログイン して翻訳を追加するログイン して翻訳を追加する「दिखावटी कपड़ों」 मिखाने से रोकने के लिए उपाय पेश किए हैं।しかし、ロイターは今月初め、Grokが依然としてユーザーのプロンプトに応じて人々の性的な画像を生成しており、その中にはユーザーがチャットボットに当該の人々が同意していないことを明示的に伝えた場合も含まれていたと報じた。ロイター通信によると、xAIはコメントの要請に対し、「レガシーメディアは嘘をついている」という結論を繰り返し回答したという。

他のヨーロッパ諸国も、Grokによる露骨な性的内容の制作に関する報告をめぐり、Xに対する調査を開始している。

アイルランドのデータ保護委員会（DPC）は火曜日、「潜在的に有害で同意のない親密な画像や性的な画像」を作成するために子供を含む人々の個人データを明らかに使用したとして、X社に対する調査を正式に開始したと発表した。 X の欧州本社はダブリンにあります。これは、DPC が EU における同社の主要な監督機関として機能することを意味します。

DPCはプレスリリースの中で、アックス氏は月曜日に捜査について知らされたと述べた。

DPCの副長官グラハム・ドイル氏は、EUの包括的なデータプライバシー法である一般データ保護規則に基づくX社の「基本的義務の一部の遵守」について規制当局が「大規模な調査を開始」したと述べた。

EUの行政府である欧州委員会も1月26日、グロク氏による違法な性的コンテンツの流布疑惑に関する調査を開始した。

EUは先月、X社のブルーチェックマークシステムと広告データベースが法の透明性要件に違反していることが判明し、同社が公開データにアクセスする研究者に「不必要な障壁」を設けていたと規制当局に別途罰金を科した。

続きを読む： 「これは政治的攻撃だ」：フランス検察がX事務所を強制捜査し尋問を呼びかけたことにマスク氏が反応

2月3日、フランス当局はマスク氏と元氏のパリ事務所を強制捜査した。

アックス氏は声明でこの強制捜査を「政治的犯罪捜査」と批判し、いかなる不正行為も否定した。

「パリ検察庁はこの強制捜査を広く公表し、今日の行動が公正かつ公平な司法の運営に根ざした正当な法執行目標ではなく、不当な政治的目的を達成することを目的とした法執行舞台の非道な行為であることを明らかにした」とXのグローバル・ガバメント・アフェアーズ・チームは書いている。

パリでの強制捜査と同じ日に、英国情報コミッショナー局（ICO）はXを正式に調査していると発表し、ICOは子供を含む同意のない性的画像の生成にこのツールが使用されているという報告を引用した。