2017年、ジャーナリストのサマンサ・コールは、オープンソースの人工知能（AI）技術を利用して有名人の顔を使った自家製の同意のないポルノや性的画像を作成していた人物をRedditで発見した。この人物は自分自身を「ディープフェイク」と呼んでいました。

初期のディープフェイクは乱雑で非現実的に見えたため、簡単に見分けることができました。しかし、このテクノロジーは非常に洗練されており、コンピューターと AI を中途半端に理解し、優れたコンピューターにアクセスできる人なら誰でも、優れたディープフェイクを簡単に作成、配布、販売できるようになりました。

ディープフェイカーがしなければならないことは、Instagram などの公開ソースでターゲットにしたい人物の写真を見つけて、非常にリアルなエロ画像やポルノを作成することだけです。

ダルハウジーのシューリッヒ法科大学院の助教授スージー・ダン氏は、「創作には真の性的自立には疑問や落とし穴が伴う」と語る。 rabble.ca インタビュー中。

ダン氏はさらに、「今では、実際に接触することなく、かなり深刻な方法で人々に性的暴行を加えることができる人々が存在する可能性がある」と続けた。

ジェンダーに基づく暴力の新たな形態

エロティックなディープフェイクの作成は、それ自体、性的自律性、つまり干渉を受けることなく自分の身体とセクシュアリティについて決定を下す個人の権利の侵害です。

本物の性的コンテンツであると主張するディープフェイクをオンラインで公開することは、親密な画像を同意なく配布することに等しい。結果として生じる公衆被害は同じだからだ。

Sensity AI レポート「ディープフェイクの現状 2019 の状況、脅威、影響」によると、ディープフェイクの 96% が同意のない性的コンテンツの作成に使用されていることがわかりました。これらのディープフェイクの 99% は女性の画像でした。

これはジェンダーに基づく暴力の最新形態です。

「カナダだけでなく世界中で、性的ディープフェイクの害が認識されつつある。これらのディープフェイクがRedditサイトから出始めたとき、多くの人がPornhubやさまざまな場所に投稿していた。すぐにPornhubを含むほとんどのソーシャルメディア企業は、この種のコンテンツは許可されていないというポリシーを作成し、当社はこれを当社のウェブサイトで見られる他の同意のない画像ルールと同じカテゴリーに含めていると述べた。」投稿できません」とダンさんは言った。

オーストラリア人のノエル・マーティンは、インターネット上で彼を見つけた何者かによって標的にされました。彼らは偽の Photoshop ポルノを作成し始め、最終的にはマーティンのディープフェイクを作成しました。

マーティン氏は、オーストラリアの非合意画像法に「改変画像」という用語を追加するなどの法改正を主張した。改変された画像が含まれるということは、同意なしに性的画像（本物の肖像であれ、ディープフェイクであれ）を共有した人は誰でも法の対象となることを意味します。

カナダの刑法にはその規定は含まれていません。したがって、性的な画像があなたの同意なしに公開された場合、告発するには実際にあなたの裸体でなければなりません。

ブリティッシュコロンビア州、アルバータ州、サスカチュワン州、ノバスコシア州、ニューファンドランドアンドラブラドール州の民事法には、改変された画像が含まれており、損害賠償や損失を求めて訴訟を起こすオプションが設けられている。

この選択肢のない州や準州でも、誰かが民事訴訟を起こすことはできるが、それはこの種の最初のものとなることを意図した新たな法的議論、つまり先例となる訴訟となるだろう。

ジャーナリスト、ゲーマー、ビデオライブストリーミングサービスTwitchの利用者など、特定の女性グループはディープフェイクに頼る可能性が高い。

ディープフェイクは被害者に現実の影響を与える

「ディープフェイクがあなたの名前と関連付けられ、Google で利用できるようになると、たとえそれが偽物であると人々が知っていたとしても、それは人々があなたについてどのように考えるかに影響を与えます」とダン氏は説明しました。

ディープフェイクは、特に労働法が脆弱で、このコンテンツを通じてターゲットにされた人々を保護できない場合に、重大な経済的影響を与える可能性があります。

その悪影響により、女性は孤立したり、精神的健康上の問題に直面したりする可能性があります。女性はオンライン メディアから自分の画像を削除される可能性があります。しかし、女性のキャリアはオンラインで公の場に存在することがますます重要になっており、そのようなイメージを取り除くという選択は、女性の収入やキャリアアップに影響を与える可能性があります。

ダン氏は、「女性の性的自主性は現実に失われている。そして、性的自主性を失うと、人々はさまざまな反応を示すだろう。それを単なる煩わしさだと感じる人もいるかもしれないが、他の人にとっては壊滅的で人生を台無しにする可能性がある」と語った。

しかしダン氏は、法律は進歩しており、ほとんどの法的対応は同意のないポルノの配布に対処していると述べた。

一部のポルノ サイトには、誰が投稿できるか、何を投稿できるかについてコンテンツ管理ルールが設けられています。しかし、Meta、Instagram、TikTok では、明確なコンテンツ管理ルールがあるにもかかわらず、それらが常に強制されているわけではありません。

「私がポルノについて話すとき、それは公衆の閲覧のために特別に作成された素材について話します。私が性的搾取素材や画像ベースの虐待について話すとき、それはポルノサイトに掲載される素材ですが、それをポルノとして分類すべきではないと思います。これは虐待素材です」とダン氏は説明した。

画像ベースの性的搾取素材がポルノ サイトにアップロードされる場合、通常、年齢や同意の確認など、多くのチェック項目をチェックする必要があります。すべてのボックスにチェックを入れると、コンテンツが公開されます。

しかしダン氏は、ビデオを見てそれが合意に基づいて作成されたかどうかを知ることは不可能だと指摘する。

これは依然として大きな課題の 1 つであり、ポルノ サイトの義務と、アップロードされるコンテンツに関係者全員が同意していることを確認する方法について、継続的な話し合いが必要です。

ダン氏によると、強力な倫理慣行がシステムに組み込まれていない限り、ウェブサイトは画像ベースのセクハラ素材をいとも簡単にアップロードしてしまう可能性があるという。

法制度はテクノロジーとともに進化する必要がある

ダン氏はまた、促進された暴力が進化するにつれて、社会と法制度がテクノロジーによって促進された虐待を表現する言語を作成する必要があると指摘しています。分類する前に、名前を付け、それが引き起こす害を特定して対処する必要があります。

現在、カナダの刑法は改ざんされた画像を対象としていません。しかし、ダン氏は、彼らを含めることで、何が犯罪なのか、何が犯罪に違反するのかについて、より大きな議論が始まると述べています。画像は非常にリアルである必要がありますか?この定義は、個人のエロティックな物語や漫画を含むように拡張されるべきでしょうか?

これらの複雑な問題は、ディープフェイクのようなテクノロジーによるジェンダー暴力に焦点を当てた刑事および民事両方の制度の開発を通じてのみ対処することができます。

この変更を有意義なものにするためには、ソーシャルメディア企業やポルノサイトに対するより良いルールで強化し、性的な画像やわいせつなコンテンツを防止するルールを確実に整備する必要がある。また、このコンテンツが適時に削除されるように、このコンテンツが投稿された場​​合の対処方法に関するルールも必要です。

ダン氏は、インターネット上での合意に基づいた性的表現と性的搾取を区別する必要があると警告する。これは重要です。なぜなら、人々は虐待的な性的資料を排除しようとするとき、すべての性的資料を手に入れたいと思うことがあるためです。

「性的表現のコンテンツは、私たちの社会において非常に重要な役割を果たしています。ですから、性的コンテンツがインターネット上で公開される方法を改善することを考えるとき、赤ちゃんをお風呂のお湯と一緒に捨てないように注意しなければならないと思います。私たちは肉体的な形での積極的で健全な性的表現を望んでいますが、それはセクハラとは違います。同様に、性的健康情報に関する子供向けサイトのようなデジタル空間でも積極的で健全な性的表現を望んでいます。それは大掃除に巻き込まれる可能性があります」とダン氏は語った。

トロントに本拠を置くバーバラ・シュライファー記念クリニックの弁護士でエグゼクティブディレクターのディーパ・マトゥー氏は次のように述べた。 rabble.ca「まだ事件が発生しているのを見ていませんが、実際に事件が発生した場合、それは困難になるでしょう。オンライン暴力は一般的に増加しており、AIが大きな役割を果たしているのは間違いありません。」

マトゥー氏は、攻撃的なオンライン コンテンツに対して法的テストの別の基準を設けるべきではないと考えています。 AI によって生成され、その人に性的または精神的な嫌がらせを目的としたものである場合。彼の評判に対する攻撃。あるいは脅迫した場合、それは犯罪であり、性的暴力とみなされるべきです。

マトゥー氏は、「これは強制と統制のパターンの一部であり、より真剣に受け止められるべきである。なぜなら、行為の意図は、あなたがそれを計画し、テクノロジーを最大限に利用したことを示しているからである。したがって、その観点から、この犯罪は他の犯罪よりもさらに真剣に受け止められるべきである。」と述べた。

マトゥー氏は、誰かが故意に画像を入手し、被害者に危害を加えようとする意図で性的に利用した場合、弁解の余地はないと考えている。

マトゥー氏は、性暴力によって引き起こされたトラウマが被害者に生涯を通じて影響を与える可能性があることが科学的に証明されていると説明する。

マトゥーさんは、刑務所制度が教育制度になることを望んでいます。なぜなら、彼女の考えでは、誰かを狭い空間に閉じ込めて潜在能力を抑制するだけでは、彼らを真に変えるには十分ではないからです。

「これは、あなたの同意なしに何かが起こり、あなたの主体性が奪われるというものです。ですから、精神的なダメージは非常に深いものです。このような犯罪が起こらないようにするためには、社会を本当に変える必要があるのです」とマットゥ氏は語った。