2017年、ジャーナリストのサマンサ・コールは、オープンソースの人工知能（AI）技術を利用して有名人の顔を使った自家製の同意のないポルノや性的画像を作成していた人物をRedditで発見した。この人物は自らを「ディープフェイク」と呼んだ。

初期のディープフェイクは不具合が多く、非現実的に見えるため、簡単に見分けることができました。しかし、このテクノロジーは非常に洗練されているため、コンピューターと AI についてある程度の理解があり、まともなコンピューターにアクセスできる人なら誰でも、まともなディープフェイクを簡単に作成、配布、販売できるようになりました。

ディープフェイカーが行う必要があるのは、Instagram などの公開ソースでターゲットにしたい人物の写真を見つけて、非常にリアルな性的な画像やポルノを作成することだけです。

ダルハウジーのシューリッヒ法科大学院の助教授スージー・ダン氏は、「性的自立には真の疑問があり、創作に伴う害も存在する」と語った。 rabble.ca インタビュー中。

ダン氏は続けて、「今では、実際に接触することなく、かなり深刻な方法で人々を性的に犯すことができる人々が存在することができる」と述べた。

新しい形のジェンダーに基づく暴力

性的なディープフェイクの作成は、それ自体、性的自律性、つまり個人が干渉されることなく自分の身体とセクシュアリティについて決定を下す権利の侵害です。

本物の性的コンテンツであると主張しながらディープフェイクをオンラインで公開することは、親密な画像を同意なく配布することに等しい。結果として生じる公衆被害は同じだからだ。

Sensity AI レポート「ディープフェイクの現状 2019 年の状況、脅威、影響」によると、ディープフェイクの 96% が同意のない性的コンテンツの作成に使用されていることがわかりました。これらのディープフェイクのうち、99% は女性の画像でした。

これはジェンダーに基づく暴力の最新形態です。

「カナダだけでなく世界中で、性的なディープフェイクの害が認識されつつあります。これらのディープフェイクが Reddit サイトから出始めたとき、多くの人がそれらを Pornhub やさまざまな場所に投稿していました。 Pornhubを含むほとんどのソーシャルメディア企業はすぐに、そのタイプのコンテンツは許可されず、当社のWebサイトに同意のないコンテンツを投稿できないという他の非同意の画像ルールと同じカテゴリーにこれを含めるというポリシーを作成しました。 」とダンは言いました。

オーストラリア人のノエル・マーティンさんは、インターネットで彼女を見つけた何者かによって標的にされました。彼らは偽のフォトショップポルノを作成し始め、最終的にはマーティンのディープフェイクを作成しました。

マーティン氏は、オーストラリアの非合意画像法に「改変画像」という用語を追加するなどの法改正を主張した。改変された画像を含めるということは、性的な画像（本物の肖像であろうとディープフェイクであろうと）を同意なく共有する人は誰でも法の対象となることを意味します。

カナダの刑法にはその規定は含まれていません。したがって、性的な画像があなたの同意なしに公開された場合、告発するには実際にあなたの裸体でなければなりません。

ブリティッシュコロンビア州、アルバータ州、サスカチュワン州、ノバスコシア州、ニューファンドランドアンドラブラドール州の民事法には、改変された画像が含まれており、損害賠償を求める訴訟を起こすオプションが設けられている。

この選択肢のない州や準州でも民事訴訟を起こすことはできるが、それはこの種のものとしては初めての、つまり先例となる訴訟を意味する斬新な法的議論となるだろう。

ジャーナリスト、ゲーマー、ビデオ ライブ ストリーミング サービス Twitch の使用者など、特定の女性グループがディープフェイクにされる傾向が高くなります。

ディープフェイクは被害者に現実的な影響を与える

「ディープフェイクがあなたの名前と関連付けられ、グーグル可能になると、たとえ人々がそれが偽物であると知っていたとしても、人々のあなたに対する認識に影響を及ぼします」とダン氏は説明した。

ディープフェイクは、特に労働法が脆弱で、このコンテンツを通じてターゲットにされた人々を保護できない場合に、重大な経済的影響を与える可能性があります。

その影響で女性が自己隔離されたり、精神的健康上の問題を抱えたりする可能性がある。女性はオンライン アウトレットから自分の画像を削除する場合があります。しかし、女性のキャリアはオンラインで公の場に存在することがますます求められているため、そうしたイメージを取り除く選択をすることは、女性の収入やキャリアアップに影響を与える可能性があります。

「女性には性的自立が実際に失われています。そして、性的な自主性が失われると、人々はさまざまな反応を示すようになります。単なる煩わしさだと感じる人もいるかもしれないが、他の人にとっては壊滅的で人生を台無しにする可能性がある」とダン氏は述べた。

しかし、ダン氏は、法律は進歩しており、法的対応のほとんどは同意のないポルノの配布に対処していると述べた。

一部のポルノ サイトでは、誰が投稿できるか、何を投稿できるかについてコンテンツ管理ルールを設けています。しかし、Meta、Instagram、TikTok では、明確なコンテンツ管理ルールがあるにもかかわらず、それらが常に強制されるわけではありません。

「私がポルノについて話すとき、私が話しているのは、特に公衆の視聴のために作られたコンテンツのことです。性的虐待資料や画像に基づく虐待について話している場合、これはポルノ サイトに掲載されるコンテンツですが、それをポルノとして分類する必要はないと思います。それは虐待の内容です」とダンは説明した。

画像ベースの性的虐待コンテンツがポルノ サイトにアップロードされる場合、通常、年齢や同意の確認など、チェックする必要がある項目が多数あります。すべてのボックスにチェックを入れると、コンテンツが公開されます。

しかしダン氏は、ビデオを見てそれが合意に基づいたものかどうかを知ることは不可能だと指摘する。

これは依然として大きな課題の 1 つであり、ポルノ サイトの義務と、アップロードされる素材に関係者全員が同意していることを確認する方法について、継続的な話し合いが必要です。

ダン氏によると、強力な倫理慣行がシステムに組み込まれていない限り、ウェブサイトは画像ベースの性的暴行コンテンツをいとも簡単にアップロードしてしまう可能性があるという。

法制度はテクノロジーとともに進化する必要がある

ダン氏はまた、促進された暴力が進化するにつれ、社会と法制度はテクノロジーによって促進された虐待を表現する言語を作り出す必要があるとも指摘しています。分類し、それが及ぼす害を特定して対処するには、その前に名前を付ける必要があります。

現在、カナダの刑法には改変された画像は含まれていません。しかし、ダン氏は、彼らを含めることで、何が犯罪で何が犯罪に違反するかの境界はどこにあるのかということについて大きな議論が生まれると言う。画像は非常にリアルである必要がありますか?この定義を、個人の性的な物語や漫画を含めるように拡張すべきでしょうか?

これらの複雑な問題は、ディープフェイクのようなテクノロジーによるジェンダー暴力に焦点を当てた刑事制度と民事制度の両方の内部での成長を通じてのみ対処することができます。

変更を有意義なものにするためには、ソーシャルメディア企業やポルノサイトに対する規制を強化し、性的な画像やポルノコンテンツを禁止するルールを確実に整備する必要がある。また、このコンテンツが適時に削除されるように、このコンテンツが投稿された場​​合の対処方法に関するルールも必要です。

ダン氏は、インターネット上での合意に基づいた性的表現と性的虐待とを区別する必要があると警告する。人々が虐待的な性的コンテンツを排除しようと努力しているとき、すべての性的コンテンツを一掃したい場合があるため、これは重要です。

「私たちの社会では性的表現コンテンツが果たす非常に重要な役割があります。したがって、インターネット上で性的コンテンツが入手できる方法を改善することを考えるとき、私たちは赤ちゃんをお風呂のお湯と一緒に捨てないように注意する必要があると思います。私たちは肉体的にポジティブで健全な性的表現を望んでいますが、それは性的暴行とは異なります。同様に、大掃除に巻き込まれる可能性のある性的健康情報に関する子供向けサイトのようなデジタル空間でも、ポジティブで健全な性的表現ができるのです」とダン氏は語った。

トロントに本拠を置くバーブラ・シュライファー記念クリニックの弁護士でエグゼクティブディレクターのディーパ・マトゥー氏はこう語った。 rabble.ca「まだ訴訟が提起されるのを見たことがありませんが、訴訟が提起されると、それは困難になるでしょう。オンラインでの暴力は一般的に増加傾向にあり、AI が大きな役割を果たしているのは間違いありません。」

マトゥー氏は、虐待的なオンライン コンテンツに対する法的テストに別の基準を設けるべきではないと考えています。それがAIによって生成され、その人に性的または精神的な嫌がらせをするという同じ意図で行われた場合。彼らの評判を攻撃する。または脅迫した場合、それは犯罪であり、性的暴力とみなされるべきです。

「これは強制と統制のパターンの一部であり、さらに真剣に受け止められるべきです。なぜなら、その行為の意図は、あなたがそれを計画し、あなたがテクノロジーを使用する範囲で自分自身を適用したことを示しているからです。」したがって、その観点から、この犯罪は他の犯罪よりもさらに真剣に受け止められるべきです」とマットー氏は述べた。

マトゥー氏は、誰かが被害者に危害を加える目的で画像を意図的に入手し、それを性的な対象とする場合、いかなる言い訳も許されるべきではないと考えている。

マトゥー氏は、性暴力によるトラウマが被害者に生涯にわたって影響を与える可能性があることが科学的に証明されていると指摘する。

マトゥーさんは、刑務所制度が教育制度になることを望んでいます。なぜなら、彼女の考えでは、誰かを狭い空間に閉じ込めて収容能力を制限するだけでは、実際に彼らを変えるには十分ではないからです。

「これはあなたの同意なしに何かが起こって、あなたの代理店が奪われたということです。したがって、精神的なダメージはさらに深刻です。本当に必要なのは、こうした犯罪が起こらないよう社会を変えることだ」とマットー氏は語った。