Twitchは露骨なディープフェイクコンテンツのライブストリーミングに対処する

Twitchは、新しい安全性に関するブログ投稿で、プラットフォーム上での露骨なディープフェイクコンテンツのライブストリーミングについて言及した。

これは、女性ストリーマーのあからさまな偽コンテンツがTwitchでライブストリーミングされた1月の事件に続くものである。

「この瞬間は、画像が同意なしに使用された人々に計り知れない苦痛を与え、AIによって生成された露骨な画像がもたらす危険性についての会話の波を引き起こした」とTwitchのブログ投稿には書かれている。

「このコンテンツの存在、そしてその存在とさまざまなサイトでの配布は、個人的に違反であり、動揺を超えています。ディープフェイクポルノはTwitchでは問題ではありませんが、一部のストリーマー（ほぼ女性のみ）がTwitchで直面する可能性のある恐ろしい問題です」インターネット全体。自社のサービスで何が起こるかについては私たちが最大限のコントロールを持っていますが、ストリーマーが自分自身を守り、この種の状況がどこで発生しても迅速に対応できるよう支援したいと考えています。」

このブログ投稿ではまず、「ディープフェイクポルノ」という用語の誤った使用について言及し、代わりに「合成の非合意搾取画像」または「合成NCEI」を選択している。ポルノは合意の上であるべきだが、合意のないコンテンツの作成には複数の方法が使用されており、Twitch は自社のアプローチがその範囲のテクノロジーを反映する必要があることを認めている。

そのため、プラットフォームにはいくつかの変更が加えられています。

まず、「合成 NCEI」への文言の変更を反映するためにポリシーを更新しています。これには、成人向けの性的暴力と搾取に関するポリシーと成人向けのヌードに関するポリシーの両方を更新し、そのようなコンテンツを共有すると最初の違反で無期限の停止処分が下されることを明確にすることが含まれます。

第二に、Twitchは、安全性の専門家であるダニエル・キーツ・シトロン氏、法学教授でサイバー公民権イニシアチブの副会長、英国リベンジポルノ・ヘルプラインの専門家らと協力して、この分野での取り組みをサポートしています。

最後に、クリエイター キャンプが 3 月 14 日に開催されます。NCEI の専門家でリベンジ ポルノ ヘルプラインのマネージャーである Zara Ward が主催し、オンライン保護に関するアドバイスを提供します。

「オンライン上の『ディープフェイク』（および関連テクノロジー）コンテンツの新たな傾向には多くの疑問が伴い、私たちの計画、対応、行動には慎重かつ思慮深い検討が必要です。合成的に作成されたコンテンツのすべてが本質的に性的なものであるわけではありません」 「また、そのすべてが合意に基づいていないわけではありません。このトピックは私たちにとって非常に注目されており、私たちは常に新しい行動を監視して、私たちのポリシーが私たちのサービスで起こっていることとの関連性を維持していることを確認しています。」とブログ投稿には書かれています。

「しかし、1つ明らかなことは、合成NCEIの作成に使用されると、そのニュアンスは消えてしまうということです。このコンテンツの作成、宣伝、または視聴は、Twitchでは歓迎されません。」