ライブストリーミング配信サービスTwitchはディープフェイクによる性的コンテンツを明確に禁止する内容を盛り込んだポリシー変更や、その他対応について発表しました。
合意なき搾取画像の意図的な使用は一発無期限BAN
同サービスでは1月に、配信上にディープフェイクポルノが映りこむ事件が発生し、物議を醸していました。今回の発表はこれを受けての対応を表明する物とみられます。Twitchは発表ブログ内で、元々ポルノコンテンツが禁止表現であることを述べながらも、ディープフェイクによるコンテンツが同意に基づかない搾取的な性暴力に値するものとし、これらコンテンツをポルノとは明確に分けて禁止する必要があるとして今回の対応を示したそうです。
具体的なポリシーの変更点として、該当コンテンツを「Synthetic(合成) NCEI(合意なき搾取画像)」と明示して禁止し、性暴力および搾取表現を含むコンテンツの意図的な宣伝、作成、共有を行った場合、最初の違反で無期限のアカウント停止処分となる可能性がある項目と、アダルト表現を定める項目について合成NCEIを含むよう変更を行っています。仮に意図的でない、或いはコンテンツへのネガティブキャンペーンのために短時間だけ表示した場合でも同コンテンツは削除対応となるそうです。
また、Twitchでは本件に関する分野を専門とする法学教授のアドバイスを受けている他、リベンジポルノ相談窓口マネージャーも務めるストリーマーと協力して、合成NCEIの危険性や対処法等を説明するクリエイターキャンプも開催するといいます。
技術の進歩を注視して適切な対応を続けると改めて表明
ブログ末尾ではディープフェイクコンテンツが全て性的であったり、同意の無いものというわけではないと断りを入れながらも、常に新たな技術の発展に目を向け、しかるべき対応を取ることを改めて示しています。
