イエスとチャット: Twitch AI ストリームの台頭

Twitchでジーザスを見ています。彼はひげを生やした白人男性で、チャットからの哲学的な (そしてそれほど哲学的ではない) 質問に答えています。質問を入力するだけで、イエスが答えてくださいます。

もちろん、イエスはAIです。ある時点で、彼は自分が「肉体的なイエスではない」とさえ認めており、少なくとも自覚はあるようだ。このチャンネルは、キリスト教団体ではない The Singularity Group の貢献と、有名人の声を再現する AI を活用した音声生成プラットフォームである PlayHT の技術によってこのことが可能になったと述べています。

AIジーザスには誰の顔と声が使われているのでしょうか？それは不明です。面白いですか？ある意味。これは本当に Twitch を使用すべき種類のコンテンツですか?議論の余地あり。

別のチャンネルに切り替えます。今回はトランプとバイデンの大統領討論会で、これもシンギュラリティ・グループによって実現された。繰り返しますが、視聴者はチャットに入力して質問することができますが、ほとんどの場合、それは両大統領に何か愚かなことを言わせようとする単なる口実です。

Twitch はこの種のコンテンツを積極的に宣伝しています。ホームページを下にスクロールすると、「おそらく人工的、できればインテリジェント: AI を活用したスト​​リームと関連するディスカッション」というセクションがあり、AI を活用した推奨ストリームが満載されています。

私に勧められた別のストリームのユーザーたちは、人気ストリーマーや有名人の AI バージョンを操作できるチャンネルで偽りのドラマを作り上げるのに忙しい。 Amouranth、Asmongold、Kai Cenat はすべて、イーロン・マスク、オバマ大統領、ゴードン・ラムゼイ、さらにはスティーブ・ジョブズと並んで選択肢として利用可能です。

ビデオゲーム業界における AI の使用については、脚本執筆やアートでの使用から、俳優の肖像がディープフェイク MOD に使用されることまで、議論がますます広まっています。

しかし、Twitch ストリームで AI を使用することにはどのような危険があるのでしょうか?そしてなぜTwitchがそれを宣伝しているのでしょうか？

まず、シンギュラリティ グループとは何ですか?そのウェブサイトでは、この組織を「世界に真の変化をもたらす革新的なプロジェクトに取り組む意欲的で野心的なボランティア活動家のグループ」と説明している。そのビジョンは特にユニバーサル・ベーシック・インカムに焦点を当てており、これを実現する可能性は「適切なテクノロジーを利用することで完全に実現可能」であると述べています。

どうやって？その一つが暗号です。モバイル ミニゲームは、The Singularity Group の最大のプロジェクトの 1 つであり、ユーザーは慈善活動を中心としたモバイル ゲームをプレイして、ゲーム外で取引できるゲーム内通貨クリプトンを通じて収入を得ることができます。このゲームでは、ユーザーが独自の NFT を作成してプレイすることもできます。

Twitch ライブストリームは、活動家グループにとって単なるプロジェクトの 1 つです。シンギュラリティ・グループは、ライブストリームはボランティアによって作成されており、「最先端のAI技術を通じたエンターテイメントの革新、資金調達、意識向上を目的とした実験的なショー」が含まれていると述べている。確かに、前述のストリームには（慈善ではなく）ストリームの所有者に寄付するオプションが含まれていますが、そのお金は正確にどこに使われるのでしょうか？

「現在、私たちはAGI（汎用人工知能）の研究に注力しています。これは、私たちが現在注力できる最も重要な問題だと考えているからです」と、シンギュラリティ・グループの共同創設者であるリース・レイセン氏は私に連絡したときに語った。

「OpenAI、Google、Facebook、その他多くの企業が、AI の商業的可能性を最大化するために先を急ぐ一方で、AI の『調整』を維持するために原始的な追加レイヤーを追加するだけであるため、AI (そして最終的には AGI) の作成に本格的な研究開発が行われることが非常に重要であると考えています。それは、本質的に、実際の推論プロセスを中核に持たず、したがって「調整」がほぼ不可能なインテリジェントなシステムを単に構築するのではなく、独立した推論と現実と倫理の創発的な理解のための適切なアーキテクチャを基本的に備えており、社会と人類に潜在的に前例のないリスクをもたらします。 。」

そのため、Twitch 上のこれらの AI ストリームは、テクノロジーの小規模かつ限定的なショーケースとして設計されており、これによって The Singularity Group を「研究グループとして確立し、オープンソース AI コミュニティで活動するより多くの人材を惹きつけ、より多くのコラボレーションにつながる」と Leysen 氏は述べています。 」。簡単に言うと、データ収集と採用です。

レイセン氏は、Twitchが「これまでで最も推進しやすい」ためプラットフォームとして選ばれたと述べ、Twitchによるガイドラインの施行は依然として厳格で予測不可能な場合があり、自律的でインタラクティブな24時間365日のAIライブストリームが困難になる可能性があると指摘した。

「その結果、私たちは実際、AIがTwitchのルールに反する可能性のあるものを出力するという問題に遭遇するのを避けるために、過去8か月間、努力とリソースの大部分を独自の高度なモデレーションシステムの開発に費やしてきました」と彼は述べた。追加した。

これらのストリームで寄付を通じて集められた資金は、AI ストリームのさらなる研究と開発に直接使われます。同グループのテクノロジーにより、AI が YouTube 動画などにリアルタイムで反応できるようになったほか、遅延がほぼゼロのリアルタイム音声対話が可能になり、会話が自然に流れるようになりました。 Leysen 氏は次のように述べています。「これらは、さまざまなキャラクターやフォーマットを使用して、間もなく開始する新しいストリームで紹介する可能性のあるコンセプトです。」

レイセンは、資金調達の別の方法としてモバイル ミニゲームに暗号通貨を使用することを擁護した。 「活動家として、私たちは常に、可能な限り最大のプラスの影響を与えることができるところに努力を集中しようとしてきました」と彼は述べた。 「ある時点で、ライブストリームのみに依存した募金ではなく、持続的に募金を集められるモバイルゲームのようなものがなければ、慈善活動をこれ以上拡大できないことに気づきました。」

しかし、AI テクノロジーの台頭により、グループは焦点を移すようになりました。 「DALL-E と ChatGPT が勢いを増し始めて以来、私たちは AI 研究に優先順位を移し始めました。これは、AI が急速に社会に大きな破壊的影響を与えることと、AGI が今後 10 年以内にどのように出現する可能性があるかという理由からです。より安全で、より責任を持って開発された基本的な AI アーキテクチャに向けて、私たちができることを考えています」と彼は続けました。

現時点ではAIと仮想通貨の両方をめぐっては多くの懐疑論があり、ライセン氏はそれがしばしば「非常に単純で部族的」な言説のせいだと非難した。同グループは「人々の意識を変えようとするよりも、AIの世界への技術的貢献に主に力を注いでいる」と述べ、AIは今や大企業だけではなく大衆の手に渡ったと付け加えた。実際、レイセン氏は、より小さなグループでも AI を進歩させることが重要であると考えています。

「私たちは、巨大企業が管理する想像を絶する超兵器になるのではなく、最終的には責任を持って建設的に推論する一種のAGIにつながる技術の開発に全力を尽くしている」とライセン氏はサイバーパンクを匂わせながら語った。しかし、規制されていない AI コンテンツを作成する評判の悪い企業に関する多くの問題が残っています。

Twitch 上のディープフェイク コンテンツの問題は依然として大きな懸念事項です。今年初め、女性ストリーマーの画像が作成されオンラインで共有されたことを受け、同プラットフォームは露骨なディープフェイクコンテンツに関するポリシーの更新を余儀なくされた。当時Kotakuが報じたように、ストリーマーのブランドン・「アトリオック」・ユーイングは、自分のコンピューターに露骨なディープフェイク・ストリーマー・コンテンツがあったことを誤って暴露し、影響を受けた女性たちはその存在に気づいていなかった。

その結果、Twitchは、露骨なディープフェイクコンテンツ、または同社が「同意のない搾取的合成画像」（NCEI）と呼ぶものをプラットフォーム上で禁止するというポリシーを発表した。 「Twitch上でのこのコンテンツの作成、宣伝、閲覧は歓迎されない」としている。

しかし、このポリシーはディープフェイクコンテンツの「新たな傾向」もカバーしており、Twitchは「計画、対応、行動において慎重かつ思慮深い検討が必要になる」としている。さらに、「合成的に作成されたコンテンツのすべてが本質的に性的であるわけではなく、また、そのすべてが合意に基づいていないわけではありません。このトピックは私たちにとって非常に注目されており、私たちのポリシーが私たちの世界で起こっていることと関連性があり続けることを確認するために、新たな行動を常に監視しています」と続けた。サービス。”

さらに、Twitch は最近、AI を利用した児童性的虐待素材 (CSAM) のような搾取的なコンテンツの確実な削除を含め、子供たちを保護するための安全への取り組みを更新しました。

それでも、バイデンやトランプのような現実世界の人物の使用を含め、ディープフェイクやAIコンテンツはTwitch上で許可されているが、露骨なコンテンツとは明確な一線が設けられている。 「これは私たちが今後も注目し続ける分野ですが、ストリーマーがこの分野のイノベーターになると思います」と製品担当副社長のジェレミー・フォレスター氏は今年初めにTwitchCon Parisで私に語り、潜在的な成長分野としてのAIの話題について語った。

Twitchのグローバルパートナーシップ担当副社長ポンタス・エスキルソン氏はへの新たな声明で、「Twitchストリーマーはその創造性で有名であり、この初期段階でも一部のストリーマーはAIを使って驚くほどユニークなコンテンツを作成し、新たなクリエイティブを開拓する実験を始めている」と述べた。新しいモデルをトレーニングする技術的な取り組みをストリーミングするだけでなく、アニメーション ストリームや VTuber の機会も提供します。

「Twitch にこの興味深いタイムリーなサブジャンルが存在するにもかかわらず、私たちのサービスの核心は常に、Twitch の人々がコミュニティを見つけられるように支援し、安全にコミュニティを見つけられるようにすることにあります。私たちのサービス上のすべてのストリーマーとチャンネルが対象となります」 AI を利用しているかどうかにかかわらず、Twitch のサイト全体のコミュニティ ガイドラインと利用規約に従う必要があります。」

レイセン氏はAIを通じたディープフェイクコンテンツの道義的責任についてもコメントした。 「この点に関するわれわれのスタンスは極めて伝統的だ。意図的に欺くためにテクノロジーを利用することは問題があり、Twitchのようなプラットフォームはこうした点での悪用を防ぐ方法をますます見つけなければならないが、それはかなりの課題だ」と同氏は述べた。

「私たちのショーケースがこの問題についての意識を高めるのに役立つことを願っています。また、私たちのストリームを見てテクノロジーがすでに実現できることに衝撃を受け、次にクリエイター/有名人/政治家を見るときに考え直すようになる人をよく見かけます。偽造される理由がある可能性がある文脈で表示されます。」

同氏は、登場人物が実在の人物に基づいているシンギュラリティ・グループのストリームについては、そのコンテンツがパロディとして明確にラベル付けされており、フェアユース基準を満たしていると付け加えた。前述のストリーマー ドラマ AI ストリームはその一例です。

「たとえ私たちのAIパロディキャラクターが下品で自由奔放なものであっても、私たちは彼らの出力が彼らの個人的な背景を無視しないようにするために多大な労力を費やしました」とレイセン氏は語った。 「例外は、ストリーマーが私たちに連絡して、立ち入り禁止のものは何もなく、実際に自分たちのAIパロディが自分たちに関するあらゆる既知の情報を自由に操作できることを望んでいる場合です。これまでのところ、ストリーマーはいません」私たちに苦情が寄せられ、彼らの多くから私たちの作品が気に入ったと聞いており、また、AI パロディをフィーチャーした私たちのストリームにライブリアクションをしてくれている人も少なくありません。」

したがって、AI コンテンツとストリームが Twitch に留まり続けることは明らかですが、それらがコミュニティを見つける中核にどれだけ貢献しているかについては議論の余地があります。ライセン氏とシンギュラリティ グループの活動家にとって、AI ストリームはプラットフォームの公正な利用の範囲内であり、AI の技術的かつ破壊的な能力を紹介すると同時に、その危険性を強調する方法でもあります。露骨な内容に対する強い抵抗がある一方で、Twitch ストリームへの AI の統合はどこまで進むのでしょうか?ゲームをプレイしたり、チャットに応答したり、安全で管理されたコミュニティを作成したりするなど、完全に AI によって実行されるストリームを私たちはすぐに見ることになるのでしょうか?

おそらくそれはイエスに尋ねるべき質問です。