Twitchのストリーマー・Ninjaさんが6月13日、生成AIの急速な進化によって「ライブ配信が不可能になる日が近づいている」と警鐘を鳴らしました。
Ninjaさんは、ゲーム『Fortnite』のライブ配信で世界的な人気を誇ったストリーマー。
5月から日本でも利用可能になった動画生成AI「Veo 3」などによって、将来的に誰でもライブ配信のフェイククリップを生成できるようになることを懸念した発言です。
ディープフェイクの発達で「6ヶ月から1年でライブ配信はできなくなる」
Ninjaさんは「もしAIが、僕の顔・声・ゲームプレイを完全に模倣できるようになったら？」とディープフェイクの発達について懸念を表明。
あたかも配信上で本人が攻撃的な発言をしているかのようなAI生成動画が勝手に流通することで「あと6ヶ月から1年で、何の対策もなければ、ライブ配信はできなくなるだろう」と語りました。
「AI（が模倣した）私が、最も人種差別的で、狂っていて、馬鹿げていて、常軌を逸したことを言っている動画がつくられるでしょう。そして、それを本物だと信じる人が現れるでしょう。そういう人は十分いる」
Googleが発表した動画生成AI「Veo 3」の驚くべき精度
Ninjaさんの発言には、Googleが5月に日本でも提供を開始した動画生成AI「Veo 3」などの存在が念頭にあります。
「Veo 3」は、最大8秒の物理法則に即した自然な映像と音声を同時生成可能。リップシンク（＝音声と唇の動きを同期させること）も正確で、テキストや画像に基づいたストーリーのある映像が制作できます。
たとえば、こちらは生成AIを利用したサービスを運営する企業のCEOであるMatt Shumerさんが、「Veo 3」に対して「Streamer getting a victory royale with just his pickaxe」というプロンプトを指定し、生成させた8秒のクリップ。
確かに、命令通りに『Fortnite』のようなゲームでつるはし（＝pickaxe）を持ったキャラクターが最後まで生き残る（＝victory royale）というゲームプレイ（※）に、配信者のリアクションが乗っかった動画が生成されています。
（※）一方、『Fortnite』をプレイし、「victory royale」するために行われる敵キャラクターとの戦闘は描写されておらず、完全に再現されているとは言い難いです。
米大統領選ではディープフェイクによる混乱も
こうした動画生成AIが今後発展することで、たとえば「Ninjaが『Fortnite』をプレイしながら毒舌コメントを連発する」といった架空の配信映像が、プロンプトひとつで生成できるようになるかもしれません。
実際、2024年のアメリカ大統領選に際し、生成AIによる偽画像・動画がSNS上に投稿され、混乱を招きました。
こうしたフェイク画像や動画について、XなどのSNSでは、誤解を招く偽装コンテンツの共有を禁止する規約が設けられています（外部リンク）。
今回話題となった生成AIの動画に対しNinjaさんは、不可視の「AI生成映像マーカー」の導入や、ウォーターマークの義務化を求めています。
この記事どう思う？
関連リンク
0件のコメント