OpenAIのTikTok風新アプリ「Sora」にサム・アルトマンの不気味なディープフェイクが氾濫、悪用や安全性への懸念も

佐々山 Tacos

2025.10.02

OpenAIのTikTok風新アプリ「Sora」にサム・アルトマンの不気味なディープフェイクが氾濫、悪用や安全性への懸念も

TechCrunch – October 1, 2025

OpenAIは2025年10月1日から、AI生成動画の生成・共有ソーシャルアプリ「Sora」の展開を限定的にスタート。AIモデル「Sora 2」を使って生成された動画がTikTok風にシェアされるこのアプリがもたらし得るプライバシー侵害や著作権侵害、偽情報拡散、いじめへの発展、政治的目的での悪用といった危険性について、TechCrunchの記者が警鐘を鳴らした。

Soraでは一般的なソーシャルメディアプラットフォームのようにユーザー同士がフォローし合い、互いにAI生成のコンテンツを共有する。現在、「招待性」で限定的に公開されているが、リリースから24時間足らずで同アプリにはOpenAIのCEOであるサム・アルトマン氏のリアルなディープフェイク映像が氾濫。これらは、目玉機能とされている「Cameo（カメオ）」を使用して作成された動画だという。ユーザーは数字を読み上げたり頭を左右に動かしたりする自らの姿を撮影し、その動画をアップロードすることでこの機能を利用でき、作成した自身の「Cameo」は自由にAI生成動画に差し込めるほか、自らのCameoの使用を許可している他ユーザーのCameoを使った動画生成も可能だという。アルトマン氏のAI動画も、同氏が自身のCameoの利用を全ユーザーに許可していることから作成可能となっている。このように同氏は自らのCameoを使ってSoraの無害さをアピールしようとしているようにも思えるが、TechCrunchのジャーナリストAmanda Silberling氏は同アプリの危険性を示唆している。

著作権侵害をめぐる懸念

Silberling氏が言及した懸念の1つは、著作権に関するもの。Soraでは、著作権保有者が自ら作品の登場を拒否するオプトアウト手続きを取らない限り、当該作品の素材を使った動画が作成できてしまうとされる。この通常とは逆方向のアプローチについて、Silberling氏は「その合法性は議論の余地がある」と記した。

SoraのユーザーらもOpenAIが著作権法を露骨に侵害しているように見える点を特に面白がっている模様で、同アプリのリリース以後、以下のような動画が生成・共有されている。

ピカチュウなどのポケモン数匹が草原を走る中、アルトマン氏が「任天堂に訴えられないといいけど」などと発言する動画
アルトマン氏がピカチュウとエリック・カートマン（アニメ『サウスパーク』の登場人物）にスターバックスでドリンクを渡す動画
アルトマン氏が全米チェーンの大型量販店「ターゲット」からNvidiaのGPUを盗んで逃げるも、すぐに捕まり、警察に「大切な技術を没収しないでくれ」と懇願する動画
アルトマン氏が「このコンテンツは第三者の肖像権に関する当社のガイドラインに違反する可能性があります（実在する有名人やキャラクターの生成プロンプトを送ると表示される注意書きの内容）」と発言したのち、自分の言っていることを馬鹿馬鹿しく思っているかのようにヒステリックに笑い始める動画
ピカチュウによるASMR動画
日本のアニメキャラ「ナルト」が、アニメ作品『スポンジ・ボブ』に登場するハンバーガー「カーニバーガー」を注文する動画
マリオがマリファナを吸う動画

「リアルさ」が増すと悪用の危険も増す？

Silberling氏は、AIモデルSora 2の精度の高さについても言及。OpenAIによれば、ファインチューニングにより物理法則を適切に表現できるようになっており、より現実的な動画が作成可能になったという。しかしSilberling氏は「これらの動画がよりリアルになればなるほど、こうした合成コンテンツがWeb上で拡散しやすくなる」と指摘。本物のように見えるディープフェイク動画を作成できるSoraが偽情報やいじめ、またその他の悪質な用途の手段となり得る危険性を訴えた。SoraからダウンロードされたAI動画には透かしが付与され、AI動画であることが識別可能だとOpenAIは述べているものの、こうした安全措置を破る手法が今後登場しない保証はない。

政治目的で悪用される恐れも？

Soraは実在する人物の動画を本人の許可なく生成することを禁じているものの、すでに亡き過去の有名人となると、その規制は緩くなるという。Silberling氏は、例えばエイブラハム・リンカーンが自動運転タクシー「Waymo（ウェイモ）」に乗る動画を見てそれを現実だと信じる者は誰もいないだろうとしつつ、一方で本物そっくりなジョン・F・ケネディが「国家があなたのためにできることは何かではなく、国があなたにどれだけ借金しているかを問え」と発言する動画の例を紹介。この動画は単独で見れば無害かもしれないが、「これから起こり得ること」の予兆であると指摘し、民衆の扇動や影響力行使など、政治的・イデオロギー的な目的でSoraの生成動画が悪用される可能性についても示唆した。

政治関連のディープフェイクは新しいものではなく、トランプ米大統領さえも自身のディープフェイクを自らのソーシャルメディアに投稿するなどしていた。しかしSilberling氏は、Soraが全面公開され、すべての人の手元にこのAI動画生成ツールが行き渡れば、破滅的な運命が我々を待ち受けることになるだろうと危惧している。

安全対策は存在するも…

OpenAIはSoraのローンチを伝える投稿において、保護者による管理が可能な点や、Cameoの使用をどこまで許可するか（自分自身のみ、許可したユーザーのみ、相互フォローのユーザーのみ、すべてのユーザー、のいずれかを選択可能）を選ぶことができる点などを挙げ、安全性へのコミットメントを強調。しかしSilberling氏は、「自分自身および友人らの極めてリアルなディープフェイクを作成できる無料かつユーザーフレンドリーなリソース」を人々に提供すること自体がそもそも無責任であるとした上で、Soraのフィードに「Soraの使用はあなたの気分にどのように影響しますか？」と尋ねる画面を時折表示させることで「安全」を確保しようとするやり方に疑念を呈した。