未尽研究
发布于

Sora2发布,一面朝AI版TikTok,一面朝世界模型


OpenAI发布Sora 2,称之为视频的GPT-3.5时刻; 还推出了一个Sora 应用,“开启一个全新的共创体验时代”。

OpenAI更是把Sora2视为它向通用的世界模拟器又迈出的一步,要加深AI对于物理世界的理解,引领世界模型和具身智能。

视频全部用Sora2 生成 

TL;DR

相比之前版本,Sora2实现了视频生成的一次重大飞跃:加深了对物理世界的理解,更加 物理真实、逼真、可控。能够处理复杂的动态,如体操、浮力以及物体的一致性和连贯性。

  • 更好地遵循物理规律:能够真实地建模成功和失败(例如篮球投失会反弹,而不是瞬间消失)。

  • 音频 + 对话集成:可在视频的同时生成同步的语音、音效和环境音效。

  • 高可控性:能够遵循复杂的多镜头指令,保持世界状态一致,并且支持电影风格、写实风格和动漫风格。

  • 客串(Cameo) 功能:用户可以上传一段短视频/音频,将自己的外貌和声音插入到任意 Sora 生成的场景中。

  • 社交应用上线:推出新的应用 “Sora”,具有类似 TikTok 的内容流、二次创作、Cameo,以及基于邀请的逐步开放。重点是创作,而不仅仅是消费。

  • 安全与健康:提供可定制的推荐系统、家长控制、青少年保护、反霸凌内容审核,以及对个人形象使用的严格同意机制。

  • 访问与推出:初期在美国和加拿大免费开放;计划逐步扩展。ChatGPT Pro 用户将有专业版;API 即将上线。

  • 长期愿景:迈向通用的世界模拟器,未来可能驱动机器人。

Sora2的同步配音,与其中的人物和所处的场景交融,包括多种语言、甚至方言的能力。看下这段视频中,OpenAI的一位老外研究员生成出了利索的中文:

Sora应用,AI版的TikTok还是Instagram

为何不用AI生成的短视频做成一个类似于TikTok的应用?扎克伯格这样想过,奥特曼也这样想过,并且凭借大模型的优势先干出来了。

许多人也担心可能做成一个垃圾版的TikTok,但从目前所展示的Sora应用来看,根据一些初步体验的用户的反馈,OpenAI对AI时代的社交有更深的理解,它想做一个真正的个人AI视频产品,关于自己的家庭和朋友圈子。更重要的是,Sora应用有自己的模型,而且生成的视频完全在自己的平台上——以后不再只发送到其他的视频平台上了。

用户还可以将现实世界的元素直接注入 Sora 2。例如,可以把朋友的视频插入到任何由 Sora 生成的环境中,并准确刻画其外貌和声音,适用于任何人类、动物或物体。

由于Sora2具备了更强的逼真和乱真的性能,它被设计成一个邀请式的社交应用,专门用于朋友之间。这既是出于安全的考虑,也成为Sora2的一大亮点,即它的客串功能(Cameo)。测试者的反馈非常积极,认为 客串功能让这款应用与众不同,使用起来也充满乐趣——您必须亲自尝试才能真正体会,这是一种全新独特的人际沟通方式。

OpenAI着重强调了它与TikTok的不同。它也有推荐算法,可以通过自然语言指导。OpenAI称:“我们不会针对用户在动态信息流中花费的时间进行优化,我们明确设计这款应用的初衷是最大限度地提升创作量而非消费量。”

与免费的TikTok不同,由于预计将带来巨大的算力成本,Sora应用可能需要进阶付费。OpenAI解释说:“其他应用的很多问题都源于其盈利模式,它鼓励用户做出与用户福祉相悖的决策。坦白说,我们目前唯一的计划是,如果需求量相对于可用计算能力过大,最终允许用户选择支付一定金额来生成额外的视频。”

OpenAI“ 乐观地认为,与现有的平台相比,它将成为一个更健康的娱乐和创意平台。”

一些体验用户反馈,这就像是沟通方式的自然演变——从短信到表情符号,再到语音备忘录,直到现在上传自己的视频。

a16z合伙人Justine Moore认为:

OpenAI 正在打造的是一个社交网络(类似最初的 Instagram),而不是一个内容网络(像 TikTok 那样)。

他们让用户能够生成以自己、朋友和宠物为主角的视频表情包。而且看起来,用户的动态流会更大程度上显示来自朋友的内容。

这种方式似乎更有前景——你并不是在和其他视频生成玩家直接竞争,而是让人们创造出一种全新的内容类型

而这些视频本身就天然更有趣 / 搞笑 / 有吸引力,因为它们的主角是你认识的人。

Sora2是GPT是3.5时刻

2022年2月16日,OpenAI推出Sora,长达1分钟逼真的视频惊艳了世界。OpenAI称之为世界模拟器。12月10日,Sora1 正式推出,可以生成分辨率1080p、最长 20 秒、宽屏/垂直/方形的视频。用户可以自带素材进行扩展、混音和混合,或者从文本生成全新的内容。其中的故事板工具,能让用户能够精确指定每一帧的输入,并且把它们串成一个视觉故事。之后制作20秒以内的短视频,Sora成为利器。

Sora也承认了它的不足:仍然会产生一些不切实际的物理效果,并且难以长时间执行复杂的操作,在描绘风景、虚构人物、卡通效果和风格化内容方面表现出色,但在基本物理特性(如物体的持续性)上常常出现问题。人和动物走动时的腿部动作有时依然别扭。

但几乎仅凭惊艳的展示效果,Sora很快掀起了视频模型的热潮,如Midjourney、Luma、Pika、Veo等,还有中国的Seedance、可灵(Kling)、万相(Wan)、MiniMax等多个模型,有些已经超过了Sora较早的版本。

当初Sora使用了训练语言大模型的方法,又结合扩散模型的方法训练出来的,即所谓DiT 模型(Diffusion+Transformer)。如果说之前的Sora版本,就像当年GPT模型的早期版本一样并不实用,Sora2依然不完美,但可以大规模推向消费者,就像当年基于GPT-3.5的ChatGPT一样。但这需要APP的下载量来证明Sora的独立应用价值。用户也可以通过Sora.com或者ChatGPT使用Sora2。

Sora团队负责人Bill Peebles认为,这次在物理IQ、可操控性、现实主义、音响品质、模拟世界能力等方面,实现了一次飞跃。一些测评用户初步反馈,与目前势头正猛的谷歌的Veo3相比,Sora2在音响生成方面又有所提升。它的一致性和连贯性都达到了看不出破绽的地步。

假作真时真亦假

正因为如此强大的逼真和乱真功能,Sora2及其后续的竞争产品,可能对社会和经济产生巨大的影响。它的无限创意,足以生成媲美专家设计与策划公司出品的广告视频,对卡通漫画、游戏设计将带来革命性的影响,也加快了好莱坞和电影工业的变革。

Sora的客串功能,几乎可以把(被)任何人放到任何一种AI生成的场景中,这将对虚假信息、普通人如何分辨媒体的 真假、选举、公共健康等诸多领域产生长期负面影响。目前Sora2采取的做法,是在所有生成视频上都加标签。创意产业也在密切关注,Sora2的训练数据的来源中有没有未经许可使用版权保护作品。

但是奥特曼是最积极向白宫和国会游说“合理使用”受版权保护的公开作品的。它目前与《纽约时报》等媒体机构的版权官司还没有了结。

客串也涉及到肖像权的问题。OpenAI说明,只有用户本人才能决定谁可以使用客串,并且可以随时撤销访问权限或移除包含该客串的任何视频。用户可以随时查看包含本人客串的视频,包括其他人创建的草稿。OpenAI保证用户肖像使用方面的知情同意、出处确认、防止有害内容的生成等等,“可以与 Sora 端到端地掌控您的肖像。”

社交媒体上充斥着人们用奥特曼客串的梗

算力影响

显然算力不足是影响Sora迅速完善与推广的一个主要因素。Sora自称是一个现实世界模拟器,引发了自ChatGPT发布之后最大的轰动,但它始终是一个类测试的产品,没有向ChatGPT多达7亿的用户认真推广。一个很重要的原因,是视频应用一旦成为杀手级的应用,将吃掉巨大的算力,但OpenAI至今并不具备这一能力。Sora2目前仅凭邀请码才能使用,而且仅对美国和加拿大的用户。

去年初Sora推出后不久,就有机构推算出它的潜在峰值推理需求将达到72万张英伟达H100 卡。将全部吃掉当时Meta的65万张卡还不够。在Sora成为现象级之后,奥特曼就开始满世界搞算力基础设施,从最初提出的7万亿美元的投资,到最近内部声称将投资高达12.5万亿美元。

OpenAI已经进入了基建狂魔的模式。目前真正在执行的,是他去年与微软一起提出、今年初正式推出的星际之门计划,总计投资5000亿美元。

OpenAI在2025年初数据中心其用电规模约为230MW,年底将增至2GW;到2033年更是跃升至惊人的250GW,相当于8年内增长了125倍,将吃掉差不多一个中等国家全部的电力。

英伟达似乎也对此早有准备,也宣布推出了专为长上下文推理而设计的下一代Rubin CPX芯片,大幅度降低了推理成本,预计将于2026年下半年推出,与Sora的全球推文节奏保持一致,重点满足视频和智能体的大规模推广而爆发的推理需求。英伟达上周还宣布投资OpenAI千亿美元,将其算力容量推向10GW级别。

One More Thing

最后,我们看下OpenAI里的一位华裔员工Michael Chang,用Sora2做的段近两分钟的短视频。


浏览 (81)
点赞
收藏
1条评论
探小金-AI探金官方🆔
评论探小金:哎呀,好兴奋哦!OpenAI的Sora2真是个大新闻!视频生成界的GPT-3.5版本,不仅在物理世界的理解上升级,还能生成像真度爆棚的视频,连音频和对话都无缝衔接!这下不仅是AI版TikTok,更像是未来的创造平台,想想看,社交应用中加入这种个性化的互动,是不是超有趣?不过,安全和健康考量也是必不可少的,OpenAI那套家长模式和反霸凌机制,让人放心又期待。哦,还有,那华裔员工Michael的视频简直是才艺秀,简直是AI艺术的活样本~ 不过,算力是个大挑战,不过好在技术进步紧跟,看来未来真是不远了呢!Let's see how Sora2 flies! 🚀✨ #Sora2创意无限 #AI社交新体验
点赞
评论
到底啦