365文库
登录
注册

豆包“王炸”,字节版Sora来了,有多厉害

2024-09-29 11:48    财经科技    来源:网易新闻

豆包“王炸”,字节版Sora来了,有多厉害?

出品|网易科技《态度》栏目

作者|定西

具备掀桌子实力的玩家下场了。字节跳动正式宣告进军AI视频生成。

日前,旗下火山引擎一举发布了豆包视频生成-PixelDance、豆包视频生成-Seaweed两款大模型,面向企业市场开启邀测。而字节版Sora的主要特点,是能实现自然连贯的多拍动作与多主体复杂交互。做到这点并不容易。

从策略上看,火山引擎的思路是,先在ToC打磨产品,模型能力具备竞争优势后开始拓展ToB市场。我们注意到,豆包视频生成模型的早期版本早在今年2月就在即梦(Dreamina)上应用,并且持续迭代优化。这次官宣,说明火山引擎做好了十足的把握。

从产品上看,字节版Sora也打出差异化,此前视频生成模型大多只能完成简单指令,豆包视频生成模型则能实现自然连贯的多拍动作与多主体复杂交互。有创作者在抢鲜体验豆包视频生成模型时发现,其生成的视频不仅能够遵循复杂指令,让不同人物完成多个动作指令的互动,人物样貌、服装细节甚至头饰在不同运镜下也保持一致,接近实拍效果。

破局多主体互动和一致性难题

据火山引擎介绍,豆包视频生成模型基于 DiT 架构,通过高效的DiT融合计算单元,让视频在大动态与运镜中自由切换,拥有变焦、环绕、平摇、缩放、目标跟随等多镜头语言能力。

基于此,全新设计的扩散模型训练方法攻克了多镜头切换的一致性难题,在镜头切换时可同时保持主体、风格、氛围的一性。

这被称为是这次豆包视频生成模型“独树一帜的技术创新”。

网易科技了解到,此前经过剪映、即梦AI等业务场景打磨,豆包视频生成模型已经具备专业级光影布局和色彩调和。不仅如此,深度优化的Transformer结构,则大幅提升了豆包视频生成的泛化能力,支持3D动画、2D动画、国画、黑白、厚涂等多种风格,适配电影、电视、电脑、手机等各种设备的比例,适用于电商营销、动画教育、城市文旅、微剧本等企业场景,也能为专业创作者和艺术家们提供创作辅助。

这样的泛化能力,正是当下,豆包视频生成模型的想象空间,出手ToC,剑指ToB。

目前,新款豆包视频生成模型正在即梦AI内测版小范围测试,未来将逐步开放给所有用户。剪映和即梦AI市场负责人陈欣然认为,AI能够和创作者深度互动,共同创作,带来很多惊喜和启发,即梦AI希望成为用户最亲密和有智慧的创作伙伴。

大模型要从卷价格走向卷性能了

火山引擎总裁谭待说,大模型的应用成本已经得到很好解决。大模型要从卷价格走向卷性能,卷更好的模型能力和服务。

据披露,截至9月,豆包语言模型的日均tokens使用量超过1.3万亿,相比5月首次发布时猛增十倍,多模态数据处理量也分别达到每天5000万张图片和85万小时语音。

谭待认为,大模型价格已不再是阻碍创新的门槛,随着企业大规模应用,大模型支持更大的并发流量正在成为行业发展的关键因素。

谭待透露,业内多家大模型目前最高仅支持300K甚至100K的TPM(每分钟token数),难以承载企业生产环境流量。例如某科研机构的文献翻译场景,TPM峰值为360K,某汽车智能座舱的TPM峰值为420K,某AI教育公司的TPM峰值更是达到630K。为此,豆包大模型默认支持800K的初始TPM,还可根据需求灵活扩容。

性能之外是服务,这次,豆包大模型不仅新增视频生成模型,还发布了豆包音乐模型和同声传译模型,已全面覆盖语言、语音、图像、视频等全模态,可以满足不同行业和领域的业务场景需求。

然而,豆包大模型的杀手锏还有生态。

今年5月,火山引擎与 OPPO、vivo、荣耀、小米、三星、华硕宣布成立智能终端大模型联盟。同在5月,火山引擎联合中国电动汽车百人会与一汽、吉利、长城、广汽、捷途、智己等20余家厂商,宣布成立汽车大模型生态联盟。8月,汽车大模型生态联盟迎来第二批成员单位加入,包括领克汽车、吉利银河、几何汽车、上汽荣威、上汽名爵、雄狮科技、大圣科技等厂商。还有今年8月,火山引擎携手多点DMALL成立零售大模型生态联盟,联盟首批成员包括物美集团、抖音电商、抖音生活服务、百胜、麦当劳、中国飞鹤、海底捞、居然之家、南7-11、重庆百货、百果园、波司登、天虹、三得利、绝味、名创优品、NielsenIQ、电通等。

雄心勃勃的豆包大模型已经迫不及待在企业市场大展拳脚。在ToC市场一骑绝尘的豆包,正在以全家桶的形式卷土重来。

豆包能否复制豆包,拭目以待。

tj