AI 发展持续加速,Sora 模型的出现正在引发文生视频领域的变革,各创业企业都在根据 OpenAI 发布的技术白皮书,重新调整自己的方向。
5 日,文生视频创业公司——七火山发布了其结合 Sora 路线迭代的 Etna 文生视频模型,并在发布会现场对生成效果进行了展示。
公司 CTO Jason Huang 对《科创板日报》记者表示,借鉴 Sora 技术迭代开发的 Etna 模型,在性能上有显著提升," 视频时长延长至 8-15 秒,且每秒帧数高达 60 帧,保证了视频流畅性;语义理解能力强大,能够更准确地理解和转化文本信息为视频内容;视频清晰度高、图片细节丰富,提升了视频的视觉效果。"
Etna 模型发布会现场生成效果展示
Jason Huang 进一步对《科创板日报》记者表示,Sora 的出现极大提升了文生视频模型的水平," 最大的价值在于,OpenAI 用它的尝试突破验证了一个技术路线的可行性,引领了整个业界的技术迭代。它的方向可能不是唯一的,但至少 Sora 目前的效果完全证实了这个方向的可能性,大家短期内都会转向这个技术方向优化自身的产品。"
文生视频领域技术大转向
Jason Huang 告诉记者,Sora 模型面世后,他与 OpenAI 的部分工程师在美国进行了会面交流," 在他们授权可讲的范围内做了一些讨论,包括他们自己是怎么看待 Sora 这个模型的。" 据悉,Sora 模型的研发经历了近一年时间,过程中也经历了多个不同方向的探索,直到近期才取得了重要突破。
其进一步表示,Sora 模型最大的突破在于,使用了 DiT 的技术框架。而在此之前,市面上的大多数文生视频创业企业,包括明星项目 Runway、Pika 等,都采用了扩散模型这一技术路线。
" 扩散模型的技术路线我们研究了比较长的时间,包括分析了 Pika 在去年 4 月发布的产品,以及去年底 Stable Diffusion 发布的开源项目。事实上,扩散模型一直有一个瓶颈,即视频时长、连贯性很难得到提升,所以现在我们看到的绝大多数文生视频片段就只有 3 到 4 秒,分辨率也只能达到 512x512,或者再往上一点点,但再往后就无法进一步扩大。"
算法也决定了用何种数据进行模型训练。" 如果只使用扩散模型,训练过程就是把图像作为数据集进行训练,但视频到图像之间会有转化过程,在训练过程如何避免信息量的丢失,让模型能学习到数据本身是一个视频而不是单一图像,扩散模型实际上存在局限。"Jason Huang 表示,彼时,由于上述两点在技术和方法上都未能取得了突破,业内很少有人敢于大量投入算力," 因为原来的方法是有明确的瓶颈限制的。"
而直到 Sora 模型的出现,其所采用的 DiT 的技术路线让上述两点存在已久的局限迎刃而解。" 在语义理解上,Sora 模型背后由 ChatGPT 提供强大的语言处理支持,大幅提升了语义理解能力;模型结构方面,它将传统的扩散模型与 transformer 模型相结合,形成一种既有效又先进的新模型架构;在训练数据方面,Sora 采用视频数据而非静态图片作为训练材料,通过 patches 作为处理方法来优化训练效果。"
Jason Huang 将 Sora 带给他和团队的启发形容为 " 醍醐灌顶 "。他表示,在把七火山的模型从原来单一的扩散模型往与 Transformer 结合的方向转移后,仅仅两周时间,就看到了显著的成效。" 比如我们现在做的视频已经能做到大概 10 到 20 秒,以及每秒帧数能达到 60 帧,这种参数水平放在现行文成视频同类产品中比较,已经可以排在前列了。" 但其坦言,目前和 Sora 比仍存在很大差距,"Sora 能做到 60 秒的时长,且达到 4k 甚至更高的分辨率,而且场景非常丰富。"
Etna 模型生成的 Sora 同款视频效果
上市公司押宝的战略新路线
除了及时调整技术路线,目前,七火山也在紧锣密鼓推进产品的应用落地。Jason Huang 对《科创板日报》记者表示,公司从创立开始就着眼于应用创新," 和大厂卷大模型能力不是我们的方向,我们从一开始就在研究,怎么把模型能力变成一个实际能落地的应用。"
据悉,目前,七火山通过 Lava 平台已与字节跳动、小米、快手建立合作关系,实现短剧内容的角色换脸、对白配音及字幕翻译,推动内容本地化和国际化发展;MiniTV 作为分发平台,探索短剧海外发行的多元化模式;其 Bromo 工具则能够将低分辨率、简单风格的图片,转化为高达 10K 分辨率的高质量图像,展示了 AI 技术在艺术创作与表情包转换等方面的潜力。
Jason Huang 进一步表示,尽管现阶段七火山以文生视频作为研究和推进的重点,但其将自身定位为一家 AI 多模态公司," 不局限在某一个应用,而是根据业界的最新进展,与自身业务进行有机结合,调整应用落地。"
《科创板日报》记者注意到,除了七火山本身作为一家刚成长不久的创业公司,在 AI2.0 极速发展的时期试图建立起自身的商业坐标外,其背后的战略投资方,亦通过对外投资等一系列方式对自身进行重新定位。
七火山目前获得了来自上市公司超讯通信的战略投资,后者由此成为持股 30% 的单一大股东。超讯通信子公司超讯智能 CEO 胡柏逸告诉记者,从去年初开始,超讯通信就开始在找 AIGC 垂类新锐企业进行布局," 当时看了不少公司,包括文生图到文生多模态,还有 AI 游戏等一系列公司都有接触,到今年确定了对七火山进行战略投资。"
公开资料显示,超讯通信成立于 1998 年,2016 年 7 月在上交所挂牌上市,据其 2022 年年报,公司主要业务包括通信技术服务业务、物联网业务以及 IDC 业务三大板块。
而在 5 日的战略发布会上,超讯通信董事长梁建华公布了公司未来三年的战略规划," 我们的愿景是建立一个完整的 AI 生态系统,通过算力、数据与人工智能技术的有机结合,构建独特而强大的超讯通信生态。我们追求的不仅是硬件的积累,更注重软硬件技术的自主创新和安全高效的集成应用。这意味着,在算力领域,我们不满足于简单的购买或租赁服务器,而是致力于技术的深度加持和创新。"
其进一步表示,超讯通信在人工智能方面进行了全方位部署," 重点投资于灵犀妙笔 AI 等境内外先进技术,同时注重 AI 安全和装备的配套。"
Jason Huang 则表示,与超讯通信的战略合作,未来会类似于当前国产大模型与互联网巨头之间的合作。" 肯定不是直奔着超讯通信给我们的财务投资去的,而是双方在理念上达成一致。与此同时,当我们的模型取得突破进展后,并实现与具体的垂类行业应用的结合,就需要我们去进行 upscale,即规模需要提升和扩大,这是超讯通信的算力、资金包括其他一些资源,就能助力七火山实现模型规模的快速扩大。"
来源:科创板日报
编辑:古月
版权归原作者所有,如有侵权请联系我们!
登录后才可以发布评论哦
打开小程序可以发布评论哦