蓝洞商业 20小时前
以 AI 治 AI,安全和信任如何被看见?
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

每天  110 万次「一键修复」背后,藏着什么?

撰文 | 赵卫卫

一条广告素材被拒了,系统会弹出一句提示:一键修复方案已生成。广告主勾选一下点击「一键修复」,几分钟后,经广告主确认过的素材重新过审,然后重新投放出去。

今年上半年,巨量引擎商业信任与安全团队最新研发的   Mamoda2.5   模型平均每天把这个动作完成了   110   万次,精细化诊断意见给出了   1500   万条,而且这个数字还在上涨。

它最核心的亮点,是把混合专家架构(MoE)第一次真正用进了视频生成与编辑的扩散模型(DiT)里,模型在保持   250   亿参数能力上限的同时,单次推理只激活约   30   亿参数,这意味着极小的调度就可以完成任务,敏捷效率和精准效果实现了统一。

在没有行业参照的情况下,Mamoda   大模型用三年时间,迭代了四次版本,从   2024   年   6   月的   1.0   版本到   2026   年   7   月的   2.5   版本,这条路把过往的广告审核的「单向拦截」变成了「主动修正赋能」,率先走上了全链路智能治理。

治理前置化,把治理升级为服务,是巨量引擎构建下一代广告平台的新范式,合规不再是单纯的成本项,而是决定广告主投放效率的生产力,全链路智能治理会一步步长成平台长期商业价值的核心竞争力。

1

场景之变:治理与服务协同

在   AI   应用越来越普及的当下,过去要一个团队制作几天的广告内容,现在几分钟就可以批量生成。AI   生成的能力解放了商家,降低了成本,也带来了虚假宣传、诱导话术和侵权名人等等一系列问题。这些批量复制和不断变体的广告,给传统审核模式带来了极大压力。

广告场景在变,能够治理   AI   的,注定也要靠   AI   本身。

在巨量引擎内部,业务团队和技术团队形成「双螺旋结构」,业务侧关注审核效率、客户体验这类结果指标,而技术团队关注模型性能、推理稳定性和训练数据质量,二者互相激发协作,在广告审核场景中,不只是关注单点技术指标的优化,更要保证整条业务链路的最优解。

这是平台肩负安全责任和商业价值的必须,要维护商家和用户经营信任的基础。

2024   年   6   月,Mamoda   大模型   1.0   版本从文本广告检测起步,一年后用   1.5   版本覆盖到图片素材,并且能够给出精细化诊断;2.0   版本则进化到短视频领域,开始从识别诊断向主动解决问题延伸;直到现在的   2.5   版本,能力扩展到了视频全形态,实现了从风险识别到素材自动修复的全链路能力。

治理与服务协同,这是场景之变的核心。最好的治理不仅是让违规无所遁形,也要让优质内容的创作更加容易。

对正常经营的商家来说,有问题的广告素材可以自动检测完成修复,合规试错成本大大降低,加速把内容做好,沉淀信誉资产;对广大的用户来说,真实可靠的广告,意味着可信的决策信息,信任是安全感的基石。

例如,「百合中的天花板」,「厂家库存就没了」这样的广告词都经常出现在短视频中,但它涉嫌存在违反《广告法》相关规定的风险,而且不能有渲染焦虑或是博眼球的虚假营销。以前,遇到这种违规情况,广告主只能凭经验去猜测违规点是什么,修改后再投可能依然被拒,合规成本不断推高。

现在,Mamoda2.5   大模型会给出具体的修改意见,把「天花板」改为「品质出众」,把「库存没了」等话术改为合规的文案,并且能够让画面与排版保持一致,广告主确认无误后可以一键投放,既守住了合规底线,也保留了广告主原本想强调的卖点。

Mamoda   大模型   2.5   版本上线之后,「识别、定位、修复、应用」这条全链路走通了,规则开始指引方向。

过去半年间,巨量引擎帮助商家真正理解平台规则,从根源上降低重复违规率,广告主关于违规清晰度的负向反馈下降了   60.42%,精细化拒审诊断日均产出   1500   万条,日均完成   110   万次修复。

值得注意的是,110   万条修复的背后,是人工确认后的结果,因为必须由广告主本人确认满意才会重新投放,这意味着   AI   在辅助人的决策中扮演重要服务角色,这个数字还在持续走高,某种程度上就是模型能力不断获得广告主信任的结果。

2

技术之变:自研架构突围

天平的两端,一个是精准的效果,一个是敏捷的效率。如何保证模型效果的同时,又能实现资源的精准调度?

这是   Mamoda   大模型不断升级进化的必由之路,因为每天千万级短视频广告多模态全维度审核,用过去的技术思路进行诊断修复,意味着海量的   Token   消耗,所以必须在风险管控和客户负反馈中找到一个准确的平衡点。

Mamoda2.5 版本背后,是业内首创的   DiT-MoE   自研架构,通过将细粒度混合专家(MoE)架构引入到扩散   Transformer(DiT)中,也是破题效果和效率的切口。

行业没有先例,而且事关安全,只能重投入深定制进行自研,才能针对广告治理的独特需求做到极致优化。

事实上,MoE   架构在文本大模型(LLM)领域已经比较成熟,但在   DiT   这种视频生成、编辑用的扩散模型架构里,此前业内还没有把它真正跑通、做到规模化落地的先例。

简单说,MoE(混合专家)机制相当于给模型内部配了   128   个「专科医生」,一条视频内容进来,先有个分诊台判断该转给哪几位专家处理,而不是让   128   位专家全部会诊一遍。

模型选出   4~6   位最对口的专家联合会诊后,每位患者都能得到专业度强的诊断,而医院整体运转效率远高于让每位医生看所有病的模式。这样一来,模型总参数量做到了   25B(250 亿),但每次真正参与计算、被激活的只有约   3B(30 亿),只占总参数的   12%   左右。

比推理速度更有前瞻性的,是团队在架构设计上解决的一个更底层的冲突。

过去多模态模型分为「理解模型」和「生成模型」,前者负责判断出画面里有什么,后者关注的却是底层视觉特征,将两个模型统一建模一直都是行业难题。

Mamoda2.5   的底层突破之一,是设计了一个专门的融合专家模块,让理解特征和生成特征逐步地、渐进式地融合进彼此,团队内部把这个叫作「软融合」。

「我们之前其实有预期它两个合并起来会相互促进,而且我们真实地发现,理解能促进生成编辑的效果,也就是理解得更准,修得就更好。」  Mamoda   技术团队的刘畅认为。

这套架构解决的效率问题,直接体现在数字上:据   Mamoda2.5   官方项目页披露,模型完成一段   720p、93   帧的视频生成只需要   110   秒,比同等能力的稠密模型快   12   倍以上。

而在视频编辑任务上,技术团队通过联合少步蒸馏和强化学习框架,把原本需要   50   步推理的编辑模型压缩到   4   步,单次编辑延迟只要   9.2   秒,将视频编辑推理的速度最高提速   95.9   倍。

这是全栈自研的成果,实现了技术能力的全面突破,「当一条原本违规的广告被模型修得精准漂亮,这让风险管控和客户负反馈这一对矛盾体找到了平衡」,Mamoda 技术团队成员谈到。

由效果到效率,由文本到图像、视频以及多模态的统一建模,  Mamoda2.5   为视觉生成领域提供了一套全新的技术路线,这是深度自研的技术突围,也是内容审核与创意修复的真实落地。

3

前景方向:全链路智能治理

当   Mamoda2.5   完成了视频和图文的全模态突围,广告合规从被动拦截到主动赋能,未来演进方向会是什么?

答案就藏在今年下半年将发布的   Mamoda3.0   中,巨量引擎的研发团队的未来展望中,全链路智能治理将深化音频理解和编辑能力,此外,长视频的广告治理以及更复杂场景的任务处理,都将进一步提升模型能力的上限,释放更多智能涌现的能力。

这是一条很难的以   AI   治理   AI   之路,也是巨量引擎商业安全团队用技术与风险进行赛跑。

下半年,Mamoda   大模型即将迎来第五次迭代,纵观   3   年来的演进方向 ,不难看出巨量引擎商业信任与安全在广告治理方向上持续深耕的投入决心。

这意味着   AI   时代的广告治理,不再是把违规内容拦住,或是事后处罚,而是建立正确的规则,把问题讲清楚,让风险内容前置化,用智能化的服务帮助商家把内容做对,降低合规的门槛和成本,赋能正规经营商家的生产和投放效率。

现在,每天超过   110   万条广告内容,都在巨量引擎   Mamoda   大模型的指引下,主动修改成合规投放的内容,模型在广告主中使用的渗透率还在提升。

这些持续攀升的数据,正是   Mamoda   技术团队最直接的成就感来源。

过去三年,刘畅和团队成员经历了这套能力从落地应用到逐步成熟的全过程,也更清楚,过去广告主为了修改一条违规素材,往往要花上大半天时间反复沟通、反复试错。

如今,随着模型持续迭代、能力不断稳定,「一键修复」正逐渐成为越来越多广告主的习惯,合规修改也从繁琐负担,慢慢变成更顺滑的日常流程。

以   AI   治理   AI,合规开始从成本变成生产力,全链路智能治理成为规模化的产品能力,信任与安全自然就会被放大,被更多人看见。

审校 | 陈秋霖

END

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

效果
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论