数智前线 4小时前
海康威视,用大模型把产品重做一遍
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

大模型落地物理世界的第一波确定性场景。

文|徐鑫

编|任晓渔

01

海康的产品,悄然变了

大模型在你想得到和想不到的场景里带来了巨大的改变。

今年,安防及物联感知领域的行业龙头海康威视第一次亮相世界人工智能大会,带来了海康观澜大模型技术体系。更重要的是,这一套大模型技术体系,已经在全面重构海康的各项产品。

许多大家熟悉的安防经典产品,已经变了。摄像机是外界非常熟悉的安防终端,可对各类场景里的人及物品等主体做检测和识别。在海康的展台,这些设备已经因大模型的到来,拓展了能力边界。

比如多模态智能摄像机就已经从 " 被动记录者 " 变为能理解场景、判断逻辑关系的智能终端。原来的摄像机只能分辨出人和场景内的物品,但多模态智能摄像机能理解 " 作业员在使用梯子进行登高作业 "" 人员是否穿安全帽、反光衣 " 以及近水场景 " 有人存在溺水风险 " 等复杂的状态,及时干预风险,提升安全管理效率。

NVR(网络硬盘录像机)和 CVR(磁盘阵列产品)也是海康起家的产品线。现在大模型文搜技术赋能,只需输入 " 穿红色上衣背包的人 "、" 牵着棕色小狗的人 " 等,一个词或一句话就能处理十倍于以往的目标数据,并实现海量数据的秒级检索。

" 一天几百万个目标的数据量,以前真的是无法想象能快速找到想要的目标 ",海康产品研发团队告诉数智前线,大模型技术能做到之前难以想象的事,效能有了大幅提升。

海康还基于大模型及长期布局的智能感知技术,推出了系列创新型产品。

海康睿影毫米波安检门就是海康观澜大模型技术与毫米波全息感知技术深度融合后的产物。毫米波感知技术由于对衣物的有限穿透能力和对人体友好的特性,是机场、海关等重要场所安检的关键手段。但传统毫米波成像方案通常将三维全息数据压缩为二维图像,检测精度与效率都有待提升。

海康观澜大模型技术与毫米波全息感知深度融合后,让安检门检测能力达到质的飞跃。这也是国内首款通过中国民航 A3 等级认证的毫米波安检门产品,并取得了欧洲民航会议 ( ECAC ) SSc A 类标准 2.1 等级认证。

分布式定位型听诊光纤也是同样,基于垂类的光纤大模型技术,创新性地解决了皮带托辊远程听诊难题,提升了预警准确率,将误报数量降低了约 70%,有效减轻了人工复核负担。这款产品还在 2025 中国创新方法大赛中荣获唯一金奖。

除了硬件设备,在软件方案上,海康也将大模型能力与场景应用深度融合,实现了一句话就能帮助人干活,让许多行业场景里的软件方案从应用工具向智能决策中枢升级

比如,云眸 Claw 一句话就能自动 " 跑 " 完巡店、复盘全流程,应急指挥智能体一句话能调视频、创会议、识隐患、查资源、发指令、打电话。

市场对这样的改变也有积极反响。

数智前线了解到,以大模型文搜技术为例,它所落地的文搜 NVR、文搜 CVR、文搜超脑、文搜主机等,一年时间全球销售量超 10 万台,其中海外销量与国内持平。这意味着大模型技术给大众固有认知里非常传统且近年来被视作存量竞争的赛道,带来了新的增长空间。

大模型带来的能力升级,还让一些产品打开了新的市场空间:大模型文搜技术正从原来的安防类场景向商超零售防盗损领域拓展;原本用于安防和工地的枪球则进入高校安全防护场景。而机械臂防碰撞相机能做到毫秒级联动停机,从零起量打开了汽车、家电制造等新的客户群。

海康威视正在用 AI 大模型,把产品重做一遍

02

真痛点,新解法

海康的产品发生一系列变化,自然也会让外界好奇,这家安防及物联感知领域的龙头,为什么会选择全面拥抱大模型用 AI 重做一遍产品。

答案可能并不复杂。

海康产品研发团队介绍,实际上,许多场景里一线用户的固有需求并没有发生变化,用户一直存在痛点,不断迭代产品和技术,是为了能更好地去解决痛点。就像从马车到汽车,到飞机和高铁,都是要持续满足人们安全便捷的出行需求一样。

但是上一代的技术无法真正解决用户的真实问题

比如摄像机类产品,2007 年海康发布第一款摄像机,至今已有二十年。在这个过程中,用户的需求就被提炼总结为 " 看得清、看得全、看得懂 ",但之前提 " 看得懂 " 更多停留在物的识别。

以安全生产场景为例,数智前线获悉,前些年许多海康的客户就向研发团队反馈了需求,但以前的技术路线只能做一些针对安全帽、反光衣的基础检测,而真实的安全生产作业场景远比它复杂。

以安全帽和反光衣的识别为例,上一代小模型技术基于规则,要靠穷举来实现,已经适配好的安全帽和反光衣识别算法,换成另一个样式或者换到另一个场景,识别准确率就会大幅下降。有了大模型技术,对安全帽和反光衣识别准确率、场景适应性都会有显著提升,再结合多模态大模型,还能识别出安全帽、反光衣与人体的相对位置关系,进而判断工作人员有没有合规配带,让更复杂的需求有了实现可能。

这也使得,上一代技术做的安全生产产品,主要解决基础的业务需求,而基于多模态大模型技术,则能进一步深入去解决场景内的更复杂的需求和痛点。

本次 WAIC 上发布的主动视觉作业监管枪球也是类似的情况。它能做到通过全景与细节双视角联动,自主巡检人员作业区域,支持安全帽、反光衣等基础识别,并能结合场景持续分析作业类型及是否合规。

上一代技术要实现这一功能,先要在所有的角落都装上摄像头,才能做到全景视角无死角。之后要完成合规检测,比如检查是否攀高、是否系安全带等行为,十分依赖人工巡检,需耗费大量人力从海量合规画面中筛选出不合规行为,效率极低。

而现在依托多模态大模型的能力,能识别出有哪些物体、物体的特征,也能识别各类安全装备及其相对位置关系。例如,在攀高场景中,不仅检测到人和安全带挂钩,还能判断挂钩位置是否高于人体(若挂钩低于人则无法起到保护作用),从而准确判断作业是否合规。

另外,上一代技术在落地时对数据量也有很高的依赖,落地门槛高,而大模型带来的泛化性,明显降低了落地应用的门槛。

同样以安全生产类场景为例,传统的小模型去做安全带或其他物品识别,需要经过素材收集、几千张数据标注,然后再做算法训练和部署,之后再测试优化,很可能耗费数月时间。

现在多模态模型的泛化能力更强,对数据的依赖数量会降低九成以上,人工标注、测试优化的时间都会随之缩短,大幅缩短了产品规模化落地场景的时间。

观澜工业大模型产线场景方案。

除了上一代技术无法被很好解决的老需求,一些新的需求也只有基于大模型技术才能被解锁。

传统的机械臂防护采取安全护栏和红外对射两层防护手段,但是即便如此仍然会有安全风险。比如检修期有人进入但是区域外防护栏依然有被关上的可能性,存在潜在伤人风险。

基于 3D 立体视觉和大模型技术结合,机械臂防碰撞相机即使在被遮挡的条件下也能感知到人体存在,并及时联动 PLC 控制系统及时停机,响应时延在百毫秒级,通过了 PLd 安全认证。这是传统方法做不了的新场景,突破了传统安防领域,目前已经在汽车、家电、食品等多个头部企业形成批量应用。

某种程度上,市场需求和场景固有痛点,加上技术进步刚好给解决它们带来契机,一场产品的重构自然就发生了。

03

海康如何用大模型重构产品

无论是传统已有的需求因为技术进步被更好地满足,还是新的市场因为大模型技术而被打开,海康用大模型重构产品,不是简单地在数字世界里给产品接入模型,而是要规模化地真正地将产品落地到真实物理世界。

这涉及到千行百业高度碎片化的场景,也非常考验工程部署能力。而海康此前将各类 AI 产品落地千行百业已经构建起体系化能力,具备云边端协同、软硬协同等多重特性。

目前,海康在硬件层,打造了覆盖全面感知、存储计算、交互显示、智能控制等关键环节的大模型硬件体系,打通多模态数据获取、智能分析研判到最终决策执行的完整链路;在软件层,通过构建 "1+3+X" 大模型软件体系,将大模型能力与场景应用深度融合,驱动软件重塑交互模式,从应用工具向智能决策中枢升级。

真实的物理世界不是单一有限模态,也从来不是实验室理想环境,海康的前端设备具备全场景的精准感知能力,覆盖可见光延伸到红外、X 光、毫米波、声波、光纤等多种物理传感技术。为确保更精准感知,海康还在数据质量、模型架构等方面进行了优化创新,显著提升复杂场景下的检出率、检准率以及跨场景泛化能力。

大模型产品落地物理世界的不同行业场景,还面临算力、功耗、成本和实时性以及数据安全等多重约束

目前,海康的大模型产品可基于端边云协同架构及能力,让不同的能力跑在不同的定位的设备端或者边缘端,用户可以按需选择,全场景适配程度更高。

以摄像机类设备为例,不同的端侧场景重视的因素不一。

AI 多模态安全生产主机。

比如,轮胎厂工人手伸进机器时需及时提醒,传送带周边不能有人接近,必须立即停机,这一类场景等采集结果传到云中心分析再回传提醒,几秒钟过去事故已不可挽回,它的分析采集和判断要放到边缘侧。而高校安全等场景,数据不上传公共云,可在摄像机端处理结果后只传必要数据,保留隐私又形成可用数据到边缘侧或中心侧汇总。

针对不同的场景需求,海康的模型能力可按需部署到不同的设备,简单场景端侧解决无需全量上云,复杂任务则可端边云协同。这种大小模型协同技术适配前后端多种类型硬件设备,可有效降低算法部署成本和带宽开销。

这个过程里,海康还在前端数据采集层面具备独特优势。同样以摄像机为例,在采集时,海康能在前端采集侧可做到实时高效处理,以最低的传输成本输出最高效的采集结果,比如前端完成检测只需回传几十 KB 的结构化结果,而如果是实时视频流约 3Mbps,成本明显更高。这为后端产品和软件平台更高效检索打下了基础,可降低后端分析难度,提高精准性。一位研发人员介绍,它有利于解决图像采集的清晰度问题,也避免了用单一设备的高算力去堆叠成本高难以部署的问题。

落地的体系化优势还体现在软硬件之间的协同上。

海康的产品研发团队告诉数智前线,软硬协同做得比较好,不单单是把大模型放进相机、后端 AI 分析主机,再联动软件平台,协同还能带来超出单点以外的能力。

比如球机可能转到某个地方看不清楚,后台能感知到信息,软件可以去控制它调整曝光或者参数去解决问题;服务器端意识到了某类高频事件,也可以联动驱动摄像机音频去做提醒。

总体来看,大模型重构产品首先需要感知数据在物理现场被高质量采集,而基于场景需求模型跑在不同设备端,分级研判数据,结果再作用于物理现场。不能将之视作单点的能力,而是应该看到它是硬件、模型、部署、行业经验等层层嵌合的系统工程。

海康过往二十多年的积累,正是这场重构得以发生的基础。

04

市场的反馈和新的可能性

海康在软硬件不同产品线全面拥抱大模型,已经在市场端收获了非常多的反馈。

大模型文搜产品在海外起量的速度就超过预期,去年开始规模化落地,一年时间整体销量就超过了十万台。文搜所在的安防行业曾随平安城市建设周期回落而一度低迷,现在大模型文搜产品把它重新拉回增长轨道

这种直观的效果,来自于文搜系列产品在技术代际上相比上一代产品具有显著优势。

此前的匹配方式非常局限," 穿红色衣服的女生 ",在光线下可能是橙色,传统强匹配可能无法找到。而基于多模态大模型技术,图片信息被转换为文本向量化表示,用户输入文本后转换为图像信息进行概率性匹配。即使用 " 橙色 "" 深色 " 等线索也能匹配结果。这种方式更加直接,有任何线索都可以直接查询,在体验和使用上带来全新变革。

文搜演示界面。

如景区行业,在找人找物上效果很好,原来用传统方式排查可能需要十几个小时,文搜方式约半小时就找到目标;在开放式高校的校园安全场景里,有时候一天目标物数量达到几百万量级,文搜将原本需要两三天调查的问题缩短到约 10 分钟解决。

不止是文搜,大模型在其他的产品上也带来直观的实用性变化。

海康观澜周界大模型摄像机可有效过滤树叶晃动、光线闪烁等干扰,能以更小像素实现目标检出,检出距离大幅提升,复杂场景下的误报率降低了 90% 以上。数智前线了解到,原来因为误报太多,市场反馈报警信息太多导致一些企业干脆会忽略掉所有的报警,现在误报率大幅降低后,周界类摄像机真正能在市场端用起来。

安全生产类场景里的产品也是同样,产品性能提升激发了市场内生的需求。海康的产品研发团队告诉数智前线," 以前的需求有政策驱动因素,现在企业往往是自发的内在需求,比如煤矿类企业,它们对安全生产很重视,一出问题就要停产整顿,因此现在企业都自发在用。"

大模型重构产品,正在产生全面的效果,也许可以用海康自己提炼的" 多快准省 "来概括它产生的效应:形成覆盖视觉大模型、音频大模型、X 光大模型、毫米波大模型、光纤大模型、雷视大模型等完整的物联感知能力;在复杂场景下的检出率、检准率以及跨场景泛化能力显著提升,可以说模型强化了海康此前就已经非常强的感知能力;同时海康强大的工程能力能快速部署和响应,同时它还充分考虑到了经济性和成本,以更低成本来实现更好的效果。

AI 正在走出数字世界,要在真实环境中承担任务并处理物理反馈,已成过去两年来业界的一大共识。物理 AI 和具身智能发展如火如荼,但不可否认,世界模型的路线探索并未收敛,而无论是哪条路线跑通,都需要物理世界的规模化感知作为基础设施。

相比许多仍在 POC 验证的新场景,安全生产、校园景区等传统安防以及场景数字化中诸多大众熟悉的场景,受限于上一波技术的能力天花板,始终存在未被解决的痛点。大模型技术为解决这些真实需求提供了契机,叠加海康观澜大模型技术体系的系统化能力,让海康所覆盖的千行百业里的安防及场景数字化的场景,反而正在成为大模型落地的第一波确定性场景,也可能是AI 落地物理世界里被严重低估的阵地

海康全面拥抱大模型,除了观澜大模型与全面感知技术正形成 " 模型优化感知,感知强化模型 " 的技术飞轮,在一些场景里,海康也在探索从感知到物理世界执行间的新可能性。比如,机械臂防碰撞相机已经在毫秒级联动 PLC 停机,安全生产智能体开始从预警向处置建议延伸。

这是一个更大的闭环。从这个意义上看,也能看懂为什么老牌安防和物联感知巨头会在今年第一次参加世界人工智能大会。看似传统场景里的产品重构,也许酝酿着物理 AI 的新可能性。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

海康威视 物理 世界人工智能大会 背包 溺水
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论