上海两会期间，人工智能技术的创新与治理成为代表委员热议的焦点。市人大代表、上海合合信息科技股份有限公司董事会秘书刘忱认为，面对聚焦生成式人工智能技术在电商领域衍生出的新型 " 黑灰产 " 问题，应通过监管、技术、行业 " 三管齐下 "，构建可信数字交易生态，维护中小经营者合法权益，进一步优化上海数字经济营商环境。

随着生成式人工智能（AIGC）技术门槛降低与应用普及，其 " 双刃剑 " 效应日益凸显。刘忱代表指出，当前在电商领域，已出现不法分子利用 AI 工具批量生成高度逼真的 " 商品破损 "" 货物瑕疵 " 等图片，并利用电商平台 " 仅退款 " 规则漏洞，实施恶意索赔的新型违法活动。

这种行为具有零成本、批量化、难辨别的特点，正迅速演变为侵害广大中小商家权益的突出问题。刘忱表示，此类 AI 恶意应用行为带来的危害主要体现在三个方面：一是商家直接经济损失与维权成本双高。面对 AI 伪造的证据，商家举证难度大，平台维权流程复杂，时间成本与经济负担沉重。二是线上平台作为电商活动的载体，在追求经济利益的同时，对网络安全的投入仍待改善。三是市场秩序与信用体系遭侵蚀，不仅破坏公平交易市场秩序，某种程度上影响营商环境。

针对上述问题，刘忱代表提出首要对策是强化监管合力与效能。他建议，由市场监管部门牵头，联合网信、公安、商务及电商行业协会等，开展针对 AI 造假索赔的专项整治行动，重点排查高风险品类与高频索赔账号。同时，支持上海本地监管技术创新，推广 AI 生成内容识别、商品溯源等监管工具，对平台审核流程实施常态化监督检查，督促落实审核义务。在商家端，可设立商家维权绿色通道，简化 AI 造假索赔案件举证流程，建立 " 快速立案、优先调处 " 机制，降低商家维权成本。

治理 AI 产生的问题，同样需要依靠 AI 等技术手段。刘忱代表建议，应大力推动电商平台部署与升级 AI 造假识别技术，通过算法比对商品原始信息与退款证据一致性，拦截伪造内容，对高频索赔账号实施重点监控。

他还呼吁建立跨平台协同治理机制，推动各大电商平台共享欺诈案例数据与恶意账号黑名单，实现联合管控。此外，应鼓励应用数字水印技术。引导商家对商品打包、发货全过程录像存证，为维权提供可靠证据支撑。