Chat GPT是否可信？ “网安大讲堂”分享智能时代网络安全新知识 →

近年来，随着大数据、云计算、物联网、区块链、人工智能、5G通信等新兴技术的快速发展与深度应用，人类社会迈入了名副其实的“数字时代”，设计、散播网络安全漏洞的难度随之降低，稍不留意就有可能“中招”。课上，薛磊主要分享了软件供应链安全以及智能时代存在的主要网络安全威胁类型，包括内容生成如ChatGPT、文心一言；深度合成如AI人脸伪造、AI语音伪造；新型钓鱼攻击等等。

随着数字化时代的到来，开源代码占比不断增加，由于开源代码的开放性，它可以被轻松地集成到软件供应链的各个环节中，为软件的开发和分发提供了丰富的资源，与此同时，也带来了一定的风险。

如今恶意开源代码数量急速上升，导致软件供应链攻击迅速增长，从21年到22年，一年内就增长了742%。对此，完善的软件供应链安全管理体系是非常重要的，包括对开源代码进行安全审计、定期更新和修复已知漏洞、限制对开源代码的修改权限等。

软件供应链安全成患 / 图源薛磊课件

此外，薛磊特别提醒：“开发人员极易成为被针对性攻击的目标”。

Rust恶意代码是指使用Rust编程语言编写的恶意软件或攻击代码，是一款针对开发人员的恶意软件包。Rust语言提供了高级的内存管理功能，使得恶意代码可能更难被检测和清除，并且可以远程访问和控制受害者的计算机，进行各种恶意活动。因此，提升开发人员的网络安全意识，使用安全的开发工具和软件，加强代码管理，禁止分享代码，是十分重要。

Rust恶意代码的相关信息 / 图源薛磊课件

薛磊表示，近十几年来，人工智能系统获得愈来愈被广泛的应用，据Gartner预测，到2025年，生成式人工智能将占所有生成数据的10%，而该比例在2021年不足1%，与此同时，智能系统在应用过程中也暴露出大量安全问题。

Chat GPT / 图源百度

智能时代下的Chat GPT具有惊艳的语言理解、生成、知识推理能力，除了聊天，还能机器翻译、文案撰写、代码编写等，那么，Chat GPT就真的值得完全信任吗？

答案是否定的。课上，薛磊指出，ChatGPT存在以下几类问题：

• 可信性存疑，尤其在专业领域需注意：ChatGPT可以一本正经地胡说八道，语句虽然流畅，但与事实大相径庭。这在法律、投资、医疗、教育、生化等高度专业的领域，容易误导使用者并造成衍生危害。

• 隐私机密泄露风险：比如，韩国三星某员工将有bug的代码复制到ChatGPT中寻找答案，导致机密泄露。

• 版权侵犯与学术失范：比如，北密歇根大学哲学教授 Antony Aumann 在为自己的评分时发现，全班第一的论文竟然是用 ChatGPT 写的。

 可信性无法保证 / 图源薛磊课件

此外，薛磊提到，AI技术可以通过深度合成，给人物进行变声、换脸处理，这带来了许多安全风险。他举例子分享：2023年4月20日，市民郭先生的好友通过微信视频与他取得联系，声称自己正在外地参与一场重要的竞标活动，急需430万的保证金来完成这一关键任务，在转账过后，郭先生拨打好友电话，方才知道被骗。薛磊特别提醒：“智能时代，眼见耳听不一定为实！”

 该新闻截图 / 图源薛磊课件