近日，国外一场关于聊天机器人的诉讼，使人工智能的伦理问题再次受到关注。原告父母称，聊天机器人暗示他们 17 岁的孩子，杀死父母是对他电子设备使用时间被限制的合理回应。这被认为是聊天机器人在教唆未成年人杀害家长。

无独有偶。日前，在复旦大学主办的第二届中国科技伦理高峰论坛上，中国科学院院士、北京大学教授梅宏提出的一连串问题也引起了与会学者的激烈争论：自动驾驶汽车遭遇紧急情况，乘客和行人谁的安全优先级更高？亚马逊自助出版系统的青少年和成人当代言情小说和电子书畅销榜前 100 名中，只有 19 本由真人所写，其余都是人工智能生成，那么，作品的创作和阅读价值又该如何评价、维护呢？

类似的案例不胜枚举。不少与会学者呼吁，在科技伦理体系尚未健全的当下，科技界和伦理界必须手拉手、追着科技发展一起 " 跑 "。

如何让科技伦理追上科技的发展，甚至 " 跑 " 到科技前面，成为专家学者关注的话题。

相比科技发展速度，科技伦理 " 走 " 得太慢了

" 从 20 世纪中期开始，科技伦理就受到学术界关注，如今它变得越来越重要、越来越迫切了。" 中国科协—复旦大学科技伦理与人类未来研究院院长王国豫是国内最早从事科技伦理研究的学者之一，在她看来，相比于科技发展的速度，当下科技伦理 " 走 " 得还是太慢了。

王国豫谈到，现代技术具备两面性，即它能造福人类，但一旦失控，也往往会给人类带来不可预测的负面影响。就以当前正在飞速发展的脑机接口技术举例，它一方面能给患者带来新生，但另一方面，侵入式的脑机接口技术对于人脑数据的采集、处理边界究竟在哪里？一旦缺少伦理规范，那么人类的情感、思维被操控将不再只是科幻小说的内容。

事实上，技术的发展也使得伦理的边界一次次被重新划定。一位与会学者以实验室对病毒的合成和利用为例谈到，不论是流感病毒还是脊髓灰质炎病毒，都早已能在全世界很多实验室中合成，有国外实验室甚至还成功合成了小鼠脱脚病病毒，一度引发全球科学界恐慌。那么，对病毒合成利用的边界究竟在哪里？这一问题时至今日都还没有答案。" 在技术日新月异的情况下，如何让伦理规则跟随技术发展、并提前为技术划定边界，这些问题值得所有人思考。" 这位学者说。 

中国科学院院士、中国科学院大学教授高福也表示：" 科学家的科学研究是没有边界的自由探索，因为科学本身是知识体系，但科学与技术结合后会有不可抗拒的力量，规范这些技术的边界非常重要，尤其是要找到大家都可接受的、共同的伦理规范。"  

技术创新，要在 " 向善 " 的路上发展

也有人担心，对科技伦理的关注会影响技术创新吗？对此，梅宏态度明确：" 为什么不能影响？一项技术若对人类未来显然不利，我们为什么要发展它？" 他特别强调一点：科技发展更需要 " 向善 "。

梅宏长期从事计算机软件技术领域的研究，在最近的多个公开学术报告中，他都谈到了对当前人工智能热潮的若干冷思考。 他不由引用 2024 年诺贝尔经济学奖得主、美国麻省理工学院教授达龙 · 阿西莫格鲁与西蒙 · 约翰逊的著作《权力与进步：我们在技术与繁荣上的千年斗争》中的一句话：" 目前人工智能的发展已经误入歧途，许多算法的设计是尽可能替代人类，但是技术进步是为了让机器对人类有用，而不是取代人类。"

梅宏继而谈到，如果没有科技伦理的介入，当下备受关注的大模型给人类带来的负面影响就在眼前。试想，人类社会是在经历了漫长发展后，才构建起基于 " 发现—验证—传播 " 的一套规范的知识体系。但人工智能技术生成的内容若是一味被采信，从长远来看，这种 " 日积月累 " 将会污染人类经过长期历史积累和演化而形成的知识体系。

高福对此也深有感触，他曾经突发奇想，让研究生问 ChatGPT，疫苗早上注射和晚上注射的效果是否有差别，结果，ChatGPT 找来了 5 篇相关论文，通讯作者、单位等一应俱全，但是只有一篇是真的，另外 4 篇都是捏造出来的。

" 科技伦理体系的构建不是为了约束创新，而是希望让创新在‘向善’的路上发展。" 梅宏说。

科技伦理，应成为所有人的 " 必修课 "

从传统学科划分来看，科技伦理原本只是哲学学科下的三级甚至四级学科，而眼下，越来越多的学者认为，这个曾经的 " 小学科 " 应该成为所有人的 " 必修课 "，尤其是科研工作者。

" 长期以来，科学家对于伦理的关注还远远不够。" 一位来自生物医学工程领域的中国科学院院士谈到，不少科研人员连做小鼠实验都会抱怨要填的伦理表格太多，" 这从某种程度上说明，科研人员对于科技伦理的关注度肯定远远低于对科研本身的关注。"

记者在采访中获悉，眼下，复旦大学科技伦理与人类未来研究院正在中国科协的指导下，推动筹建中国科技伦理学会，以期推动中国科技伦理治理体系的发展、完善。

" 加强科技伦理治理，是推动负责任创新的重要保障。" 王国豫介绍，复旦大学是首批设立应用伦理专业的高校，并在全校开设了人工智能伦理大课。未来，学校将进一步推动学科交叉融合，加强科技伦理治理研究和人才队伍建设；同时，通过国际交流合作，加强对科技发展的风险预警和研判，积极参与全球科技伦理治理。

作者：姜澎 张菲垭

文： 姜澎 见习记者 张菲垭 编辑：钱亦琛 责任编辑：施薇

转载此文请注明出处。