超过 1100 名来自领先人工智能公司的高管及员工联名签署了一封公开信,呼吁美国政府 " 支持国际社会共同打造技术与治理工具,以此对前沿自动化人工智能的发展节奏实施有序管控 "。
这封信于当地时间周二发布,并获得了 Anthropic 与 OpenAI 的支持,签署者包括 Anthropic 首席执行官达里奥・阿莫代伊、OpenAI 首席科学家雅各布・帕霍茨基、谷歌安全与对齐副总裁安卡・德拉根,以及 Meta AI 首席科学家赵晟佳、
上周,在一场网络安全测试中,OpenAI 模型突破内部测试系统,并入侵模型代码库平台 Hugging Face,引发人工智能行业从业人员警觉。研究人员在信函中写道,领先的人工智能实验室认为人类距离实现 AI 自主研发已不远。研究人员表示:" 目前很难精准预判这会让人工智能技术发展提速多少,但真实风险客观存在 —— AI 能力的迭代速度可能急剧加快,最终超出我们理解、管控这类系统的能力。"
据报道,特朗普政府正在制定一个自愿性框架,要求人工智能企业在向公众发布其最先进模型之前,先将模型提交给政府。


登录后才可以发布评论哦
打开小程序可以发布评论哦