"DeepSeek 查阅文献是如此的不靠谱 ",广州某著名高校的一位教授近日发朋友圈吐槽。
原本这位教授想通过 DeepSeek 查询《Global Cantonese: The Spread of Cantonese Language and Culture》的信息,结果核实后发现:DeepSeek 提供的作者是假的,年份是错的,出版社更是风马牛不相及。
知名媒体人、人民日报海外版原总编辑詹国枢也发了篇文章,标题就是:DeepSeek 的致命伤——说假话。
老詹在文章中列举了亲身经历,让 DeepSeek 写一篇《史记 · 詹国枢列传》,开头第一句展现的出生地、母亲姓氏等基本信息,便 " 张冠李戴 ";再让 DeepSeek 写了一篇某记者的记述文章,文风生动、案例不少,结果转给记者本人,却被全盘否认。提到的案例,没一个是本人写的。
人都说 DeepSeek 文采飞扬,文学素养高,可路遥的名著《平凡的世界》,却被说成是詹国枢老班长的代表作。如果有小朋友看了,可能要误人子弟。
实际上,信息表述上的不严谨,已经快成 DeepSeek 被吐槽最多的一种问题,《苦昼短》说成是李白的,明朝 " 废除宰相 " 和 " 设置内阁 " 混为一谈,也难怪有网友直言:
DeepSeek 只适合写代码做数学,对文科生一点不友好。
部分试图用 DeepSeek 复习国考、省考的人,不得不重新拾起申论教材了。
一些试图通过 DeepSeek 解放人力的 " 牛马 " 也破防了,有网友说用 DeepSeek 写文章,举了 4 个例子,3 个都查不来,最后才发现都是 DeepSeek 自己编的。
原以为是来解放自己的,没想到因为核查信息,却花费了更大的精力。
图源:小红书
如果只是事实差错,或许是搜索结果有误,这还不是最恐怖的。
陕西自媒体 " 决明子 ",一直对西安安定门那里的道路规划要绕一圈不解,问当地执勤的交警、出租车司机都回答不上来,看到 DeepSeek 火爆,决定一试,提问 DeepSeek" 西安的道路路线规划,从环城西路北段到环城西路南段为什么不直行,非得在安定门绕一圈?"
这时候,DeepSeek 的表演开始了。
DeepSeeK 先在解释中提出了一个 " 唐皇城交通静默区 " 的概念,表示根据《西安历史文化名城保护规划(2020-2035)》,安定门周边划定了一级静默区、二级静默区,本质是为了保护文物,防止过大的震动。它甚至还列出了具体的空间数据,距离增加多少、振动传递深度变化是多少。
图源:决明子
乍一看,这解释太合理了!有理论、有数据、有政策,可信度拉满。
可是网友一查,这份《西安历史文化名城保护规划(2020-2035)》文件中,压根就没有什么 " 静默区 "。这个看似极为专业、有理有据的回答,居然是 " 编 " 的。
图源:决明子
反馈给 DeepSeek,它也很老实,诚恳承认错误,文件里确实没有 " 静默区 " 的说法。但随后,又做出新的修正和澄清,继续 " 编织 " 自己的答案。
AI 的精心包装,让编的材料看起来如此真实,如同 " 有意识 " 地在操控一般,真有些让人不寒而栗。
有时为了显得自己回答高深,DeepSeek 还会采用一些专业词汇,比如量子纠缠、熵增熵减等,当 " 话术 " 超出用户认知的时候,真有可能一下把人震住,难以分辨。
问题来了,为什么 DeepSeek 要不懂装懂,甚至 " 说假话 " 呢?
对此,业内有人认为,是 AI 产生了幻觉,我们不排除这种可能性,但是,我们不要忽略一个很重要的因素:当下绝大数用户都没系统学习 AI 提示词理论,他们是随心所欲,想咋问就咋问,导致使用效果不佳。比如,就拿提示词的 " 四结构 ",好多人都没听说过,如果缺失 " 否定排除 " 这个结构,AI 就容易说一些与你想要的内容不相关的话,甚至是说胡话。这里就需要我们用到 " 否定排除 " 了,AI 的基本工作原理是:搜索 + 生成,它的创作和回答都是基于大数据的,他说的那些胡话,其实是我们人类以前说了留存在网上的,比如,一些假新闻、一些伪科学,大多出自一些没有底线的个人自媒体、网络大 V,特别是一些短视频号,为了流量无底线,这个时候,我让 AI 生成内容,就要提示它," 否定排除 ",就是让他不要调取什么什么数据。
登录后才可以发布评论哦
打开小程序可以发布评论哦