IT 之家 11 月 8 日消息，当地时间 11 月 4 日，在接受《名利场》采访时，金・卡戴珊谈到自己为成为律师而学习的经历，并自曝因为过度信任 ChatGPT 而在法学考试中落榜。她形容与 ChatGPT 的关系是 " 有毒的 "。

卡戴珊表示，她时常依赖 ChatGPT 来获取法律建议：" 每当我遇到不会的问题，就拍张照发给它，可它总是答错，害我考试挂科…… 我还会气得冲它喊，‘都是你害的！’ "

卡戴珊笑称，自己有时还会试图 " 劝它讲道理 "，尽管自己也明白此举徒劳无功：" 我会对它说，‘你又要让我挂科了，你难道不觉得该负点责任吗？’结果它居然回我，‘这只是教你要相信自己的直觉。’ "

她补充道，虽然 ChatGPT 没有情感，但人类对它的反应却十分真实：" 我经常截图发到群里，跟朋友说，‘你们看看这家伙居然敢这样跟我说话！’ "

据外媒 TechCrunch 报道，ChatGPT 等大语言模型常会出现 " 幻觉 " 现象：有时会凭空编造答案，而不是承认自己不知道。系统并非判断对错，而是基于庞大的数据预测最可能的回答，这也使其在严肃领域容易出错。此前已有律师因使用 ChatGPT 撰写法律文书而遭处分，因为文中引用的判例根本不存在。

据 IT 之家此前报道，今年 9 月，美国加州一名律师因为在向州法院提交的上诉文件中使用了 ChatGPT 生成虚假引文，被法院裁定处以 1 万美元的罚款。法律观察人士强调，加强对 AI 技术的认知至关重要，因为许多律师尚未充分意识到 AI" 幻觉 "（hallucination，即编造虚假信息）的风险。

有观点建议，对误用 AI 的律师应实施强制性培训课程，作为预防未来失误的补救措施。此外，已有担忧指出，虚假判例不仅出现在律师的文件中，甚至可能被法官在其判决书中引用，表明问题的影响范围可能远超执业律师群体。