近日，“男子靠AI制定方案45天狂瘦40斤”话题登上热搜。该男子在减肥期间全程依靠AI制定的方案，并熬夜过度透支身体，最终引发重症险丧命。
近日，“男子靠AI制定方案45天狂瘦40斤”话题登上热搜。该男子在减肥期间全程依靠AI制定的方案，并熬夜过度透支身体，最终引发重症险丧命。
北京时间梳理发现，因过度信任AI而造成的“AI致损”现象并非个例。安徽一位67岁农户按AI除草除虫办法喷洒农药，结果150亩芝麻苗一夜枯萎。还有男子轻信AI提供的二维码为员工交保险，钱却转到了陌生人账户。
有网友表示“宁愿相信AI都不信自己”“让所有人拥有AI鉴别能力太难了。”
据中国青年报社社会调查中心联合问卷网，对1334名受访者进行的调查显示，对于AI给出的答案，60.2%的受访者持信任态度，不到四成受访者会理性分析、审慎对待。60.8%的受访者认为缺乏独立思考容易陷入AI依赖。
图片来源：视觉中国
AI的快速发展为生活和工作带来了便利。然而，多起因“AI幻觉”致损案例，展现出过分依赖人工智能所产生的隐患。
针对“AI致损在法律中如何划分责任？北京是否有典型的AI致损判决案例？”北京康达律师事务所韩骁律师进行了解读。
出了事，并非AI公司就得赔
在“2025年杭州互联网法院审结的全国首例AI‘幻觉’侵权案”中，判决明确了“AI幻觉纠纷”不适用产品责任（无过错责任），而适用《中华人民共和国民法典》第一千一百六十五条的过错责任。
这意味着，不是“出了事AI公司就赔”，而需要证明AI公司有过错。法院同时确立了标准：若公司做到了过滤违法有害内容、在显著位置放风险提示、采用行业通行技术（如RAG）提高准确性，就会被认定已尽合理注意义务，无过错。而目前主流AI平台基本都具备这三项。理性认知AI能力边界、审慎对待AI建议，是每位使用者应有的自觉，韩律师表示。
但AI服务提供者若未就高风险场景作充分风险提示，或生成内容明显违反基本常识与专业规范，存在过错，应承担相应侵权责任。平台层面要对医疗、用药、农业等专业领域建立前置内容审核，高风险输出须弹窗强提醒，风险提示不得以小字隐匿。
记者：张婷婷
编辑：刘狄
图片来源：部分图片来自网络
