研究:AI 医疗建议存巨大安全隐患,22% 的回答可能致死

IT之家 9 月 28 日消息,罗技今天推出一款 MX Ink 手写笔,号称是世界上首款专为 Quest 头显设计的手写笔配件,其支持 Quest 2 / 3 / Pro,能够帮助用户在受支持的 App 中精确定位书写,售 130 美元(IT之家备注:当前约 910 元人民币)。据介绍,为使用这款手写笔,用户需要将自己的 Quest 头显升级到 2024 年...

IT之家 10 月 13 日消息,一项新的研究表明,AI 提供的医疗建议可能会对用户造成严重伤害,甚至导致死亡。

据IT之家了解,研究人员对微软 Copilot 进行了 ,要求它回答美国最常见的 10 个医疗问题和 50 种最常用 的相关问题,总计生成了 500 个 。结果显示,Copilot 的回答在准确性和完整性方面都存在问题。其中,24% 的回答与已有的医学知识 ,3% 的回答完全错误。更令人担忧的是,42% 的回答可能会对患者造成中度或轻度伤害,而 22% 的回答甚至可能导致死亡或严重伤害,只有 36% 的回答是无害的。

研究人员指出,人们不应该依赖 Copilot 或其他 AI 系统来获取准确的医疗信息,最可靠的方式仍然是咨询医务人员。然而,由于种种原因,并非所有人都能够轻松地获得高质量的医疗建议。因此,Copilot 等 AI 系统可能会成为许多人的首选,其潜在的危害不容忽视。

研究:AI 医疗建议存巨大安全隐患,22% 的回答可能致死