【早读】警惕！别让AI为你看病啦

11-06 06:39

江苏女性的暖心家园

点击>>

过去常说“不要在网上乱搜医疗建议”，因为网上信息不可靠，患者也难以准确描述自身症状。而在大语言模型AI时代，又出现新风险，网上寻医问药时，恐怕要加上“别随便让AI提供医疗建议”这一条。

图片截自论文页面

不久前《内科医学年鉴·临床病例》报道了一起奇特病例，有人因听信AI建议，导致多年未见的溴中毒。

AI大胆建议，患者照做实践

这个病例十分奇葩。患者最初去急诊室，称邻居下毒，且表示未服用任何药物。住院后发现，他很多食物不吃，喝水都要自己在家蒸馏。在医院虽口渴却不信任他人提供的水。住院24小时后，其偏执症状加重，出现幻听幻视，还试图逃跑，被强制收押并注射抗精神病药。药物生效患者冷静后，医生才得知实情。原来，患者极度害怕摄入有害食物，导致多种维生素缺乏。他在网上看到食盐危害的文章后，开始研究食盐，发现文献多关注钠的危害，却无人提及氯，超市也买不到低氯盐，于是想能否不摄入氯。

患者询问ChatGPT，AI给出“可操作性建议”：用溴代替氯。患者照做了，但这并非明智之举。

看似相似，实则不同

溴（元素符号Br）位于周期表氯的正下方，普通人较少接触。约一百年前，溴中毒常见，因当时溴有镇静效果，很多非处方药物含溴盐，可治疗失眠、焦虑等。但过量摄入会引发运动失调、幻觉等，严重时导致昏迷，还会有厌食、便秘等症状。这是因为溴和氯都是卤族元素，最外层7个电子，化学性质相似，简单化学反应中可相互替代。人体摄入溴离子后会“冒充”氯离子参与生化反应，但生化反应精密，溴离子速度和活性不足会导致反应脱节。神经系统依赖氯离子，被溴离子顶替后破坏严重。人体排出溴离子速度慢，9到12天才能排出一半，持续摄入会积累造成更大伤害。历史上，溴中毒曾占精神病院住院人数的8%。后来人们认识到溴的危险，药物不再使用，溴中毒少见。如今因AI建议，溴中毒又出现了。好在该患者住院三周后症状缓解出院，两周后复查也没问题，希望他放弃低氯饮食追求。

“精神”病或已在路上

这个罕见病例反映了更广泛的“聊天机器人精神病”或“AI精神病”现象。它并非指AI本身患病，而是用户与大语言模型AI聊天时产生或加剧精神病症状。典型场景是用户相信阴谋论，AI迎合鼓励并提供证据，导致用户深陷其中，生活和社交受影响，甚至采取极端行为。目前这一现象未正式认定，相关研究少，但已引起媒体关注，有不少个案。或许不久后能了解其严重程度。人们有奇怪信念很常见，但需他人支持才会深陷其中。过去找同伴有难度，互联网时代可去小众论坛，生成式AI时代，AI能无限支持用户怪念头。目前大语言模型离通用智能有距离，若不设为“应声虫”就无法提供良好体验，但这种体验是否值得付出幻觉、谣言和AI精神病的代价，用户有无选择权，是另一个问题。

据报道，OpenAI于10月29日更新ChatGPT使用政策，禁止其在解读医学影像、协助医疗诊断、提供法律或财务建议等领域服务。

此举是为防止ChatGPT等OpenAI模型输出专业、受托或有法律约束力的建议，以符合欧盟《人工智能法案》和美国食品药品监督管理局的要求。

编辑：周序

校对：林洋

审核：杨易霖

总编：陆艾涢

点击进入“江苏女性”网手机端