“不可相信豆包识别的蘑菇”这一话题上了热搜。每年五六月份,云南、贵州、四川等地总会进入野生菌中毒高发期。今年深圳短短两周内12人因采食野生蘑菇“中招”,云南大学附属医院自5月起陆续收治了多例中毒患者,其中一名中毒者还是主任医师。
鉴别野生菌是否有毒,网上流传着用银针鉴毒、大蒜鉴毒等方法。在一些人眼里,现在貌似多了一个先进靠谱的工具——AI。银针、大蒜已被专家指出并不科学,而用AI鉴别蘑菇是否有毒准确、科学吗?答案显然是否定的。有博主规劝,千万不能迷信AI,身边就有听了AI的无毒提示而食用后中毒的案例。针对“豆包误判蘑菇导致用户中毒”一事,抖音集团副总裁李亮提醒用户,AI目前还在发展阶段,涉及类似人身安全的问题,AI的回答仅供参考。
拍张照片给AI,让其回答有毒还是无毒,凭此来决定是否食用,实在有点草菅自己的人命。野生毒蘑菇外形和可食用菌高度相似,花纹、色泽没有绝对分辨规律,仅凭图片辨别极易出现误判,哪怕专业菌类图谱都不能百分百精准。求助AI搞不好就是闻道于盲。
我国毒蘑菇种类超500种,形态变异极大,专业分类学家尚需显微镜鉴定。AI大模型的数据图库里有没有收录完全毒蘑菇的各种形态还是个疑问,更何况,蘑菇、野菜等会因生长阶段、光照、湿度、土壤环境而呈现不同形态。同一个蘑菇,上午拍和下午拍,光线明亮和光线暗淡,AI都可能会给出两个完全相反的识别结果。专业人员指出,AI这种大语言模型并非真正“理解”知识、“记忆”事实,而是通过海量数据学习语言组合概率,当遇到信息缺失、原始数据不足、知识盲区或语义模糊时,它不会坦诚“不知道”,反而会顺着语言逻辑凭空编造虚假内容,生成错误的观点和事实。面对蘑菇有毒无毒的问题,一个错误的观点和事实就是致命的。
近日还有这样一起案例,石家庄的李先生,因为行程变动需要退票,打开了AI咨询退票手续费。AI给出的答案干脆利落:放心退,手续费不足百元。李先生信了,直接操作退票,结果被航空公司扣除了整整600元的手续费。这也说明AI不能完全替代专业判断。
我们有时候用着用着,就把AI当成了人。对AI“理直气壮”的回答盲目相信,该破除这种AI依赖症了,在AI面前,务必葆有人的常识和判断力,尤其是涉及医疗、金融、司法等领域的重大问题,还是多听听人的意见,人命关天的事,更不能被AI给带偏了。
版权和免责申明
凡注有"浙江在线"或电头为"浙江在线"的稿件,均为浙江在线独家版权所有,未经许可不得转载或镜像;授权转载必须注明来源为"浙江在线",并保留"浙江在线"的电头。