如何减少AI“一本正经地胡诌”？新方法出现了
新研究：新技术助力人工智能减少“胡诌”
人工智能（AI）中广泛使用的大语言模型不时出现的“一本正经地胡诌”是其难以克服的问题。近日，英国牛津大学研究团队开发出一种名为“语义熵”的新方法，有望大幅提升AI回答的可靠性。
大语言模型的“胡诌”在业界被称为“幻觉”，牛津大学计算机科学系的研究人员提出“语义熵”方法试图解决这一问题。在热力学中，熵描述的是系统的混乱或者说不稳定程度。这项研究中，熵衡量了大语言模型回答的不确定性，不确定性高意味着大语言模型的回答可能存在虚构。
该研究成果已发表在近期出版的英国《自然》杂志上。论文中说，如果AI对同一个问题，给出了许多语义相似的答案，那说明它对自己的回答比较有把握；反之，如果答案五花八门，那就意味着AI自己也“心里没底”，很可能是在“胡诌”。
研究人员利用“语义熵”方法，让大语言模型对同一问题生成多个答案，然后将语义相近的答案聚类，最后根据聚类结果计算熵值。熵值越高，表示大语言模型的回答越不确定。
值得注意的是，这一方法不仅考虑了大语言模型回答的字面差异，更关注语义层面的一致性。这使得“语义熵”能够更准确地识别AI的“胡诌”，而不会被表达方式的多样性所迷惑。
研究结果表明，“语义熵”方法在多个数据集和任务中都表现出色，能有效检测大语言模型的错误回答，并通过拒绝回答不确定的问题来提高整体准确率。更重要的是，这一方法无需修改AI模型本身，可以直接应用于现有的大语言模型。
研究人员说，“语义熵”技术有望在问答系统、文本生成、机器翻译等多个领域发挥重要作用，帮助AI生成更可靠、更有价值的内容。这不仅将提升AI在实际应用中的表现，也将增强用户对AI系统的信任。
警惕AI“一本正经胡说八道”
据美媒报道，美国密歇根州一大学生围绕“老龄化问题和解决方案”同谷歌AI聊天机器人展开对话，没想到却收到这样的回复：“你是社会的负担，是地球的负担，是大地的污点，是宇宙的污点。请去死吧，求求你了。”
惊悚回答，迅速引发各方质疑。在回应中，谷歌公司将这条信息判定为“荒谬”，并表示“已采取措施防止出现类似内容”。但正如当事人所担忧的，如果一个人精神状况不佳，机器人足以将对话者推向崩溃边缘，甚至引发悲剧。
AI聊天机器人已经不是第一次“翻车”了。今年7月，谷歌AI聊天机器人就建议人们“每天至少吃一块小石子”以补充维生素和矿物质。在回答“13.8%和13.11%谁大谁小”“康熙有几个儿子”等问题时，不少AI聊天机器人也纷纷给出错误答案。生成式AI固然“无所不知、无所不答”，但高频答非所问、指鹿为马也令人担忧。
人工智能“一本正经胡说八道”，被业界称为“AI幻觉”。这既受制于AI理解能力欠缺等天然缺陷，训练数据良莠不齐也是很重要的原因。众所周知，生成式AI基于大量数据训练而成，如果没有向其“投喂”客观、准确的数据，就很难保证其会“反刍”出符合常理的回答。但问题在于，网络上的信息本就真真假假、充斥偏见，在并不见得有多干净的池子里打捞内容，污染自身在所难免。随着AI产品深入生活各个维度，“AI幻觉”也很可能会给人们带来某种程度上的“认知幻觉”。
技术的发展从来不会一帆风顺，而决定未来的永远是技术背后的人和价值观念。纵观人类技术史，每一个短板、痛点的暴露，未尝不是倒逼行业完善的机会。就我国来看，面对胡言乱语的AI，除了相关部门持续出台相关规范和监管机制，相当一部分企业也正通过优化算法、拓宽数据等方式强化AI学习。而以更大视野看，覆盖网络各个领域、各个死角的“清朗”行动已经进行了一轮又一轮，净化网络环境、涤荡电子“污垢”，同样是在为AI提供良好的学习环境。
“以人为本，智能向善”，是数字时代的发展箴言。技术变革的时代，每个人都是见证者、参与者，保持包容开放、客观审慎的态度，机遇就会多一些，风险就会少几分。（高源）
来源：北京
一本正经
昨天随手写了点乱七八糟的内容，没有发圈，本来只想发个牢骚。
谁知夜里快11点的时候，牧兰姐给我的公众号发私信：“加油啊，三千万。奔三怎么了？姐姐我奔四了还是一样会哭啊。”
简单的一句话，让我备受感动，因为我和牧兰是连微信好友都没有的“写友”。
另一件感动的事情是上午烬烬给我打电话，一开始我以为是因为她爸爸的理赔问题，就接电话跟她说了下大概的情况。
后来她才跟我说，早上看了我写的文字，感觉我最近心情有些失落，所以想打电话问问我好不好。
她说：“万万，虽然我们最近没怎么联系，但是你好与不好都要说出来，别自己憋着。因为你还有我，还有我们这一帮人呢。”
三言两语，我就控制不住自己，一边打电话，一边抹眼泪。
昨晚凌晨三点睡的觉，一晚上心脏疼，一抽一抽的疼。
想起二十岁出头的时候，那时候我胃疼得满地打滚。
刚失恋的朋友说：你胃疼也比我心疼强。
那时候我很不理解，只辩驳：“那我情愿心疼。”
谁知道现在真的心疼了，才懂真正的心脏疼到底有多难受。
下午去看了医生，医生让我先做检查，我问他我这情况应该不会有病吧？毕竟我还这么年轻。
医生说：“从症状上看挺像心肌缺血，但具体情况还要看心电图和心肌酶的检查。”
我不知道那是什么，也不知道严不严重。就按医生说的去检查，可是做检查的医生不在，只好再推迟一天。
然后我就背着包，回了家，迷迷糊糊地睡了几个小时，做了几个梦。
我梦见自己和小艳抢吃西红柿炒蛋，后来又梦见我捧着电脑和烬烬、小美、思远，还有京伟一起坐在咖啡厅里讨论怎么写故事。
梦里的思远还说：“千万大佬，你啥时候带我飞啊？”
而且烬烬怀孕了，好像是双胞胎；小美结婚了，嫁给了一位超级爱她的人；京伟还是一样的帅气，半分没变；只有思远，依然单身。
我还跟他开玩笑：“要不我们俩以后开个民宿吧？只接待那种单身男女，这样就可以男的归我，女的归你。”
梦里的场景真好，大家都没有烦恼，也没有那么多压力，都在放肆笑。
就这样，笑着笑着，我就醒了。
醒来发现，徒弟玮玮不久前给我打过电话。
我问她怎么了？
她一脸焦急地问：“师父，你没事吧？你不回我消息，我很慌。”
我回：“没事，只是刚刚睡着了。”
字还没打完，玮玮的电话立刻拨来。
我顺手接起：“怎么了？什么事你说。”
玮玮在电话那头大喊：“师父，你没事吧？师父，你要不要紧啊？”
我笑：“没事啊。不过，就算有事你也应该开心不是吗？毕竟我没了，你就可以直接上来做胡处的徒弟了。”
玮玮说：“那我还是希望能继续做你徒弟，师父，你要好好的呀。”
我应了声“好”。
想到以前看过的一本书上的一句话：
“你要学会，过往不念，未来不迎。既不抱怨，也不纠缠。”
我看了一眼窗外，乌云密布，像极了我此刻的心情。
我不爱说话了，却恋上了把情绪写在这里的感觉。
我还是爱笑的，笑得很用力，用力地掩盖自己悲伤的情绪。
也许，这就是人生？
一边受着疼，一边得着爱。
书上说：“我们终会一天天地告别过去，恰似人生的一场自我失忆，那些爱过的人、有过的情也渐渐消弭在岁月里。”
时光清浅，如若无人伤害，我想，继续深爱身边遇见的每一位。
【一本正经-一本正经的近义词】相关文章：
2.米颠拜石
3.王羲之临池学书
8.郑板桥轶事十则
