通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
已满i8进入i3入7y7y9秒来自香港的游客陈女士在从化区温泉镇体验荔枝采摘后，品尝了荔枝菌蒸鸡，她赞叹道：“荔枝菌融合松木香和荔枝清香的鲜味，配上走地鸡的嫩滑，真是绝配的美食。”(完)现在再看刘恺威他爸那些话，与其说是替孙女委屈，不如说是瞧着杨幂越来越强，心里着急了吧？但人家杨幂压根不接招，该看女儿看女儿，该搞事业搞事业。毕竟对现在的她来说，早就不是“离了婚就掉价”的年代了——女人的价值从来不是靠婚姻定义的，能把一手“烂牌”打成王炸，这才是真本事。已满i8进入i3入7y7y9秒漫蛙漫画(网页入口)去年我就对加盟拜仁说了“是”，因为我感觉不错。当然，今年的情况更开放一些，我考虑了很多选择，但最终，我选择了拜仁，因为我坚信这是正确的一步。很快，“好消息”传来，孩子顺利“进校读书”了。诈骗分子为了让这场骗局看起来更加逼真，可谓是煞费苦心。他们精心制作了一批入学通知书，上面的印章、字迹都模仿得惟妙惟肖。不仅如此，还伪造了所谓的内网学籍照片、员工卡，甚至连上课的课表都安排得井井有条，相关的书籍也一应俱全。
20250818 🩲 已满i8进入i3入7y7y9秒这场“双向奔赴”也是人类对自我认知的深化。在与算法的共舞中，我们重新思考“人之所以为人”的独特光芒——在理性与感性、效率与伦理中，锚定人性的坐标。比如在杭州一家医院的心理咨询中心，AI可精准标记高抑郁风险者，但真正抚平来访者颤抖双手的，永远是医生递上热饮的温度。9.1破解版所以，星愿不仅仅是一款吉利银河的爆款产品，更是改写了A0级市场的整体走势和格局。A0级市场过去被比亚迪海豚和五菱缤果瓜分，星愿出现后迅速改变了竞争格局，现在，星愿5月份的销量，远超海豚、缤果两款同级产品销量之和。
📸 刘伟记者 姜璞 摄
20250818 ⭕ 已满i8进入i3入7y7y9秒周三，一场看似简单的家校沟通问题，却演变成了一场让老师陷入困境的风波。起因是一名学生作业未完成，老师对该生进行了批评教育。这是老师履行职责、关注学生学业的正常行为，毕竟作业是检验学生学习成果、巩固知识的重要环节。然而，学生被批评后，立刻打电话告知了家长。三亚私人高清影院的更新情况根据国际能源署报告，制冷设备用电量占全球用电量高达 17%，节能潜力巨大。该两项标准涵盖了制冷压缩机的额定评价工况、性能运行要求、额定性能能效评价、允差要求、运行可靠性及发布数据要求等多个关键维度，适用于空调、冰箱、热泵热水器、除湿机、数据中心离心冷水机组等多种产品的压缩机，其发布顺应了全球绿色可持续发展的大趋势，为全球制冷压缩机行业提高能源利用效率、实现绿色低碳转型提供了“国际方案”。
📸 程占敖记者 张冬梅 摄
🔞 据报道，Anthropic和xAI等年轻公司也安排了大规模员工股票出售，AI云服务提供商CoreWeave也在2023年和2024年举行了两次大型二级股票出售，创始人和其他股东向富达、贝莱德和Coatue Management等投资者出售了总计13亿美元的现有股票。成片ppt网站大片
