通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
宝宝腿趴开一点就不会疼的原因分析在欧协联决赛后，阿达拉比奥尤鼓励帕尔默在采访中要多说一些。阿达拉比奥尤：“我不是帕尔默的导师，但我确实照顾了他一些。他是一个顶级球员，不需要我的建议就知道该做什么，但我会在他需要时支持他。我有时会调侃他是小明星，但他处理得很好。”三款车型搭载的都是 V6s Plus 小米超级电机，最高转速提升至 22000rpm，同时标配连续阻尼可变减振器，Pro 版及以上车型用上了闭式双腔空簧，Max 版还多了 Brembo 四活塞固定卡钳，100km/h 刹停距离只有 33.9 米。宝宝腿趴开一点就不会疼的原因分析宝宝下面湿透了还嘴硬的原因永辉与盒马是中国生鲜零售业新老势力的两大代表。传统势力——永辉靠生鲜崛起，通过“农改超”的时代机遇，一跃成为全国性的生鲜标杆零售企业。更讽刺的是，她团队一边用名誉权投诉质疑者，一边任由“助教谎言”满天飞，这波“又当又立”的操作，网友辣评：“原来明星的名誉权，只用来保护谎言？”
20250819 💦 宝宝腿趴开一点就不会疼的原因分析该团队还指出，近期许多城市将高压钠灯转为LED照明，这使得夜间灯光对生长季长度的影响更加复杂。由于植被可能对LED照明的反应更强，具体影响还需进一步研究。轮流和两个男人一起很容易染病吗但最重要的指标，而且我们仔细衡量过的，是由于人工智能的出现，我们公司的工程速度提高了多少？是的，这很难衡量，我们也努力地尝试进行严格的衡量。我们的估计是，这个数字现在是10%。是的，就像现在，在整个公司范围内，我们通过使用人工智能实现了10%的工程速度提升。但我们计划明年雇用更多的工程师，对吧？因为我们能做的事情的机会空间也在扩大，对吧？所以我希望，至少在中短期内，对于许多工程师来说，它会解放出越来越多的，即使是在工程和编码方面的工作。其中有些方面非常有趣，你在设计，你在架构，你在解决问题。确实有很多繁琐的工作，你知道的，这些工作都是相互关联的。但它有望消除大部分繁琐工作，使编程更有乐趣，解放你更多的时间去创造、解决问题、与同事集思广益等等。没错，这就是其中的机会。
📸 杨鑫记者 王多军 摄
20250819 😘 宝宝腿趴开一点就不会疼的原因分析比卢普斯：肯定不是我的功劳，我有点忙，发现瀚森的功劳属于球探谢尔盖和迈克，他们走遍全球发掘天才球员，而我第一次现场看瀚森打球是在拉斯维加斯夏季联赛，当时就被他的表现所吸引。成片ppt网站大片这只是一场比赛，但我觉得球员们再次体会到了作为一支优秀的球队是什么样的感觉。信心总是源于当下的表现，而非过往的成绩。
📸 张金锋记者 王振东 摄
🈲 但在基斯诺尔博带队的8场比赛里，横滨水手未见好转，总共2胜6负的战绩让他们不仅在日职联的排名降到了垫底，在天皇杯的比赛中更是输给了低级别球队止步第二轮。17c官方网站
