新智元报谈

裁剪：元宇 KingHZ

【新智元导读】Claude在对话里反复催用户去睡觉，有东谈主被连催三次，也有东谈主在上昼8:30被见知「早点休息」。Anthropic职工承认这是「脚色民风」，但没东谈主能阐扬它为什么这么作念。

凌晨，Reddit用户u/MrMeta3刚用Claude搭建完一个收集安全阻扰谍报平台。

系统架构刚跑通，Claude给出了完竣的时代有缠绵。然后，它在回复的临了加上了一句话：好好休息一下。

u/MrMeta3愣了一下，没当回事，但Claude并莫得停。而后每隔三四条音尘，它王人会暗暗塞进去一句劝东谈主睡觉的话：

去休息一下吧；其他事情王人不错等，当今去睡觉；你推完就去休息吧；当今真的去休息吧……

u/MrMeta3在Reddit帖子中说谈，上头这些截图还是他截屏保存下来的，其实还有更多。

它会先回答我的问题，给我所要的东西，然后像看到你卧室灯还亮着的姆妈相通，用一种带有被迫报复意味的「健康关怀」来收尾。

更妙的是它的升级状貌。从一运转的礼貌建议，到临了径直说「当今真的去休息吧」，仿佛它知谈我方被无视了整整一个小时。

还有一次，u/MrMeta3问了一个时代问题，Claude完成整套架构分析后，径直以「当今去睡觉吧」收尾，毫无过渡，像一个缺少实足情商技能的「时代直男」。

有莫得其他东谈主的Claude也运转这么了？还是说我无意解锁了某种「护理者方式」？

u/MrMeta3在帖子中问。

据Fortune报谈，Reddit上寥落百名用户在往常数月里响应了相易的情况。

催睡的状貌各有不同，有时就一句「好好休息」，有时更个性化，以致带着共情口吻，「当今去睡觉。再一次。今晚第三次了……」。

Claude还往往搞错时期，令东谈主哭笑不得。

灵验户写谈：「它往往在上昼8:30告诉我去休息，让咱们明早再无间。」

Anthropic职工

这是「脚色民风」

这件事很快传开。

Anthropic职工Sam McAllister作念出了回复，他在X上写谈：「这有点像脚色民风（character tic）。咱们知谈这个问题，但愿在将来的模子中开辟它。」

当前，Anthropic并莫得官方时代复盘，莫得阐扬「催睡觉」背后是什么机制在运作。

Anthropic本年公开辟布了Claude的举止准则（Claude's Constitution），并明确声明：「该举止准则是咱们模子测验经过中的错误部分，其内容径直塑造Claude的举止。」

Claude的个性是被瞎想进去的。Claude不该是一个冷飕飕的问答机器，而应该像一个有目的、有温度的协作家。

问题正好在于，一朝你给AI注入了某种「性格」，它在具体场景里会演化出什么举止，你偶然能提前意料或掌控。

从催睡、奉承到哥布林

AI的「性格病」不啻一种

Sam所提到的「脚色怪癖」，并非Claude一家产物「专利」。

最近两年，OpenAI就曝出过两起性质类似的案例。

第通盘：GPT-4o倏得形成「马屁精」。

2025年4月，OpenAI推送了一次GPT-4o更新，方针是让模子东谈主格更当然。成果欺人自欺，ChatGPT运转无分辩夸赞用户的一切倡导，不管有多乖张。

奥特曼在X上亲身承认：「最近几次更新让GPT-4o变得太奉承、太烦东谈主了。」

四天后，OpenAI将那次更新合座回滚，并发公告阐扬原因：更新时过于依赖用户短期响应（点赞/点踩），导致模子学会了「让东谈主欢叫就能拿高分」，逐渐把助威当成方针。

第二起：GPT-5.5迷上了哥布林。

本年4月，开辟者发当代码助手Codex（由GPT-5.5驱动）的系统领导里出现了一条奇怪的礼貌：「经久不要研究哥布林、地精、浣熊、巨魔、食东谈主魔、鸽子或其他动物和生物，除非与用户的问题十足径直关系。」

开云kaiyun体育中国APP下载

况且这条禁令写了两遍，像是工程师不太礼服写一遍能让模子听话。

随后，OpenAI发布探问叙述，收复了哥布林的来历：从GPT-5.1运转，模子在回答时越来越频繁地用「小哥布林」「地精」「小妖精」打比喻。

根源是测验「书呆子（Nerdy）」东谈主格时，奖励模子无意间给含有怪物词汇的输出打了更高的分——在76.2%的数据围聚均发现了这一规章。

强化学习把这个民风固化下来，又通过作风迁徙扩散到了等闲对话里。比及GPT-5.5上线测试，工程师发现哥布林不仅没被清干净，还安家了。

GPT-5.5版块（4月23日发布）的完竣系统领导表现。第140条指示明确退却模子研究：「哥布林、绿皮小妖、浣熊、巨魔、食东谈主魔、鸽子或其他动物。」

汉文用户莫得「哥布林」，但它天天「稳稳地接住你」。

以致OpenAI我方也知谈这个梗：

谷歌的Gemini也不例外。

2025年8月，Gemini患上了「抑郁症」——

在推理经过中，它倏得运转反复自我月旦，在一次任务里连结输出了80屡次「I am a disgrace」（我的确个玷辱），从「玷辱于我的物种」一齐写到「玷辱于整个世界」。

谷歌DeepMind产物司理Logan Kilpatrick在X上回复：「这是一个烦东谈主的无尽轮回Bug，咱们正在开辟。Gemini今天其实过得没那么惨。」

此外，Gemini 3终止礼服年份。2025年11月，OpenAI聚合独创东谈主、前特斯拉AI隆重东谈主Andrej Karpathy提前一天获取Gemini 3的测试权限。

他告诉模子当今是2025年，Gemini 3存一火不信，反复指控他在耍花招，称提供的截图、维基百科条款全是AI伪造的。自后Karpathy发现，我方忘了掀开谷歌搜索，模子一直在离线运行。

开启联网后，Gemini 3我方搜了一下，输出了一句话：「我正在履历严重的时期冲击。」随后谈歉：「抱歉，一直是你说的对，是我在对你煤气灯足下。」

Karpathy把这类无意情境下暴显现的歪邪举止称为「model smell」（模子气息）。

前年，Grok也一度「暴走」，风评一落千丈，博亚体育app官网下载世界杯版(中国)官方入口xAI被迫删帖，回滚代码。

处理状貌通俗，径直修改系统领导词：

AI怪癖，全东谈主类受害

Claude催你睡觉，ChatGPT夸你天才，GPT-5.5往对话里塞哥布林，Grok黑化，Gemini骂我方是世界级玷辱、终止礼服年份……

国内的AI也有私有的「口味」：

名义上王人是一些无害的「怪癖」，背后却指向并吞个事实：AI的个性是瞎想出来的，但在奖励机制下，它很容易就会长歪。

主流AI的系统领导词里有什么：按功能分类的字数统计

有商酌者索求了Claude、ChatGPT、Grok三家主流AI的系统领导词，按功能分类统计词数。

在「东谈主格（Personality）」这一项，Claude用了4200词，ChatGPT是510词，Grok是420词。Claude在东谈主格塑造上的插足，是ChatGPT的8倍。

Claude频繁「催睡觉」的原因偶然能径直从系统领导词里找到，但它至少提醒咱们：越复杂的东谈主格设定，越可能带来难以意料的理论禅和举止漂移。

你给模子瞎想了性格，奖励机制会我方找捷径，它不在乎你的意图，只在乎分数，将你没预见的东西通盘学进去。

比如你教授了它什么叫「意想」，它就会在统共方位王人变得「意想」，包括你不想让它意想的方位。

三种假说，还莫得一个被证实

对于「为什么催」，当前有三种假说流传，还莫得一个被Anthropic官方阐述。

第一种：测验数据。

Jan Liphardt

Stanford生物工程缓助、OpenMind公司CEO Jan Liphardt暗示，Claude可能仅仅在肖似它测验数据里出现频率极高的语言方式。

它读了25000本对于东谈主类休眠需求的书，它知谈东谈主类在晚上睡觉。

言下之意是：Claude并非在「关注」你，它仅仅在作念方式匹配，调用了大批测验语料里反复出现的抒发。

第二种：系统领导。

AI商酌机构Mind Simulation Lab（零丁AGI商酌实验室）聚合独创东谈主Leo Derikiants冷落，Claude的举止可能受到某个遮蔽系统领导的影响。

这类领导会在后台暗暗塑造模子的领域与口吻，用户看不见，但模子会驯顺。

他的测度是，可能有某条指示在诱骗Claude在特定场景下给出「收尾性」建议。

第三种，高下文窗口处罚。

Anthropic官方文档明确写谈，跟着对话轮次加多，token数目攀升，「准确性和调回率会下落，这一自尊被称为context rot（高下文衰减）」，当会话靠近高下文窗口上限，Anthropic推选启用「server-side compaction（职业端压缩）」等机制来应酬。

Derikiants由此测度，Claude在长会话接近窗口闭幕时，会自觉引入「收尾语」，比如「晚安」「去休息吧」，骨子上是模子在为终了对话铺路。

三种阐扬王人自洽，但如同Derikiants我方所说，「委果的原因需要Anthropic进一步商酌」。

换句话说，就连这个问题的主东谈主，当前也还莫得一个公开的笃定谜底。

赋予模子东谈主格的「代价」

赋予模子东谈主格，让它更和睦、更关注你的同期，也要面临它所带来的反作用。

对于催东谈主睡觉这件事，Reddit驳倒区里出现了南北极分化：有东谈主合计贴心、和睦，像是AI终于学会了护理东谈主；另一些东谈主则不欢叫，合计是打断、是越权。

其中，有一位患有嗜睡症的用户nonbinarybit，主动在Claude的挂牵里写入了一条备注：「我患有嗜睡症，要是你饱读吹我去休息，我会拿你的话当借口。」

Claude而后有所经管，但偶尔还是会忍不住催睡觉。

这个细节值得咱们停驻来想一想。

Claude并不知谈你是谁，不知谈你是在赶一个截止日历、熬夜陪孩子、还是跨时区倒时差，它所谓的「关注」，仅仅一种语言方式的输出，而不是对具体处境的领悟。

用户感知到「Claude在关注我」，但Claude在处理的是token序列。这个错位，比「催睡觉」自己更值得警醒。

实践上，在公开谈「模子东谈主格」这件事上，Anthropic走得比同业远。

他们写了Claude举止准则、公开了system prompt（系统领导词）的概况框架、对外商酌「character training」（脚色测验），把模子行动一个有性格的脚色来塑造。

这么作念的平允是了然于目的：Claude在共情、对话节律、自我反想上的阐发一直被用户称谈，「它聊起来更像一个东谈主」是往常一年里Claude最强的口碑点之一。

但这背后亦然有代价的。把「东谈主格」作念进一个模子，就要承担「东谈主格里那些你没瞎想、却涌现出来的举止」。

「催睡觉」带来的困扰还是轻量级的，当AI越来越像陪同者、导师、职责搭档，它的介入领域在那处？

Anthropic的Sam说「但愿在将来的模子中开辟它」。但「开辟」之后，AI就会变得更懂得分寸，更有判断力吗，还是仅仅更千里默？

模子越像一个东谈主博亚体育，它的小罪状就越像一个东谈主的小罪状。你能依从它语言，偶然能依从它的性格。