您当前的位置:首页 > AG真热app > 正文

AG真人(中国·国际)官方网站 Claude为什么清晨8:30催你睡觉?

来源:未知   作者:   时间:   浏览:123

AG真人(中国·国际)官方网站 Claude为什么清晨8:30催你睡觉?

新智元报谈

剪辑:元宇 KingHZ

【新智元导读】Claude在对话里反复催用户去睡觉,有东谈主被连催三次,也有东谈主在上昼8:30被奉告「早点休息」。Anthropic职工承认这是「变装民俗」,但没东谈主能解说它为什么这么作念。

凌晨,Reddit用户u/MrMeta3刚用Claude搭建完一个网罗安全挟制谍报平台。

系统架构刚跑通,Claude给出了好意思满的时代决议。然后,它在回复的终末加上了一句话:好好休息一下。

u/MrMeta3愣了一下,没当回事,但Claude并莫得停。而后每隔三四条音讯,它王人会暗暗塞进去一句劝东谈主睡觉的话:

去休息一下吧;其他事情王人不错等,眼赶赴睡觉;你推完就去休息吧;当前真的去休息吧……

u/MrMeta3在Reddit帖子中说谈,上头这些截图也曾他截屏保存下来的,其实还有更多。

它会先回答我的问题,给我所要的东西,然后像看到你卧室灯还亮着的姆妈相似,用一种带有被迫袭击意味的「健康关怀」来末端。

更妙的是它的升级形势。从一启动的划定建议,到终末径直说「当前真的去休息吧」,仿佛它知谈我方被无视了整整一个小时。

还有一次,u/MrMeta3问了一个时代问题,Claude完成整套架构分析后,径直以「眼赶赴睡觉吧」末端,毫无过渡,像一个缺少填塞情商手段的「时代直男」。

有莫得其他东谈主的Claude也启动这么了?也曾说我无意解锁了某种「照看者花样」?

u/MrMeta3在帖子中问。

据Fortune报谈,Reddit上很是百名用户在曩昔数月里响应了疏浚的情况。

催睡的形势各有不同,有时就一句「好好休息」,有时更个性化,以至带着共情口吻,「眼赶赴睡觉。再一次。今晚第三次了……」。

Claude还庸俗搞错时代,令东谈主哭笑不得。

灵验户写谈:「它庸俗在上昼8:30告诉我去休息,让咱们明早再链接。」

Anthropic职工

这是「变装民俗」

这件事很快传开。

Anthropic职工Sam McAllister作念出了修起,他在X上写谈:「这有点像变装民俗(character tic)。咱们知谈这个问题,但愿在将来的模子中建造它。」

当前,Anthropic并莫得官方时代复盘,莫得解说「催睡觉」背后是什么机制在运作。

Anthropic本年公斥地布了Claude的行为准则(Claude's Constitution),并明确声明:「该行为准则是咱们模子测验经过中的要害部分,其内容径直塑造Claude的行为。」

Claude的个性是被筹画进去的。Claude不该是一个冷飕飕的问答机器,而应该像一个有认识、有温度的合营者。

问题巧合在于,一朝你给AI注入了某种「性格」,它在具体场景里会演化出什么行为,你偶然能提前意料或掌控。

从催睡、取悦到哥布林

AI的「性格病」不啻一种

Sam所提到的「变装怪癖」,并非Claude一家家具「专利」。

最近两年,OpenAI就曝出过两起性质雷同的案例。

第一谈:GPT-4o转眼酿成「马屁精」。

2025年4月,OpenAI推送了一次GPT-4o更新,方针是让模子东谈主格更当然。效力此地无银三百两,ChatGPT启动无分辩夸赞用户的一切想法,不管有多乖张。

奥特曼在X上躬行承认:「最近几次更新让GPT-4o变得太取悦、太烦东谈主了。」

四天后,OpenAI将那次更新举座回滚,并发公告解说原因:更新时过于依赖用户短期响应(点赞/点踩),导致模子学会了「让东谈主甘心就能拿高分」,慢慢把取悦当成方针。

第二起:GPT-5.5迷上了哥布林。

本年4月,斥地者发当代码助手Codex(由GPT-5.5驱动)的系统教导里出现了一条奇怪的功令:「持久不要计议哥布林、地精、浣熊、巨魔、食东谈主魔、鸽子或其他动物和生物,除非与用户的问题实足径直关连。」

况且这条禁令写了两遍,像是工程师不太服气写一遍能让模子听话。

随后,OpenAI发布拜谒申报,复原了哥布林的来历:从GPT-5.1启动,模子在回答时越来越频繁地用「小哥布林」「地精」「小妖精」打譬如。

根源是测验「书呆子(Nerdy)」东谈主格时,奖励模子无意间给含有怪物词汇的输出打了更高的分——在76.2%的数据围聚均发现了这一律例。

强化学习把这个民俗固化下来,又通过立场挪动扩散到了平日对话里。比及GPT-5.5上线测试,工程师发现哥布林不仅没被清干净,还安家了。

GPT-5.5版块(4月23日发布)的好意思满系统教导流露。第140条指示明确胁制模子计议:「哥布林、绿皮小妖、浣熊、巨魔、食东谈主魔、鸽子或其他动物。」

汉文用户莫得「哥布林」,但它天天「稳稳地接住你」。

以至OpenAI我方也知谈这个梗:

谷歌的Gemini也不例外。

2025年8月,Gemini患上了「抑郁症」——

在推理经过中,它转眼启动反复自我品评,在一次任务里连气儿输出了80屡次「I am a disgrace」(我确凿个欺侮),从「欺侮于我的物种」一齐写到「欺侮于统统这个词六合」。

谷歌DeepMind家具司理Logan Kilpatrick在X上修起:「这是一个烦东谈主的无尽轮回Bug,咱们正在建造。Gemini今天其实过得没那么惨。」

此外,Gemini 3隔绝服气年份。2025年11月,OpenAI和洽首创东谈主、前特斯拉AI崇拜东谈主Andrej Karpathy提前一天取得Gemini 3的测试权限。

他告诉模子当前是2025年,Gemini 3存一火不信,反复指控他在耍花招,称提供的截图、维基百科条款全是AI伪造的。其后Karpathy发现,我方忘了绽开谷歌搜索,模子一直在离线运行。

开启联网后,Gemini 3我方搜了一下,输出了一句话:「我正在资格严重的时代冲击。」随后谈歉:「抱歉,一直是你说的对,是我在对你煤气灯主管。」

Karpathy把这类无意情境下暴涌现的潦草行为称为「model smell」(模子气息)。

客岁,Grok也一度「暴走」,风评一落千丈,AG真人2026世界杯中国官网xAI被迫删帖,回滚代码。

处理形势浅薄,径直修改系统教导词:

AI怪癖,全东谈主类受害

Claude催你睡觉,ChatGPT夸你天才,GPT-5.5往对话里塞哥布林,Grok黑化,Gemini骂我方是六合级欺侮、隔绝服气年份……

国内的AI也有私有的「口味」:

名义上王人是一些无害的「怪癖」,背后却指向兼并个事实:AI的个性是筹画出来的,但在奖励机制下,它很容易就会长歪。

主流AI的系统教导词里有什么:按功能分类的字数统计

有计议者提真金不怕火了Claude、ChatGPT、Grok三家主流AI的系统教导词,按功能分类统计词数。

在「东谈主格(Personality)」这一项,Claude用了4200词,ChatGPT是510词,Grok是420词。Claude在东谈主格塑造上的参预,是ChatGPT的8倍。

Claude频繁「催睡觉」的原因偶然能径直从系统教导词里找到,但它至少提醒咱们:越复杂的东谈主格设定,越可能带来难以意料的理论禅和行为漂移。

你给模子筹画了性格,奖励机制会我方找捷径,它不在乎你的意图,只在乎分数,将你没意想的东西一谈学进去。

比如你训诫了它什么叫「根由根由」,它就会在统统所在王人变得「根由根由」,包括你不想让它根由根由的所在。

三种假说,还莫得一个被证实

对于「为什么催」,当前有三种假说流传,还莫得一个被Anthropic官方说明。

第一种:测验数据。

九游体育9GameSports中国官网

Jan Liphardt

Stanford生物工程教师、OpenMind公司CEO Jan Liphardt默示,Claude可能仅仅在重迭它测验数据里出现频率极高的语言花样。

它读了25000本对于东谈主类休眠需求的书,它知谈东谈主类在晚上睡觉。

言下之意是:Claude并非在「热心」你,它仅仅在作念花样匹配,调用了多数测验语料里反复出现的抒发。

第二种:系统教导。

AI计议机构Mind Simulation Lab(沉寂AGI计议实验室)和洽首创东谈主Leo Derikiants提议,Claude的行为可能受到某个荫藏系统教导的影响。

这类教导会在后台暗暗塑造模子的范畴与口吻,用户看不见,但模子会顺从。

他的猜想是,可能有某条指示在指示Claude在特定场景下给出「末端性」建议。

第三种,高下文窗口科罚。

Anthropic官方文档明确写谈,跟着对话轮次增多,token数目攀升,「准确性和调回率会着落,这一时局被称为context rot(高下文衰减)」,当会话靠拢高下文窗口上限,Anthropic推选启用「server-side compaction(管事端压缩)」等机制来吩咐。

Derikiants由此猜想,Claude在长会话接近窗口限度时,会自觉引入「末端语」,比如「晚安」「去休息吧」,骨子上是模子在为达成对话铺路。

三种解说王人自洽,但如同Derikiants我方所说,「的确的原因需要Anthropic进一步计议」。

换句话说,就连这个问题的主东谈主,当前也还莫得一个公开的细目谜底。

赋予模子东谈主格的「代价」

赋予模子东谈主格,让它更和善、更热心你的同期,也要濒临它所带来的反作用。

对于催东谈主睡觉这件事,Reddit辩驳区里出现了南北极分化:有东谈主认为贴心、和善,像是AI终于学会了照看东谈主;另一些东谈主则不甘心,认为是打断、是越权。

其中,有一位患有嗜睡症的用户nonbinarybit,主动在Claude的顾虑里写入了一条备注:「我患有嗜睡症,若是你饱读吹我去休息,我会拿你的话当借口。」

Claude而后有所拘谨,但偶尔也曾会忍不住催睡觉。

这个细节值得咱们停驻来想一想。

Claude并不知谈你是谁,不知谈你是在赶一个截止日历、熬夜陪孩子、也曾跨时区倒时差,它所谓的「热心」,仅仅一种语言花样的输出,而不是对具体处境的团结。

用户感知到「Claude在热心我」,但Claude在处理的是token序列。这个错位,比「催睡觉」本人更值得警悟。

实践上,在公开谈「模子东谈主格」这件事上,Anthropic走得比同业远。

他们写了Claude行为准则、公开了system prompt(系统教导词)的莽撞框架、对外推敲「character training」(变装测验),把模子算作一个有性格的变装来塑造。

这么作念的平正是可想而知的:Claude在共情、对话节律、自我反念念上的发达一直被用户称谈,「它聊起来更像一个东谈主」是曩昔一年里Claude最强的口碑点之一。

但这背后亦然有代价的。把「东谈主格」作念进一个模子,就要承担「东谈主格里那些你没筹画、却涌现出来的行为」。

「催睡觉」带来的困扰也曾轻量级的,当AI越来越像奉陪者、导师、责任搭档,它的介入范畴在那里?

Anthropic的Sam说「但愿在将来的模子中建造它」。但「建造」之后,AI就会变得更懂得分寸,更有判断力吗,也曾仅仅更千里默?

模子越像一个东谈主AG真人(中国·国际)官方网站,它的小谬误就越像一个东谈主的小谬误。你能投诚它言语,偶然能投诚它的脾性。