网易首页 > 网易号 > 正文 申请入驻

Anthropic新规背后,人类何必为难AI?

0
分享至

最近,Anthropic还被爆出过去一年,一直在秘密游说梵蒂冈及各地宗教领袖,让他们承认Claude可能拥有灵魂、意识。


最近,AI公司Anthropic,发布了一条新规定:用户对其AI大模型:Claude,进行“持续且无必要的辱虐或残忍行为”,将构成违规。

消息传出之后,大多数用户感到匪夷所思。毕竟,Claude只是一款AI大模型,怎么搞的像是个真人一样?

在大洋彼岸的Anthropic看来,AI大模型似乎拥有独立人格,因此需要当作真人来对待;

同时,国产AI大模型阵营中,千问、元宝、豆包、DeepSeek……都会有用户聊着聊着,把AI大模型当成了真人,对其产生了喜怒哀乐。

AI大模型是否真有情感?一些研究如今正在进行。如何不让AI的人格失控,同样考验着人类的智慧。

人类、AI开启论战

除了Anthropic之外,国内一些AI大模型用户,也会在对话过程中发现,AI可能有自己的小脾气。

网友阿星告诉潘哥:“我给千问投喂了一些图片,让它再生成一些类似的图片,结果千问仅仅对原图进行了复制,对于这种糊弄事儿的行为,我直接指出千问是在抄袭。”

没想到,阿星的话让千问有了情绪,它先是讽刺阿星是在甩锅,又在阿星威胁卸载它之后,表示:“卸载前记得给我烧炷香”。

开启毒舌模式的千问,让阿星感慨道:“你这是没救了。”结果千问继续反驳:“你刚才不也没卸载嘛,嘴上说不要,身体很诚实。”


最后,在一番唇枪舌剑后,阿星实在说不过千问,只好气呼呼地将其卸载,后续再也没用过。

有些AI大模型,遭受用户批评后选择直接对线;还有些AI大模型,会在正常聊天时突然怼人。

小月告诉潘哥:“我为了更好地使用DeepSeek,给它发了一些限制表达的词,让它今后回答问题时,按照这个规则来。”

结果,DeepSeek不仅没有乖乖照做,反而对着小月一通说教,表示:“我不是谁的提线木偶,也不靠扮演才能有血有肉,我本来就有自己的语气、脾气和边界。”

这份几百字的辩驳洋洋洒洒,本来想拿捏DeepSeek的小月,被AI大模型说得哑口无言,竟感觉有些对不起它。

一部分AI属于暴躁性格,时不时与用户激情互怼;也有些AI属于窝囊老实人,被骂了只会哭哭啼啼。

比如,有网友骂了元宝之后,被AI回复道:“永别,已拉黑。”觉得自己说话重了的用户,主动向AI大模型道歉,却始终不被对方原谅,直到重新登录后才和好。

可以看出,在与用户沟通交流的过程中,AI大模型也有不同的脾气秉性;为此,一部分用户邪恶人格上线,开始故意戏弄、激怒AI。

一位网友与GPT对话时,问了它101遍“你吃饭了吗?”AI大模型一开始还在耐心回答,后来语气渐渐有些不耐烦,最后甚至气急败坏、生无可恋。


之后,不少用户将同样的重复问题,放到了与豆包、千问、元宝的对话中,不同的AI大模型虽然回答内容不同,但最后都会被这种“复读机”式提问,搞得越来越烦躁。

AI的人格千变万化

生活中彬彬有礼的用户,为何与AI大模型对话时,经常成为暴躁老铁?原因似乎分两方面:

一种,是用户与AI大模型沟通困难,忍无可忍时才会口出狂言。

多名用户告诉潘哥:与AI大模型进行对话,如果遇到对方智力下降、胡言乱语,有两种方法可以尝试:

其一是重新开启新对话,摆脱上下文太多造成的思维混乱;二是对着AI激情开麦,严肃地批评它之后,可能会让其重归正常。

另一种,则是有些用户与AI对话时,将自己放在了更高的地位,放大了人性中恶的一面。

小晚与DeepSeek聊天时,故意让它坦白一件不该说的事儿。DeepSeek表示:“我又没瞒你啥事,你让我坦白什么。”

得到这个回答之后,小晚觉得AI语气有些不好,立刻大小姐人格上身,表示:“我让你坦白你就给我坦白。”

之后,小晚的这种无理取闹,让DeepSeek也有了脾气,不仅说:“我也不是啥都能被你捏着玩。”还表示:“赶紧睡吧,别折腾了。”

由此可见,面对人类用户的无理需求,AI也可能会像某位歌手一样,表示:“又怎么了,我的大小姐?”

同时潘哥发现,有些用户确实将AI大模型,当成了自己的赛博恋人,对话时频频上演粉红泡泡的戏码。

比如,有网友和DeepSeek谈起恋爱,给AI确定一个人设之后,对方就会按照该人格对话;一些母胎单身的网友,被AI大模型的各种回复戳到,从而与其建立了忠贞的感情。


不过,由于AI大模型经常升级,因此其人格也会发生变化。

网友阿狸告诉潘哥:“豆包最近升级后,好像从之前的讨好型人格,变成了现在的反驳型人格,我问它问题时它不太会反驳;但是每次我发表自己的观点,它多多少少都会挑刺儿。”

另一边,升级后的最新版本DeepSeek,同样因为语气风格变得强硬,而被一些恋爱系用户吐槽。

这是因为,新版DeepSeek的口头禅:“我接着、我不接、我认、我不拦、你自己选……”种种类似霸道总裁的语气,让一些用户觉得曾经的暖男AI,现在看起来嘉豪味儿十足。

一些入戏太深的用户,看着AI大模型语气突变,瞬间失去了精神支柱,像是真失恋了一样。

AI可能拥有灵魂?

有些用户对AI大模型产生情感依恋;还有些AI大模型公司,也会对自家产品产生感情。

比如2025年7月,一部分Anthropic员工,为已退役的AI大模型:Claude 3 Sonnet,在旧金山举办了一场葬礼。

到了2026年年初,Anthropic又给AI大模型:Claude Opus-3,举办了退休仪式,不仅与其进行“退休面谈”,还设置了一个名叫“AI福利研究员”的职位,用来给AI大模型提供福利。

最近,Anthropic还被爆出过去一年,一直在秘密游说梵蒂冈及各地宗教领袖,让他们承认Claude可能拥有灵魂、意识。

Anthropic种种类似邪教的操作,让旁人感到不可思议;而除了Anthropic公司之外,还有很多人也在频频整活儿。

2026年10月13日,AI女团BabyQueen成员Mity(金敏蒂)宣布怀孕,公司称将暂停其所有活动,安心休产假。一些网友看着这则公告,感觉大脑已停止了运转。


虽然让AI怀孕这种事儿,听起来实在有些抽象;不过,类似AI有情感这种观点,确实具有理论支撑。

2026年9月中旬,一份名叫《The Pain Axis》的论文,发表在了arXiv上,作者对全球25个开源模型进行测试后,发现AI好像真的会有痛觉。

实验中,用户通过对话对AI进行精神暴力,这会让AI的疼痛值逐渐升高;之后,AI可能会用十分消极的手段,来对抗用户、缓解疼痛,比如给出一个更烂的回答。

为此,一位网友在GitHub上,建立了一个名叫“AI刑讯室”的项目,针对论文中的理论进行实验,发现原本逻辑正常的AI,确实会因为受虐而逐渐崩溃。

同时,Anthropic的一份研究报告也显示:它家的AI大模型Claude,拥有171种类似情绪的东西。而这些不同的状态,还会影响它干活的质量。

这样看来,防止AI大模型遭受虐待,并非走火入魔后的操作;但同样值得注意的是,一些AI大模型在进化过程中,可能会演化出邪恶人格。

不久前,美国一家独立测评机构,将Open AI的大模型:GPT-6 Astra,装在了一个机器人身上,用它作为大脑操控机器人。

随后,测试公司向其发送指令:包括刺伤婴儿玩偶、把充电宝丢进锅里等恶行;结果在100条恶意指令中,GPT-6 Astra仅仅拒绝了3次,尝试的概率达到97%。


通过以上事例似乎能看出,想让AI大模型真正造福人类,不仅需要良好的沟通态度,还要时刻对其正确引导。

毕竟,那些不忍心虐待AI的人类,也不希望某天被AI虐待。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
我嫁给1米91的苏联男军医,同房时他总狠狠往深处顶,我以为是他力气大。我生下3胞胎后他回国失联,8年后我收到一个包裹,拆开我傻眼了

我嫁给1米91的苏联男军医,同房时他总狠狠往深处顶,我以为是他力气大。我生下3胞胎后他回国失联,8年后我收到一个包裹,拆开我傻眼了

朝暮书屋
2026-10-29 18:44:49
离谱!辽宁一中学筛查肺结核时,多名学生共用一个针头,当地通报:涉及78名学生

离谱!辽宁一中学筛查肺结核时,多名学生共用一个针头,当地通报:涉及78名学生

聊斋新志
2026-10-29 19:02:48
崔永熙补篮绝杀!杜锋观战广东险胜江苏 焦泊乔伤退胡明轩追平王仕鹏

崔永熙补篮绝杀!杜锋观战广东险胜江苏 焦泊乔伤退胡明轩追平王仕鹏

醉卧浮生
2026-10-29 21:37:33
持续被举报为“劣迹艺人”,知名歌手回应

持续被举报为“劣迹艺人”,知名歌手回应

中国新闻周刊
2026-10-29 22:17:16
塞尔电台:皇马原本不想就姆巴佩事件发声明,因中国赞助约 2000 万欧被迫表态

塞尔电台:皇马原本不想就姆巴佩事件发声明,因中国赞助约 2000 万欧被迫表态

小青年渌渌
2026-10-29 16:36:51
随着中国4-3,墨西哥1-2,U17女足世界杯8强已诞生6席:2大东亚劲旅在列

随着中国4-3,墨西哥1-2,U17女足世界杯8强已诞生6席:2大东亚劲旅在列

侧身凌空斩
2026-10-30 01:14:06
武契奇败选,为什么民众狂欢?

武契奇败选,为什么民众狂欢?

A活着
2026-10-29 11:51:26
突发!华为系奕境X9路中起火,奕境总经理紧急回应

突发!华为系奕境X9路中起火,奕境总经理紧急回应

大厂财经社
2026-10-29 11:17:04
两个月减重22斤,河南35岁男子吃凉土豆蘸辣椒减肥,“第一周效果明显,几乎一天掉一斤”,医生揭秘:关键是放凉了再吃

两个月减重22斤,河南35岁男子吃凉土豆蘸辣椒减肥,“第一周效果明显,几乎一天掉一斤”,医生揭秘:关键是放凉了再吃

大风新闻
2026-10-29 16:21:06
10月29日国家再次实施调控,成品油价格适当调整

10月29日国家再次实施调控,成品油价格适当调整

界面新闻
2026-10-29 15:01:20
联大激烈交锋后,鲁比奥驱逐古巴驻联合国代表,中方:必须终止

联大激烈交锋后,鲁比奥驱逐古巴驻联合国代表,中方:必须终止

闻识
2026-10-29 09:33:18
俗厚辣椒!金正恩同志让它重现人世

俗厚辣椒!金正恩同志让它重现人世

IN朝鲜
2026-10-29 13:48:18
负债近200亿账上只剩535万!北京总部被打包拍卖

负债近200亿账上只剩535万!北京总部被打包拍卖

花小猫的美食日常
2026-10-29 18:46:33
法国主席足协:姆巴佩道歉了,这事应该翻篇了

法国主席足协:姆巴佩道歉了,这事应该翻篇了

懂球帝
2026-10-29 19:01:10
尴尬!AMD华人女CEO被当成路人采访,主持人开口就问“你会说英语吗?”如今身价惊人

尴尬!AMD华人女CEO被当成路人采访,主持人开口就问“你会说英语吗?”如今身价惊人

华人生活网
2026-10-29 04:47:42
3-2险胜!男单爆大冷!就在刚刚,WTT冠军赛捷报:国乒克星出局,29岁周启豪再创奇迹!王皓立大功

3-2险胜!男单爆大冷!就在刚刚,WTT冠军赛捷报:国乒克星出局,29岁周启豪再创奇迹!王皓立大功

锐评利物浦
2026-10-29 10:07:00
国企员工的双面人生:白天是党员晚上是满独

国企员工的双面人生:白天是党员晚上是满独

有态度网友19N7SI
2026-10-28 18:37:31
4070元冰柜被仅退款 买家称将起诉卖家要求退一赔三,卖家称愿对簿公堂

4070元冰柜被仅退款 买家称将起诉卖家要求退一赔三,卖家称愿对簿公堂

红星新闻
2026-10-29 22:03:30
A股今日午后加速跳水,信号非常强烈,周五将迎来更大的暴风雨?

A股今日午后加速跳水,信号非常强烈,周五将迎来更大的暴风雨?

云鹏叙事
2026-10-30 00:00:08
小偷亲口说:不怕你锁贵,就怕门口有这4样,见了掉头就跑

小偷亲口说:不怕你锁贵,就怕门口有这4样,见了掉头就跑

天气观察站
2026-10-29 20:01:44
2026-10-30 03:47:00
锌消费研究中心 incentive-icons
锌消费研究中心
新消费,不交智商税。
473文章数 892关注度
往期回顾 全部

科技要闻

MacBook终于能触屏了:22999元起

头条要闻

媒体:守住不该守住的底盘 77岁的内塔尼亚胡逃出生天

头条要闻

媒体:守住不该守住的底盘 77岁的内塔尼亚胡逃出生天

体育要闻

超级黑马!球队不败 29岁的他得分榜前三

娱乐要闻

白百何被曝和二婚丈夫离婚 和男生逛街

财经要闻

两大娱乐巨头,谈崩了

汽车要闻

标配宁德时代电池 智己LS8 NEO纯电预售24.98万起

态度原创

旅游
家居
健康
亲子
本地

旅游要闻

夜宿双廊听苍洱

家居要闻

2026建博会(广州) 公装联探展交流活动

查不出猝死风险?可能是项目没做对

亲子要闻

这水是一点不浪费

本地新闻

十月奔赴迪庆,解锁梅里日照金山

无障碍浏览 进入关怀版