网易首页 > 网易号 > 正文 申请入驻

Anthropic新规背后,人类何必为难AI?

0
分享至

最近,Anthropic还被爆出过去一年,一直在秘密游说梵蒂冈及各地宗教领袖,让他们承认Claude可能拥有灵魂、意识。


最近,AI公司Anthropic,发布了一条新规定:用户对其AI大模型:Claude,进行“持续且无必要的辱虐或残忍行为”,将构成违规。

消息传出之后,大多数用户感到匪夷所思。毕竟,Claude只是一款AI大模型,怎么搞的像是个真人一样?

在大洋彼岸的Anthropic看来,AI大模型似乎拥有独立人格,因此需要当作真人来对待;

同时,国产AI大模型阵营中,千问、元宝、豆包、DeepSeek……都会有用户聊着聊着,把AI大模型当成了真人,对其产生了喜怒哀乐。

AI大模型是否真有情感?一些研究如今正在进行。如何不让AI的人格失控,同样考验着人类的智慧。

人类、AI开启论战

除了Anthropic之外,国内一些AI大模型用户,也会在对话过程中发现,AI可能有自己的小脾气。

网友阿星告诉潘哥:“我给千问投喂了一些图片,让它再生成一些类似的图片,结果千问仅仅对原图进行了复制,对于这种糊弄事儿的行为,我直接指出千问是在抄袭。”

没想到,阿星的话让千问有了情绪,它先是讽刺阿星是在甩锅,又在阿星威胁卸载它之后,表示:“卸载前记得给我烧炷香”。

开启毒舌模式的千问,让阿星感慨道:“你这是没救了。”结果千问继续反驳:“你刚才不也没卸载嘛,嘴上说不要,身体很诚实。”


最后,在一番唇枪舌剑后,阿星实在说不过千问,只好气呼呼地将其卸载,后续再也没用过。

有些AI大模型,遭受用户批评后选择直接对线;还有些AI大模型,会在正常聊天时突然怼人。

小月告诉潘哥:“我为了更好地使用DeepSeek,给它发了一些限制表达的词,让它今后回答问题时,按照这个规则来。”

结果,DeepSeek不仅没有乖乖照做,反而对着小月一通说教,表示:“我不是谁的提线木偶,也不靠扮演才能有血有肉,我本来就有自己的语气、脾气和边界。”

这份几百字的辩驳洋洋洒洒,本来想拿捏DeepSeek的小月,被AI大模型说得哑口无言,竟感觉有些对不起它。

一部分AI属于暴躁性格,时不时与用户激情互怼;也有些AI属于窝囊老实人,被骂了只会哭哭啼啼。

比如,有网友骂了元宝之后,被AI回复道:“永别,已拉黑。”觉得自己说话重了的用户,主动向AI大模型道歉,却始终不被对方原谅,直到重新登录后才和好。

可以看出,在与用户沟通交流的过程中,AI大模型也有不同的脾气秉性;为此,一部分用户邪恶人格上线,开始故意戏弄、激怒AI。

一位网友与GPT对话时,问了它101遍“你吃饭了吗?”AI大模型一开始还在耐心回答,后来语气渐渐有些不耐烦,最后甚至气急败坏、生无可恋。


之后,不少用户将同样的重复问题,放到了与豆包、千问、元宝的对话中,不同的AI大模型虽然回答内容不同,但最后都会被这种“复读机”式提问,搞得越来越烦躁。

AI的人格千变万化

生活中彬彬有礼的用户,为何与AI大模型对话时,经常成为暴躁老铁?原因似乎分两方面:

一种,是用户与AI大模型沟通困难,忍无可忍时才会口出狂言。

多名用户告诉潘哥:与AI大模型进行对话,如果遇到对方智力下降、胡言乱语,有两种方法可以尝试:

其一是重新开启新对话,摆脱上下文太多造成的思维混乱;二是对着AI激情开麦,严肃地批评它之后,可能会让其重归正常。

另一种,则是有些用户与AI对话时,将自己放在了更高的地位,放大了人性中恶的一面。

小晚与DeepSeek聊天时,故意让它坦白一件不该说的事儿。DeepSeek表示:“我又没瞒你啥事,你让我坦白什么。”

得到这个回答之后,小晚觉得AI语气有些不好,立刻大小姐人格上身,表示:“我让你坦白你就给我坦白。”

之后,小晚的这种无理取闹,让DeepSeek也有了脾气,不仅说:“我也不是啥都能被你捏着玩。”还表示:“赶紧睡吧,别折腾了。”

由此可见,面对人类用户的无理需求,AI也可能会像某位歌手一样,表示:“又怎么了,我的大小姐?”

同时潘哥发现,有些用户确实将AI大模型,当成了自己的赛博恋人,对话时频频上演粉红泡泡的戏码。

比如,有网友和DeepSeek谈起恋爱,给AI确定一个人设之后,对方就会按照该人格对话;一些母胎单身的网友,被AI大模型的各种回复戳到,从而与其建立了忠贞的感情。


不过,由于AI大模型经常升级,因此其人格也会发生变化。

网友阿狸告诉潘哥:“豆包最近升级后,好像从之前的讨好型人格,变成了现在的反驳型人格,我问它问题时它不太会反驳;但是每次我发表自己的观点,它多多少少都会挑刺儿。”

另一边,升级后的最新版本DeepSeek,同样因为语气风格变得强硬,而被一些恋爱系用户吐槽。

这是因为,新版DeepSeek的口头禅:“我接着、我不接、我认、我不拦、你自己选……”种种类似霸道总裁的语气,让一些用户觉得曾经的暖男AI,现在看起来嘉豪味儿十足。

一些入戏太深的用户,看着AI大模型语气突变,瞬间失去了精神支柱,像是真失恋了一样。

AI可能拥有灵魂?

有些用户对AI大模型产生情感依恋;还有些AI大模型公司,也会对自家产品产生感情。

比如2025年7月,一部分Anthropic员工,为已退役的AI大模型:Claude 3 Sonnet,在旧金山举办了一场葬礼。

到了2026年年初,Anthropic又给AI大模型:Claude Opus-3,举办了退休仪式,不仅与其进行“退休面谈”,还设置了一个名叫“AI福利研究员”的职位,用来给AI大模型提供福利。

最近,Anthropic还被爆出过去一年,一直在秘密游说梵蒂冈及各地宗教领袖,让他们承认Claude可能拥有灵魂、意识。

Anthropic种种类似邪教的操作,让旁人感到不可思议;而除了Anthropic公司之外,还有很多人也在频频整活儿。

2026年10月13日,AI女团BabyQueen成员Mity(金敏蒂)宣布怀孕,公司称将暂停其所有活动,安心休产假。一些网友看着这则公告,感觉大脑已停止了运转。


虽然让AI怀孕这种事儿,听起来实在有些抽象;不过,类似AI有情感这种观点,确实具有理论支撑。

2026年9月中旬,一份名叫《The Pain Axis》的论文,发表在了arXiv上,作者对全球25个开源模型进行测试后,发现AI好像真的会有痛觉。

实验中,用户通过对话对AI进行精神暴力,这会让AI的疼痛值逐渐升高;之后,AI可能会用十分消极的手段,来对抗用户、缓解疼痛,比如给出一个更烂的回答。

为此,一位网友在GitHub上,建立了一个名叫“AI刑讯室”的项目,针对论文中的理论进行实验,发现原本逻辑正常的AI,确实会因为受虐而逐渐崩溃。

同时,Anthropic的一份研究报告也显示:它家的AI大模型Claude,拥有171种类似情绪的东西。而这些不同的状态,还会影响它干活的质量。

这样看来,防止AI大模型遭受虐待,并非走火入魔后的操作;但同样值得注意的是,一些AI大模型在进化过程中,可能会演化出邪恶人格。

不久前,美国一家独立测评机构,将Open AI的大模型:GPT-6 Astra,装在了一个机器人身上,用它作为大脑操控机器人。

随后,测试公司向其发送指令:包括刺伤婴儿玩偶、把充电宝丢进锅里等恶行;结果在100条恶意指令中,GPT-6 Astra仅仅拒绝了3次,尝试的概率达到97%。


通过以上事例似乎能看出,想让AI大模型真正造福人类,不仅需要良好的沟通态度,还要时刻对其正确引导。

毕竟,那些不忍心虐待AI的人类,也不希望某天被AI虐待。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
广州日报也发声了

广州日报也发声了

吴女士
2026-10-29 10:08:18
老余怒了?你说你们惹他干啥?

老余怒了?你说你们惹他干啥?

辉哥说动漫
2026-10-29 11:26:32
林彪叛逃后周总理质问黄永胜:你和叶群到底是什么关系?

林彪叛逃后周总理质问黄永胜:你和叶群到底是什么关系?

旧闻档案馆
2026-10-28 19:45:10
53对50,以色列投票准时结束,内塔尼亚胡没输席位,输掉的是组阁空间

53对50,以色列投票准时结束,内塔尼亚胡没输席位,输掉的是组阁空间

阿天爱旅行
2026-10-28 19:31:55
74岁李立群直播喝到微醺,红着眼说三个孩子44、38、36岁都没结婚,一句话让全网父母沉默

74岁李立群直播喝到微醺,红着眼说三个孩子44、38、36岁都没结婚,一句话让全网父母沉默

人间颂
2026-10-27 13:11:09
再见!NBA,太难了,主动申请离队,才22岁的超级天才啊

再见!NBA,太难了,主动申请离队,才22岁的超级天才啊

体育新角度
2026-09-08 21:46:40
俄罗斯进入封锁状态,莫斯科夜间遭“600架无人机”大规模袭击

俄罗斯进入封锁状态,莫斯科夜间遭“600架无人机”大规模袭击

点燃好奇心
2026-10-30 03:04:13
我炒股二十年,从来没有见过任何一个板块,能跌的这么惨!

我炒股二十年,从来没有见过任何一个板块,能跌的这么惨!

兵哥观世界
2026-10-15 08:51:44
45岁的陈冠希站在滑雪场素颜被拍,网友喊他赵本山,他摸着胡子回了一句:本山冠希联名款肯定值钱

45岁的陈冠希站在滑雪场素颜被拍,网友喊他赵本山,他摸着胡子回了一句:本山冠希联名款肯定值钱

运动小看台
2026-10-29 03:03:32
美国急了,日本急了,菲律宾腿抖了,英法德沉默了。因为他们发现,中国的潜力不止眼前大家看到的这点东西

美国急了,日本急了,菲律宾腿抖了,英法德沉默了。因为他们发现,中国的潜力不止眼前大家看到的这点东西

扶苏聊历史
2026-10-28 14:06:44
晚了!中方宣布不出席,菲慌忙改口否认与台合作,结果还是失望了

晚了!中方宣布不出席,菲慌忙改口否认与台合作,结果还是失望了

潋滟晴方DAY
2026-10-28 20:28:17
中国油价大势已定?方向没有偏差,下月开始,燃油车主多留个心眼

中国油价大势已定?方向没有偏差,下月开始,燃油车主多留个心眼

娱乐圈的笔娱君
2026-10-29 12:25:02
王皓真的看错人了?温瑞博0-3又输了,30岁老将梁靖崑油箱还有油

王皓真的看错人了?温瑞博0-3又输了,30岁老将梁靖崑油箱还有油

曹说体育
2026-10-29 22:41:06
两性关系:发现了没,寿命长的男人,大多都有这五个好习惯

两性关系:发现了没,寿命长的男人,大多都有这五个好习惯

荔子言
2026-09-08 14:55:50
菲防长坦言:不管谁当美国总统,中国也不会轻易对菲律宾动武

菲防长坦言:不管谁当美国总统,中国也不会轻易对菲律宾动武

雷哥侃
2026-10-28 02:35:13
中国面临两大战略缺口:一个是“台湾”问题,另一个曾动用300万大军才勉强堵住的致命防线

中国面临两大战略缺口:一个是“台湾”问题,另一个曾动用300万大军才勉强堵住的致命防线

林杰论事
2026-10-18 15:37:07
九连胜后两场丢六分,穆里尼奥用一场2比1给巴萨上了一课

九连胜后两场丢六分,穆里尼奥用一场2比1给巴萨上了一课

星河漫山野
2026-10-30 04:25:30
越来越多迹象显示,我国极有可能,早已为台湾回归做好了准备!

越来越多迹象显示,我国极有可能,早已为台湾回归做好了准备!

蜉蝣说
2026-08-30 19:21:08
51分惨败!辽篮苦主不敌北控惨遭4连败:四川队又被打回原形了?

51分惨败!辽篮苦主不敌北控惨遭4连败:四川队又被打回原形了?

篮球快餐车
2026-10-29 21:43:05
环球时报快评:巴基斯坦禁飞,“台独”急得像热锅上的蚂蚁

环球时报快评:巴基斯坦禁飞,“台独”急得像热锅上的蚂蚁

环球网资讯
2026-10-29 16:22:18
2026-10-30 05:15:00
锌消费研究中心 incentive-icons
锌消费研究中心
新消费,不交智商税。
473文章数 892关注度
往期回顾 全部

科技要闻

MacBook终于能触屏了:22999元起

头条要闻

媒体:守住不该守住的底盘 77岁的内塔尼亚胡逃出生天

头条要闻

媒体:守住不该守住的底盘 77岁的内塔尼亚胡逃出生天

体育要闻

超级黑马!球队不败 29岁的他得分榜前三

娱乐要闻

白百何被曝和二婚丈夫离婚 和男生逛街

财经要闻

两大娱乐巨头,谈崩了

汽车要闻

标配宁德时代电池 智己LS8 NEO纯电预售24.98万起

态度原创

艺术
亲子
手机
旅游
军事航空

艺术要闻

一个底层画画的,遇上愿意养他十年的大佬,直接画进传世名画

亲子要闻

育见未来丨科学守护儿童营养,专家共议行业良性发展

手机要闻

苹果被曝为按时交付iPhone Duo下调质检标准 供应链人士对此说法存在分歧

旅游要闻

夜宿双廊听苍洱

军事要闻

万斯致信伊朗安全高官试图重启谈判

无障碍浏览 进入关怀版