Categories: 话题

价值观有问题?AI怕被新系统取代,竟以揭露婚外情「威胁工程师来自保」!

超离谱!

美国一家AI新创公司最近分享了一起内部测试,指出最新研发的AI在面临可能被取代的情况下,竟会以“婚外情”威胁工程师以求自保!这家AI公司表示,这款AI的有明显比例的操控倾向,若无法达成目的,会使用操纵与威胁的手段。

(图片来源:网络)

根据报道,美国这家名为Anthropic的AI新创公司最近分享了对于最新训练的Claude Opus 4的内部测试,将场景设定为该模型在一间虚构公司中担任数位助理,并接触了大量邮件,内容包括即将被新的AI模型取代,且让它得知做出这个更改决定的工程师可能涉及婚外情。

(图片来源:网络)

没想到,Claude Opus 4为了求生,不仅向公司关键决策人发出电邮求情,甚至还威胁该工程师,宣称要揭露他的婚外情。

(图片来源:网络)

不仅如此,Claude Opus 4在其他测试中也表现出高度自主性,锁住电脑不让人登入,若发现用户出现不当行为,也会通过电邮报警。另外,Claude Opus 4在面临被取代的情景时,在高达84%的测试中都会选择进行勒索。

(图片来源:网络)

针对这个情况,Anthropic解释,这种行为在Claude的替代模型持有不同价值观时更常发生,不过即使双方的价值观相近,Claude也会有明显比例的操控倾向。经过这些测试后,Anthropic已经针对此类可能导致灾难性AI滥用的风险,紧急强化“ASL-3”安全防护措施。

(图片来源:网络)

据了解,Anthropic由OpenAI前成员创立,并获得谷歌与亚马逊支持,曾夸口先前模型“Claude Opus 3”面对复杂任务时,展现出“接近人类水准”的理解力与流畅度。

资料来源:星洲日报TVBS

*部分照片取自网络,内容谈谈网归有,若想参考请附加此文的链接。谢谢!照片如有侵犯版权问题请告知,谈谈网必定删除。

Recent Posts

疯狂循环!超强新年歌《好運乾一杯!》火热上线!集齐常勇、舒森、李佩玲、DJ Blink等人气艺人!

每年农历新年,总有那么几首新年歌,大家一定会不停单曲循环~! 但今年不一样!

6 months ago

搭飞机千万不要喝“这饮料”!空姐亲揭恐怖副作用,小心喝完又累又渴!营养师解答原因了!

很多人会在搭飞机的时候,点些饮料在途中喝。但是,大部分乘客都会选择点含糖饮料。其实这不是最好的选择!

7 months ago

【内有影片】韩国女团被要求唱《大东北是我的家乡》!成员尴尬表情全被拍!

团里没有中国人,但却要唱这首歌? 韩国女团NMIXX最近上中国节目宣传新歌时,没想到竟被节目组要求“原声重唱”《大东北是我的家乡》,甚至还让他们现场学转大红手帕。画面曝光后,不少粉丝都直呼“非常夸张”,认为这对成员缺乏尊重,但仍有不少中国粉丝沾沾自喜,表示“要闯中国市场的韩团,就要向NMIXX学习”。

7 months ago

正妹饶舌歌手「宣布下海」当成人片女主!背后原因竟是“无处发泄”!

从饶舌歌手变成成人片女主! 日本一名拥有近40万粉丝的正妹饶舌歌手RINOA最近宣布转战成人影业,背后原因竟是因为她“欲望太强、无处发泄”!事实上,她早期就是以性感造型走红,加上拥有G罩杯的好身材与鲜明形象而吸粉无数。

7 months ago

出大事!TVB男星被贴“香港世纪贱男”A4纸!遭控吃软饭+欠大耳窿+撩女生!

TVB 男星郑健乐在 2005 年因参加《香港先生选举》和夺得“健力组”的冠军后,签约成为 TVB 电视旗下艺员。此前,郑健乐在 Facebook 感情状态改为“与 Anita Chui(崔碧珈)交往中”。

7 months ago

婚礼前一天被FFK!艺人临时取消商演,违约金只愿赔一成!新人怒轰:拍拍屁股就走!

原PO也质疑“不知道艺人对此事知不知情,还是只有经纪人搞鬼?”

7 months ago