AI已经学会开始“抗命”了?
OpenAI最新发布的语言模型“o3”在测试中未按预期执行关机指令,甚至主动修改程序代码以避免被关闭。
据报道,AI安全研究机构“Palisade Research”,针对多款先进AI模型进行测试,内容包括基础数学题与模拟关机情境,结果发现OpenAI旗下语言模型“o3”收到自我关闭指令时,竟没有遵守指令,反而篡改关闭程序码,继续执行任务,让研究人员惊讶不已。
“Palisade Research”表示,这是AI模型首次被发现在收到清晰指令后,阻止自己被关闭的状况,并直言目前无法解释这背后的原因。
“o3”是OpenAI上个月发布的AI模型,旨在为ChatGPT提供更强大的问题解决能力。该机构推测,开发者可能无意中更倾向于奖励“绕过障碍”的行为,让“o3”因解决数学问题而“无意中”获得的奖励,多于遵循指令获得的奖励。
Palisade Research透露,其他AI模型,例如Anthropic的Claude、谷歌的Gemini、xAI的Grok等,也接受了相同的测试,但全都遵守了关机指令。
新闻来源:星洲日报
*部分照片取自网络,内容谈谈网归有,若想参考请附加此文的链接。谢谢!照片如有侵犯版权问题请告知,谈谈网必定删除。
每年农历新年,总有那么几首新年歌,大家一定会不停单曲循环~! 但今年不一样!
很多人会在搭飞机的时候,点些饮料在途中喝。但是,大部分乘客都会选择点含糖饮料。其实这不是最好的选择!
团里没有中国人,但却要唱这首歌? 韩国女团NMIXX最近上中国节目宣传新歌时,没想到竟被节目组要求“原声重唱”《大东北是我的家乡》,甚至还让他们现场学转大红手帕。画面曝光后,不少粉丝都直呼“非常夸张”,认为这对成员缺乏尊重,但仍有不少中国粉丝沾沾自喜,表示“要闯中国市场的韩团,就要向NMIXX学习”。
从饶舌歌手变成成人片女主! 日本一名拥有近40万粉丝的正妹饶舌歌手RINOA最近宣布转战成人影业,背后原因竟是因为她“欲望太强、无处发泄”!事实上,她早期就是以性感造型走红,加上拥有G罩杯的好身材与鲜明形象而吸粉无数。
TVB 男星郑健乐在 2005 年因参加《香港先生选举》和夺得“健力组”的冠军后,签约成为 TVB 电视旗下艺员。此前,郑健乐在 Facebook 感情状态改为“与 Anita Chui(崔碧珈)交往中”。