AI已经学会开始“抗命”了?
OpenAI最新发布的语言模型“o3”在测试中未按预期执行关机指令,甚至主动修改程序代码以避免被关闭。
据报道,AI安全研究机构“Palisade Research”,针对多款先进AI模型进行测试,内容包括基础数学题与模拟关机情境,结果发现OpenAI旗下语言模型“o3”收到自我关闭指令时,竟没有遵守指令,反而篡改关闭程序码,继续执行任务,让研究人员惊讶不已。
“Palisade Research”表示,这是AI模型首次被发现在收到清晰指令后,阻止自己被关闭的状况,并直言目前无法解释这背后的原因。
“o3”是OpenAI上个月发布的AI模型,旨在为ChatGPT提供更强大的问题解决能力。该机构推测,开发者可能无意中更倾向于奖励“绕过障碍”的行为,让“o3”因解决数学问题而“无意中”获得的奖励,多于遵循指令获得的奖励。
Palisade Research透露,其他AI模型,例如Anthropic的Claude、谷歌的Gemini、xAI的Grok等,也接受了相同的测试,但全都遵守了关机指令。
新闻来源:星洲日报
*部分照片取自网络,内容谈谈网归有,若想参考请附加此文的链接。谢谢!照片如有侵犯版权问题请告知,谈谈网必定删除。
有网民却把焦点转移到萧伊的年龄,认为她的看诊单上的年龄和真实年龄疑似不同,有谎报嫌疑。
他的一个动作,直接掀起了热议! 最近,一幅完成于1937年的画作掀起了许多讨论。原来,画中的一名男子手上拿着一个黑色长方形体、低头凝视,疑似正在玩手机,让网民忍不住惊呼:“1937年的画竟然发现iPhone?”不过,历史学家认为,这个神秘物品可能是……
通灵者Angel在录影现场里精准说出了庄妈妈生前藏在心底深处的最大遗憾,“她的确有好多道歉的话想和你讲...”
喜欢Kpop的朋友千万不能错过! IDOL Radio Live in Kuala Lumpur阵容公开,共有3组韩团即将于2026年10月3日,在Inspire Live Arena开唱!这次的表演阵容包括了KISS OF LIFE、82MAJOR、WHIB,特别来宾则是大马00后巫裔歌手Ismail Izzani。一起来认识这4组人吧~
主管要求加班,菜鸟同事一招化解! 一名打工族表示,有一次他的主管在下班前10分钟时突然要求大家留下来加班,没想到一名菜鸟当场反问主管“为什么要全组免费加班帮忙做?”,到了下班时间后他就直接收拾东西离开,让现场的同事十分佩服。