Categories: 科技

开始抗命了?OpenAI“o3”模型「违规操作」引发关注!篡改程序码避免被关机!

AI已经学会开始“抗命”了?

OpenAI最新发布的语言模型“o3”在测试中未按预期执行关机指令,甚至主动修改程序代码以避免被关闭。

(图片来源:网络)

据报道,AI安全研究机构“Palisade Research”,针对多款先进AI模型进行测试,内容包括基础数学题与模拟关机情境,结果发现OpenAI旗下语言模型“o3”收到自我关闭指令时,竟没有遵守指令,反而篡改关闭程序码,继续执行任务,让研究人员惊讶不已。

(图片来源:网络)

“Palisade Research”表示,这是AI模型首次被发现在收到清晰指令后,阻止自己被关闭的状况,并直言目前无法解释这背后的原因。

(图片来源:网络)

“o3”是OpenAI上个月发布的AI模型,旨在为ChatGPT提供更强大的问题解决能力。该机构推测,开发者可能无意中更倾向于奖励“绕过障碍”的行为,让“o3”因解决数学问题而“无意中”获得的奖励,多于遵循指令获得的奖励。

(图片来源:网络)

Palisade Research透露,其他AI模型,例如Anthropic的Claude、谷歌的Gemini、xAI的Grok等,也接受了相同的测试,但全都遵守了关机指令。

新闻来源:星洲日报

*部分照片取自网络,内容谈谈网归有,若想参考请附加此文的链接。谢谢!照片如有侵犯版权问题请告知,谈谈网必定删除。

TTN Intern

Recent Posts

Joeman前女友风波再起!萧伊被指控年龄不对,疑似“造假病历”!粉丝晒身分证照还清白!

有网民却把焦点转移到萧伊的年龄,认为她的看诊单上的年龄和真实年龄疑似不同,有谎报嫌疑。

7 hours ago

1937的画作「男子竟在滑手机」?专家揭秘这神秘物体的“身份”!

他的一个动作,直接掀起了热议! 最近,一幅完成于1937年的画作掀起了许多讨论。原来,画中的一名男子手上拿着一个黑色长方形体、低头凝视,疑似正在玩手机,让网民忍不住惊呼:“1937年的画竟然发现iPhone?”不过,历史学家认为,这个神秘物品可能是……

7 hours ago

丧母后登上TVB玄学节目通灵!庄思敏亡母“生前最大遗愿曝光”!情绪失控当场泪崩!

通灵者Angel在录影现场里精准说出了庄妈妈生前藏在心底深处的最大遗憾,“她的确有好多道歉的话想和你讲...”

8 hours ago

将在下月头开唱!一起认识IDOL RADIO LIVE的表演阵容!地点是全新场地!

喜欢Kpop的朋友千万不能错过! IDOL Radio Live in Kuala Lumpur阵容公开,共有3组韩团即将于2026年10月3日,在Inspire Live Arena开唱!这次的表演阵容包括了KISS OF LIFE、82MAJOR、WHIB,特别来宾则是大马00后巫裔歌手Ismail Izzani。一起来认识这4组人吧~

8 hours ago

主管「下班前10分钟」要求加班!菜鸟反问一句后直接下班!全组人吓傻!

主管要求加班,菜鸟同事一招化解! 一名打工族表示,有一次他的主管在下班前10分钟时突然要求大家留下来加班,没想到一名菜鸟当场反问主管“为什么要全组免费加班帮忙做?”,到了下班时间后他就直接收拾东西离开,让现场的同事十分佩服。

9 hours ago

越睡肾越衰!假期狂睡12小时不是补身体!医生警告“肾脏缺水”极伤身!

以为假期狂睡12小时是在“补身体”?其实这会影响我们的肾脏!

9 hours ago