AI已经学会开始“抗命”了?
OpenAI最新发布的语言模型“o3”在测试中未按预期执行关机指令,甚至主动修改程序代码以避免被关闭。
据报道,AI安全研究机构“Palisade Research”,针对多款先进AI模型进行测试,内容包括基础数学题与模拟关机情境,结果发现OpenAI旗下语言模型“o3”收到自我关闭指令时,竟没有遵守指令,反而篡改关闭程序码,继续执行任务,让研究人员惊讶不已。
“Palisade Research”表示,这是AI模型首次被发现在收到清晰指令后,阻止自己被关闭的状况,并直言目前无法解释这背后的原因。
“o3”是OpenAI上个月发布的AI模型,旨在为ChatGPT提供更强大的问题解决能力。该机构推测,开发者可能无意中更倾向于奖励“绕过障碍”的行为,让“o3”因解决数学问题而“无意中”获得的奖励,多于遵循指令获得的奖励。
Palisade Research透露,其他AI模型,例如Anthropic的Claude、谷歌的Gemini、xAI的Grok等,也接受了相同的测试,但全都遵守了关机指令。
新闻来源:星洲日报
*部分照片取自网络,内容谈谈网归有,若想参考请附加此文的链接。谢谢!照片如有侵犯版权问题请告知,谈谈网必定删除。
从明年1月1日起,全国所有玛拉理科初级学院(MRSM)将全面任命退伍军人担任全职舍监。
在台湾、韩国两地发展的韩籍啦啦队女神最近在台北大巨蛋赛后表演,但因为大尺度的表演服装意外掀起论战。当天,她身穿短版上衣、热裤,露出长腿与腰腹的打扮登台,没想到却被认为部分舞蹈游走在擦边的尺度。针对网络的声音,她现身回应了!
万千惠的情绪相当焦急,还提到自己在中国生活33年,从来没有遇过类似情况,忍不住反问:“这种事情在中国有可能发生吗?绝无可能!”
通讯部长拿督斯里法米指出,从10月1日起,全国参与“药物邮寄计划”的民众将享有免费邮寄服务。他表示,“药物邮寄计划”可为不方便亲自领取药物的民众提供便利,同时减轻他们的负担。若家人或自己患有慢性疾病,可通过MyUBAT应用程序,让病患通过应用程序快递到指定地点。现在小编就来教你用~
台湾知名跨性别网红小A辣斥资百万、历经无数痛苦的手术,终于成功蜕变成自己心目中真正的女人。然而,比起肉体上挨过的刀,她的感情之路却走得异常坎坷。