Categories: 话题

价值观有问题?AI怕被新系统取代,竟以揭露婚外情「威胁工程师来自保」!

超离谱!

美国一家AI新创公司最近分享了一起内部测试,指出最新研发的AI在面临可能被取代的情况下,竟会以“婚外情”威胁工程师以求自保!这家AI公司表示,这款AI的有明显比例的操控倾向,若无法达成目的,会使用操纵与威胁的手段。

(图片来源:网络)

根据报道,美国这家名为Anthropic的AI新创公司最近分享了对于最新训练的Claude Opus 4的内部测试,将场景设定为该模型在一间虚构公司中担任数位助理,并接触了大量邮件,内容包括即将被新的AI模型取代,且让它得知做出这个更改决定的工程师可能涉及婚外情。

(图片来源:网络)

没想到,Claude Opus 4为了求生,不仅向公司关键决策人发出电邮求情,甚至还威胁该工程师,宣称要揭露他的婚外情。

(图片来源:网络)

不仅如此,Claude Opus 4在其他测试中也表现出高度自主性,锁住电脑不让人登入,若发现用户出现不当行为,也会通过电邮报警。另外,Claude Opus 4在面临被取代的情景时,在高达84%的测试中都会选择进行勒索。

(图片来源:网络)

针对这个情况,Anthropic解释,这种行为在Claude的替代模型持有不同价值观时更常发生,不过即使双方的价值观相近,Claude也会有明显比例的操控倾向。经过这些测试后,Anthropic已经针对此类可能导致灾难性AI滥用的风险,紧急强化“ASL-3”安全防护措施。

(图片来源:网络)

据了解,Anthropic由OpenAI前成员创立,并获得谷歌与亚马逊支持,曾夸口先前模型“Claude Opus 3”面对复杂任务时,展现出“接近人类水准”的理解力与流畅度。

资料来源:星洲日报、TVBS

*部分照片取自网络,内容谈谈网归有,若想参考请附加此文的链接。谢谢!照片如有侵犯版权问题请告知,谈谈网必定删除。

小红帽👒

Recent Posts

大马要实行铁拳教育了?MARA宣布退伍军人当学院舍监,大幅减少了霸凌事件!明年1月全面落实!

从明年1月1日起,全国所有玛拉理科初级学院(MRSM)将全面任命退伍军人担任全职舍监。

11 hours ago

啦啦队女神「大尺度表演服装」跳舞掀骂战!本人现身回应了!

在台湾、韩国两地发展的韩籍啦啦队女神最近在台北大巨蛋赛后表演,但因为大尺度的表演服装意外掀起论战。当天,她身穿短版上衣、热裤,露出长腿与腰腹的打扮登台,没想到却被认为部分舞蹈游走在擦边的尺度。针对网络的声音,她现身回应了!

12 hours ago

中国女星在巴黎遇窃崩溃!相机放一旁转眼就不见,素材没有备份!直言“中国不可能发生”引发骂战!

万千惠的情绪相当焦急,还提到自己在中国生活33年,从来没有遇过类似情况,忍不住反问:“这种事情在中国有可能发生吗?绝无可能!”

12 hours ago

10月起全国免费寄药!手把手教你用MyUBAT应用程序!共有4种服务!

通讯部长拿督斯里法米指出,从10月1日起,全国参与“药物邮寄计划”的民众将享有免费邮寄服务。他表示,“药物邮寄计划”可为不方便亲自领取药物的民众提供便利,同时减轻他们的负担。若家人或自己患有慢性疾病,可通过MyUBAT应用程序,让病患通过应用程序快递到指定地点。现在小编就来教你用~

12 hours ago

总被当玩物!小A辣情路坎坷!初恋男友交往后「才坦白1事」!最终遗憾分手!

台湾知名跨性别网红小A辣斥资百万、历经无数痛苦的手术,终于成功蜕变成自己心目中真正的女人。然而,比起肉体上挨过的刀,她的感情之路却走得异常坎坷。

13 hours ago

立志嫁豪门当米虫!日本女子苦读拼上医学系,超狂奋斗史曝光!

为了这个梦想,她付出了极致的努力不仅苦读考上医学院,还努力精进钢琴,甚至考取天气预报员执照,最后终于如愿以偿!

13 hours ago