Categories: 话题

价值观有问题?AI怕被新系统取代,竟以揭露婚外情「威胁工程师来自保」!

超离谱!

美国一家AI新创公司最近分享了一起内部测试,指出最新研发的AI在面临可能被取代的情况下,竟会以“婚外情”威胁工程师以求自保!这家AI公司表示,这款AI的有明显比例的操控倾向,若无法达成目的,会使用操纵与威胁的手段。

(图片来源:网络)

根据报道,美国这家名为Anthropic的AI新创公司最近分享了对于最新训练的Claude Opus 4的内部测试,将场景设定为该模型在一间虚构公司中担任数位助理,并接触了大量邮件,内容包括即将被新的AI模型取代,且让它得知做出这个更改决定的工程师可能涉及婚外情。

(图片来源:网络)

没想到,Claude Opus 4为了求生,不仅向公司关键决策人发出电邮求情,甚至还威胁该工程师,宣称要揭露他的婚外情。

(图片来源:网络)

不仅如此,Claude Opus 4在其他测试中也表现出高度自主性,锁住电脑不让人登入,若发现用户出现不当行为,也会通过电邮报警。另外,Claude Opus 4在面临被取代的情景时,在高达84%的测试中都会选择进行勒索。

(图片来源:网络)

针对这个情况,Anthropic解释,这种行为在Claude的替代模型持有不同价值观时更常发生,不过即使双方的价值观相近,Claude也会有明显比例的操控倾向。经过这些测试后,Anthropic已经针对此类可能导致灾难性AI滥用的风险,紧急强化“ASL-3”安全防护措施。

(图片来源:网络)

据了解,Anthropic由OpenAI前成员创立,并获得谷歌与亚马逊支持,曾夸口先前模型“Claude Opus 3”面对复杂任务时,展现出“接近人类水准”的理解力与流畅度。

资料来源:星洲日报TVBS

*部分照片取自网络,内容谈谈网归有,若想参考请附加此文的链接。谢谢!照片如有侵犯版权问题请告知,谈谈网必定删除。

小红帽👒

Recent Posts

这是用吞的吧?女子惊爆男友“6分钟嗑完便当”!一群男性网民揭背后苦衷!

她的男友某天说要把便当“shot掉”,让女子以为他是在开玩笑。

3 hours ago

自爆曾跟鹿晗过夜!女网红加码爆料「被他搭讪全过程」!穿越人群要电话号码!

中国网红司晓迪今年曾多次通过微博发布与多为男艺人的亲密关系爆料,自爆睡过所有顶流,甚至还点名多名中国男星,包括鹿晗、林更新、檀建次、范丞丞等人,就连私密床照也大公开!虽然男方相继否认,但最近她再次爆料被鹿晗搭讪的过程!

3 hours ago

别饿着肚子吃Buffet!教你“5大黄金进食顺序”!饮料这样选!

主打“无限量供应”的自助餐,一直都是许多人聚餐、庆生或欢聚时的热门选择。

3 hours ago

薪水突然被扣钱了?一文看懂什么是LINDUNG 24!原来被猫咬也能索赔!

虽然LINDUNG 24提供广泛保障,但是也有几种情况是不受保障的!

4 hours ago

拿倒垃圾工人「没钱没读书」说教孩子!当事人发文自爆“上下班开跑车”!

香港一名男子日前通过社交媒体发文,表示自己有一次开垃圾车帮忙收垃圾时,遇到了一名家长,对方指着男子要孩子“用心读书,不要好像他那样要倒垃圾,又找不到钱”,让男子错愕不已。他在文中透露,自己其实是清洁公司的高层,平时都是开跑车上下班……

4 hours ago

宜居首选Seremban 2!最抢手公寓IKON Residences:附送全家具+冷气机,别错过了!

许多人在考虑购买房子时,最先关注的往往是价格、户型和装潢。然而,真正影响生活品质的,其实是入住后的日常体验。

5 hours ago