Categories: 话题

价值观有问题?AI怕被新系统取代,竟以揭露婚外情「威胁工程师来自保」!

超离谱!

美国一家AI新创公司最近分享了一起内部测试,指出最新研发的AI在面临可能被取代的情况下,竟会以“婚外情”威胁工程师以求自保!这家AI公司表示,这款AI的有明显比例的操控倾向,若无法达成目的,会使用操纵与威胁的手段。

(图片来源:网络)

根据报道,美国这家名为Anthropic的AI新创公司最近分享了对于最新训练的Claude Opus 4的内部测试,将场景设定为该模型在一间虚构公司中担任数位助理,并接触了大量邮件,内容包括即将被新的AI模型取代,且让它得知做出这个更改决定的工程师可能涉及婚外情。

(图片来源:网络)

没想到,Claude Opus 4为了求生,不仅向公司关键决策人发出电邮求情,甚至还威胁该工程师,宣称要揭露他的婚外情。

(图片来源:网络)

不仅如此,Claude Opus 4在其他测试中也表现出高度自主性,锁住电脑不让人登入,若发现用户出现不当行为,也会通过电邮报警。另外,Claude Opus 4在面临被取代的情景时,在高达84%的测试中都会选择进行勒索。

(图片来源:网络)

针对这个情况,Anthropic解释,这种行为在Claude的替代模型持有不同价值观时更常发生,不过即使双方的价值观相近,Claude也会有明显比例的操控倾向。经过这些测试后,Anthropic已经针对此类可能导致灾难性AI滥用的风险,紧急强化“ASL-3”安全防护措施。

(图片来源:网络)

据了解,Anthropic由OpenAI前成员创立,并获得谷歌与亚马逊支持,曾夸口先前模型“Claude Opus 3”面对复杂任务时,展现出“接近人类水准”的理解力与流畅度。

资料来源:星洲日报TVBS

*部分照片取自网络,内容谈谈网归有,若想参考请附加此文的链接。谢谢!照片如有侵犯版权问题请告知,谈谈网必定删除。

小红帽👒

Recent Posts

跳槽可以加薪45%,公司以「加薪20%+升职机会」挽留他!大马打工仔犹豫了!

面对两个选择,你会怎样选? 一名大马打工仔日前通过Facebook社交媒体匿名投稿,表示自己找到了一份新工作,薪水能增加45%。原本他是毫不犹豫要跳槽的,但公司却开出了条件挽留他,让他开始犹豫……

3 hours ago

偶像形象全毁!王子邱胜翊“憋气伪造血压指数”逃兵役!检方痛批“态度恶劣”求刑超过2年!

为制造符合免役标准的血压数据,他依指示前往医院量测时刻意憋气,使血压数值升高。

4 hours ago

省吃俭用终于买房!TVB绿叶王送80岁母亲迟来的礼物!网民大赞真孝子!

他在社交媒体上开心报喜,透露终于为妈妈送上一份“很迟的礼物”,并正式成为业主。

5 hours ago

打工仔天天准时下班遭同事挖苦!老板把他叫进办公室!得知原因后泪目!

天天准时下班,原来是因为…… 本地一名老板分享办公室故事,表示他有一名员工不论同事是否在忙、老板是否还在办公室,只要下班时间一到,就马上收拾东西回家。后来,他把这名员工叫进办公室,才知道背后的原因……

5 hours ago

被嘲笑简陋却感动所有人!《牛来》导演包办制作,母亲献唱片尾曲!母子俩咬牙坚持5年故事超催泪!

信雨萌说,自己小时候看了特别多的动画片,特别喜欢这些动画作品,觉得自己有潜力和功底来完成!

6 hours ago

升糖快、热量高!这4类面包「吃完最易发胖」!简直是热量刺客!

面包是许多人早餐或下午茶的便捷首选,但在诱人的香气背后,其实潜藏着惊人的热量。 如果你正在控制体重,以下 4 类面包建议谨慎选择。

6 hours ago