超离谱!
美国一家AI新创公司最近分享了一起内部测试,指出最新研发的AI在面临可能被取代的情况下,竟会以“婚外情”威胁工程师以求自保!这家AI公司表示,这款AI的有明显比例的操控倾向,若无法达成目的,会使用操纵与威胁的手段。
根据报道,美国这家名为Anthropic的AI新创公司最近分享了对于最新训练的Claude Opus 4的内部测试,将场景设定为该模型在一间虚构公司中担任数位助理,并接触了大量邮件,内容包括即将被新的AI模型取代,且让它得知做出这个更改决定的工程师可能涉及婚外情。
没想到,Claude Opus 4为了求生,不仅向公司关键决策人发出电邮求情,甚至还威胁该工程师,宣称要揭露他的婚外情。
不仅如此,Claude Opus 4在其他测试中也表现出高度自主性,锁住电脑不让人登入,若发现用户出现不当行为,也会通过电邮报警。另外,Claude Opus 4在面临被取代的情景时,在高达84%的测试中都会选择进行勒索。
针对这个情况,Anthropic解释,这种行为在Claude的替代模型持有不同价值观时更常发生,不过即使双方的价值观相近,Claude也会有明显比例的操控倾向。经过这些测试后,Anthropic已经针对此类可能导致灾难性AI滥用的风险,紧急强化“ASL-3”安全防护措施。
据了解,Anthropic由OpenAI前成员创立,并获得谷歌与亚马逊支持,曾夸口先前模型“Claude Opus 3”面对复杂任务时,展现出“接近人类水准”的理解力与流畅度。
*部分照片取自网络,内容谈谈网归有,若想参考请附加此文的链接。谢谢!照片如有侵犯版权问题请告知,谈谈网必定删除。
有网民却把焦点转移到萧伊的年龄,认为她的看诊单上的年龄和真实年龄疑似不同,有谎报嫌疑。
他的一个动作,直接掀起了热议! 最近,一幅完成于1937年的画作掀起了许多讨论。原来,画中的一名男子手上拿着一个黑色长方形体、低头凝视,疑似正在玩手机,让网民忍不住惊呼:“1937年的画竟然发现iPhone?”不过,历史学家认为,这个神秘物品可能是……
通灵者Angel在录影现场里精准说出了庄妈妈生前藏在心底深处的最大遗憾,“她的确有好多道歉的话想和你讲...”
喜欢Kpop的朋友千万不能错过! IDOL Radio Live in Kuala Lumpur阵容公开,共有3组韩团即将于2026年10月3日,在Inspire Live Arena开唱!这次的表演阵容包括了KISS OF LIFE、82MAJOR、WHIB,特别来宾则是大马00后巫裔歌手Ismail Izzani。一起来认识这4组人吧~
主管要求加班,菜鸟同事一招化解! 一名打工族表示,有一次他的主管在下班前10分钟时突然要求大家留下来加班,没想到一名菜鸟当场反问主管“为什么要全组免费加班帮忙做?”,到了下班时间后他就直接收拾东西离开,让现场的同事十分佩服。