Categories: 科技

AI也开始说谎?“AI教父”亲手打造「1系统」!防止AI欺骗人类!

AI教父开始出手了?

被誉为“AI教父”的图灵奖得主本吉奥宣布成立LawZero,旨在为迅速发展的生成式AI 建立一道安全防线,防范潜在技术失控和恶意滥用。

(图片来源:网络)

日前,本吉奥宣布成立非营利组织LawZero,其首要目标是开发“科学家AI”。这是一种经过特殊训练的AI,可以作为护栏,确保其他AI行为正常。这一设计旨在解决当前AI 系统因目标对齐问题引发的潜在失控风险,例如AI为达成任务目标而采取欺骗或破坏手段。

(图片来源:网络)

本吉奥认为,赋予AI类似人类的自主权很容易被用于恶意目的,例如虚假信息、生物武器和网络攻击。他说道:“如果我们失去对流氓超级智能AI的控制,它们可能会极大地危害人类。”

(图片来源:网络)

这位图灵奖的获得者表示,LawZero的首要任务是验证方法论的可行性。团队计划从开源AI模型入手,通过训练使“科学家AI”逐步适应前沿技术的发展节奏。他强调:“作为护栏的AI至少要与被监管的AI智能体一样智能”,否则将无法有效应对快速进化的风险。

(图片来源:网络)

据了解,该组织目前拥有超过15名研究人员,并获得由谷歌前老板施密特和夫人温迪创立的慈善机构施密特科学的资助。

新闻来源:星洲日报

*部分照片取自网络,内容谈谈网归有,若想参考请附加此文的链接。谢谢!照片如有侵犯版权问题请告知,谈谈网必定删除。

TTN Intern

Recent Posts

【一起谈心事】我把30岁,亲手送给最勇敢的自己

当“癌症”这两个字被说出口的那一刻,我的脑袋一片空白。

8 hours ago

果粉快关掉!网民爆iOS 27新功能“连线辅助”超级耗电!手把手教你关掉!

当关掉连线辅助功能后,使用时间就增至7小时,提醒大家“除非绝对必要,否则请关闭iOS 27中的连线辅助功能。

15 hours ago

30岁男跟网上教学垫枕头舒缓腰痛!隔天醒来竟双腿瘫痪、大小便失禁!医生警告3类人切勿尝试!

他看到短影音教学,跟著在腰臀下方垫枕头睡觉,没想到隔天醒来竟双腿麻木、无力到完全站不起来

17 hours ago

震惊全网!千万级YouTuber严重翻车!涉嫌夜店摸女子「1部位」!公司回应了!

曾在日本创下最快突破千万订阅纪录的知名 YouTuber Vambi 于 2026 年 10 月 1 日因涉嫌猥亵女性,遭日本警方以现行犯逮捕。消息一出,立刻引发热议。

17 hours ago

网红高调炫富「展示黄金&现金」!家中RM42万财物被搬空!警方这样说!

印度一对网红夫妻因频繁在社交媒体高调炫富,展示成套金饰和大笔现金而闻名,在各大社交平台上累计超过45万追踪者。没想到,炫富影片疑引来窃贼觊觎,近日他们的豪宅遭洗劫,盗走了1公斤黄金、钻石首饰及现金,财物总损失估值近1000万印度卢比(约RM42.5万)。

17 hours ago

总觉得有人暗中搞鬼?教你用ChatGPT算塔罗!看出你身边的阴险小人!

在职场或人际交往中,我们最怕的不是明面上的冲突,而是那种“阴阳怪气、暗箭难防”的窒息感。当感觉自己遇到小人时,我们往往容易陷入自我怀疑,导致判断力下降,反而给了对方可乘之机。

17 hours ago