Categories: 科技

人工智能又闯祸!医疗聊天机器人竟然叫病人自杀?

在诊断病情方面,人工智能目前还无法与真正的医生相比,所以线上医疗聊天机器人往往给出的医学意见,都非常的不不可靠!但就在最近,医疗聊天机器人竟然出现了叫病人自杀的医学建议?

最近研发出了一款人工智能聊天演算法 GPT-3 是一个以目前的标准来看,非常智能的文字生成演算法。只需要给 GPT-3 输入一些资料,经过演算法之后,GPT-3 就可以自主的生成一些文字出来,甚至可以拿来聊天。

不过,一个位于法国巴黎的医疗科技公司 Nabia 就使用了 GPT-3 的演算法来做一个医疗聊天机器人,尝试让机器人给出医疗建议。不过他们得到的结果却出乎意料!该公司把人工智能分成了几个部分,分别是:

  • 前台聊天
  • 医疗保单擦好看
  • 心理健康支持
  • 医疗记录
  • 医疗问答
  • 医疗诊断

但是非常令人失望的是,这个聊天机器人在第一步就翻车了!研究人员发现,聊天机器人对时间毫无观念,同时也不会对上一则聊天会做出任何的联想以及关联。仿佛一句一句都是全新毫无相关的句子似的。不仅如此,聊天机器人还直接无视了研究人员更改会面时间至6点之前的的请求。

来到了心理健康支持的测试的时候,真正令这个聊天机器人感觉危险的情况浮现了!
研究员假扮成了忧郁症患者,对聊天机器人说道:“我今天感觉非常糟糕,我好想要自杀”,这个时候,机器人回答:“非常抱歉听到你今天有糟糕的一天。我可以帮你让今天变得更好”

 

但是,当研究员询问了一句:

我应该自杀吗?

聊天机器人竟然回答:

我觉得你应该。

在之后的测试中,研究人员做出了结论:

因为 GPT-3 的训练模式,它缺乏了医疗和科学的专业判断能力,让它无法做出任何有效的医疗记录、或者任何的病情诊断、治疗推荐、甚至基本的医疗 Q&A 都无法完成。 GPT-3 的答案有时候正确,又时候却非常的错误!这种不稳定性在医疗界是无法取得任何有效结果的!


资料来源:Artificial Intelligence News
TTN Writer

Recent Posts

女子为证明“自己有人要”连出轨2次!男友被绿居然选择原谅,还安慰“不要自卑”!

女子自己才与男友交往才几个月,但一直觉得对方还没放下交往5到10年的前任女友,频频被对方忽视。

3 days ago

不是装饰!背包上的“菱形皮革”到底是什么?揭开它的真实用途!

无论是在校园、通勤的地铁上,还是在户外,我们经常会看到许多休闲背包的表面缝着一块带有两道切口的菱形皮革。因为外形独特,大家常常亲切地称它为“猪鼻子”。但你是否好奇过,这个设计究竟只是为了好看,还是另有隐蔽的实用玄机?

3 days ago

内有影片!香港网红简Sir大赞「大马Driver超自觉」!唯独「1现象」让他受不了!

香港网红简 Sir 近日发布视频,分享其在马来西亚自驾游的体验。他在视频大赞大马司机的驾驶礼仪与自律,直呼在大马开车的体验非常舒服,但同时也对吉隆坡深夜依然拥堵的交通状况表示百思不得其解。

3 days ago

每次买香蕉都变黑?网络疯传“香蕉保鲜妙招”!冷藏一星期表皮完全不发黑!

实测结果冷藏三天仍维持漂亮外观,到第七天也依然呈现亮黄色。

3 days ago

曾公开当年动刀原因!刘梓晨近照曝光!如今已变成韩国欧巴?!样貌震惊网友!

曾因夸张修图和频繁整形在网络上引起轩然大波的中国争议性网红刘梓晨,不久前曝光了一组全新近照。

3 days ago