脸书用 AI 反自杀!自动侦测你的贴文,还没写完遗言社工就来

2020-08-01 03:21浏览 : 658

脸书用 AI 反自杀!自动侦测你的贴文,还没写完遗言社工就来

今年 3 月,外媒曾报导Facebook 正在尝试使用 AI 和模式识别等技术以识别具有自杀倾向的用户 。时过 8 个月,这一事情刚刚迈出了重要一步。

雷锋网 11 月 28 日的消息,根据外媒《TechCrunch》28 日报导,Facebook 的新型「主动检测」AI 技术可扫瞄所有发文中的潜在自杀意念,并在必要时将心理健康资源发送给存在自杀风险的用户或他们的朋友,或者联繫当地的紧急热线,以取得协助。

脸书用 AI 反自杀!自动侦测你的贴文,还没写完遗言社工就来

通过使用 AI 来标记存在自杀念头的发文,并将其直接反馈给 Facebook 专门处理此类事件的员工,而不是等待用户报告,此举可减少发送帮助讯息过程的时间。

同时,Facebook 还将使用 AI 优先处理特别危险或紧急的用户报告,以便快速联繫相关员工,并与当地的紧急热线电话组织取得联繫。

Facebook 负责这一产品的副总裁 Guy Rosen 向外表示,这是为了减少整个过程中每一个步骤的时间,特别是在 Facebook Live 中。过去一个月,Facebook 联合紧急救援组织已经发起了超过 100 次的「健康检查」,以拜访可能存在自杀念头或风险的用户。

Rosen 说,在一些情况下,可能紧急救援组织已经到达现场,该名用户还在发文中。

雷锋网了解到,就目前公开的资料来看,Facebook 并没有透露太多关于这一 AI 系统的技术细节,但是该公司称这个系统会主动搜索那些可能是自杀线索的短语或句子,如「你好吗?」、「需要帮助吗?」等等。

为此,Facebook 还投入了更多的员工来参与 AI 预防自杀这一工作,并採取 24 小时全年无休的工作制以处理案件。

同时,Facebook 还与美国一些救援组织合作,当用户的发文被标记出来,且他们愿意选择与其他人对话时,可以直接通过 Messenger APP 与专业人士联繫。截至目前,已有 80 家当地合作伙伴加入其中,如 Save.org、国家自杀预防生命线等。

Rosen 还向外表示,由于该系统在美国已成功测试,于是準备推广到其他国家,让其他国家的 Facebook 用户也能用。他说:「反应速度真的很重要,我们必须及时帮助那些需要帮助的用户。」

不过,Rosen 也表示,由于某些敏感原因,最终会用上这一 AI 系统的国家中可能会排除欧盟国家。

脸书用 AI 反自杀!自动侦测你的贴文,还没写完遗言社工就来

就在昨日(28 日),Facebook CEO Mark Zuckerberg 在一篇文章中也对这次更新的 AI 系统表示讚赏。其在文中写到,「未来,人工智慧将能更多地了解语言的微妙差别,并能识别出除自杀以外的其他问题,包括快速分辨出欺凌和仇恨。」

事实上,其他一些科技公司也在採取类似措施来预防和阻止用户自杀,比如 Google 会在用户搜索自杀相关词彙时显示帮助热线电话等等。

脸书用 AI 反自杀!自动侦测你的贴文,还没写完遗言社工就来

根据一项数据显示,全球每 40 秒就有一人自杀,自杀已成为青少年死亡的第二大原因。基于此,Facebook 利用 AI 技术提前预防用户自杀,或许有可能为这一情况带来一丝曙光。

部分资料 Via techcrunch & mashable,雷锋网编译。


上一篇:
下一篇:

相关推荐

猜你喜欢

申博太阳城_sungame申博太阳城|提供消费分享|生活服务于一体|网站地图 申博官网备用网址_乐虎国际下载客户端 申博官网备用网址_星际游戏平台app