今年3月,外媒曾报道 Facebook 正在尝试使用AI和模式识别等技术以识别具有自杀倾向的用户。时过8个月,这一事情刚刚迈出了重要一步。
雷锋网11月28日消息 据外媒 TechCrunch 28日报道,Facebook 的新型“主动检测”AI技术可扫描所有帖子中的潜在的自杀念头,并在必要时将心理健康资源发送给存在自杀风险的用户或他们的朋友,或者联系当地的紧急热线,以获取帮助。
通过使用AI来标记存在自杀念头的帖子,并将其直接反馈给Facebook专门处理此类事件的员工,而不是等待用户报告,此举可减少发送帮助信息的过程的时间。
同时,Facebook还将使用AI以优先处理特别危险或紧急的用户报告,以便快速联系相关员工,并与当地的紧急热线电话组织取得联系。
Facebook负责这一产品的副总裁 Guy Rosen 向外表示,这是为了减少整个过程中每一个步骤的时间,特别是在Facebook Live中。过去一个月,Facebook联合紧急救援组织已经发起了超过100次的“健康检查”,以拜访可能存在自杀念头或风险的用户。
Rosen说,在一些情况下,可能紧急救援组织已经到达,该名用户还在发帖中。
雷锋网了解到,就目前公开的资料来看,Facebook并没有透露太多关于这一AI系统的技术细节,但是该公司称这个系统会主动搜索那些可能是自杀线索的短语或句子,如“你好吗?”、“需要帮助吗?”等等。
为此,Facebook还投入了更多的员工来参与AI预防自杀这一工作,并采取7×24小时的工作制以处理案件。
同时,Facebook还与美国一些救援组织合作,当用户的帖子被标记出来,且他们原意选择与其他人对话时,可以直接通过 Messenger 应用与专业人士联系。截至目前,已有80家当地合作伙伴加入其中,如Save.org、国家自杀预防生命线等。
Rosen 还向外表示,由于该系统在美国已成功测试,于是准备推广到其他国家,让其他国家的Facebook用户也用上。他说:“响应速度真的很重要,我们必须及时帮助那些需要帮助的用户。”
不过,Rosen还表示,由于某些敏感原因,最终会用上这一AI系统的国家中可能会排除欧盟国家。
就在今日,Facebook CEO Mark Zuckerberg在一篇文章中也对这次更新的AI系统表示了赞意。其在文中写到,“未来,人工智能将能更多地了解语言的微妙差别,并能识别出除自杀以外的其他问题,包括快速识别欺凌和仇恨。”
事实上,其他一些科技公司也在采取类似措施来预防和阻止用户自杀,比如谷歌会在用户搜索自杀相关词汇时显示帮助热线电话等等。
据一项数据显示,全球每40秒有一人自杀,自杀已成为青少年死亡的第二大原因。基于此,Facebook利用AI技术提前预防用户自杀,或有可能为这一情况带来一丝曙光。
部分资料Via techcrunch & mashable,雷锋网编译