雷锋网消息,据外媒Theverge报道,Facebook目前正在尝试用人工智能和模式识别等技术,帮助识别 可能有潜在自杀货币的用户。
类似的工具早在2015年就曾出现过,不过那里Facebook的做法是让好友标记出异常的图片和状态等。
Facebook的AI会识别帖子中潜在的问题,并在检测到问题后会对用户的好友显示“自杀或自我伤害”的 提醒。目前,AI识别和报告功能仅在美国进行小范围测试。
Facebook还与美国自杀求助热线、美国饮食紊乱协会、危机热线(Crisis Text Line)等一些组织合作,当用户的帖子被标记出来,而且他们选择愿意与其他人对话时,可以直接通过Messenger应用与专业人士联系。这些Messenger程序也在测试中,预计未来会有扩展,提升交流质量。
Facebook Live这一直播服务也集成了自杀预防工具。如果用户发现直播者在说一些令人不安的事,需要帮助,可向Facebook报告。确认后,Facebook会向仍在线的直播者发出关于自杀预防资源的提醒;发出报告的人也会收到提醒,从而以个人的方式为朋友提供辅助资源。
使用被标记的帖子数据,Facebook称会使用AI技术识别各类帖子中的模式,从而确定潜在的自杀信息。当然,公司的运营团队也会审阅帖子内容,并在适当的时候提供帮助资源,即使这一帖子还没被其他用户报告说有疑问。
据统计,全球每40秒就有一人自杀,自杀也是青少年死亡的第二大原因。