广新网 > 科技 > 智能 > 浏览文章

Facebook推新技术:AI能自动锁定有自杀倾向用户

2018/2/24 8:48:00 来源:网易科技 作者:陶宗瑶 
0

  美国纽约肖托夸县的治安官Joseph Gerace看到过许多自杀行为,在他成为公职人员之前,他最好朋友的父亲就以自杀结束了自己的生命。去年7月一位Facebook安全团队的成员打电话给911中心的调度员称,当地一位居民需要紧急救助。Gerace称:这能够帮助我们提升公共安全。我们不会干预人们的私生活,但是如果出现危险我们就会介入。

  去年8月份肖托夸县当地媒体报道的第一起自杀案例就是由Facebook追踪到的,当时公司收到举报称一位女性在她的Facebook上发出了自杀的信息。多年以来,Facebook都允许内部审核人员对自杀内容进行审查,并且决定是否需要通过自杀预防热线为用户提供帮助,或者在紧急情况下让公司的法律反应团队介入。

  随着技术的不断发展,对于Facebook来说必然存在一种工程学方案来应对自杀行为。大约1年以前,Facebook增加了新技术,能够自动标记涉及自杀意图的帖子供公司审查员进行分析。去年11月份,Facebook已经证实这个新系统已经获得了成效。

  据Facebook称,这个新系统标记的涉及自杀想法的帖子数量已经提升了20倍,收到Facebook自杀预防系统帮助的人数也增加了两倍。公司也一直在对系统的语言和Instagram的自杀预防系统进行升级,但目前仍然处于研发的早期阶段。周三时Facebook也公布了关于这项技术更多的细节。

  虽然表现自杀想法的帖子很少,但自杀是一种很普遍的威胁。据美国疾病控制和预防中心的数据,自杀在美国死亡原因中排名前十,在年龄15到34岁之间的死亡原因中排名第二,仅次于意外伤害。

  Facebook自2013年建立一座人工智能(AI)研究实验室并且雇佣著名的研究人员Yann LeCun作为负责人之后,就开始打造AI人才和技术。实验室已经创造出许多令人印象深刻的技术,比如说借助用户照片识别物体、将文本内容转变成其它语言等等。

  包括亚马逊、苹果、谷歌和微软在内的所有科技巨头都在AI领域投资升级自己的服务和平台。但是自杀预防并非AI研究人员关注的热门话题。曾在雅虎和微软AI部门任职的一位Facebook研究科学家Umut Ozertem称:我从未听说过自杀预防系统,但它让我非常感兴趣。自杀行为曾让我失去了三位好朋友。

  Facebook对于自杀预防的探索已经超过了10年,自杀预防也是谷歌和微软正在进行的事情。比如说,如果有人用谷歌搜索我想自杀,就会出现国家自杀预防热线的电话号码。微软则会在搜索结果中显示救助中心的信息,并且让用户在Xbox线上服务上报自残信息。

责任编辑:admin
版权声明: 凡文章来源为"广新网"的稿件,均为广新网独家版权所有,未经许可不得转载或镜像;授权转载必须注明来源为"广新网",并保留"广新网"的电头及链接。如本网转载稿涉及版权等问题,请及时与我们联系。
阅读延展

精彩

联系我们- 版权声明- 隐私政策- 网站地图