潮声·劝生者③丨捕捉网络里的“求救信号”,他们如何用AI伸出劝生之手?

人工智能
后台-插件-广告管理-内容页头部广告(手机)
编者按:

4月4日下午,张家界天门山景区发生一起“多人跳崖”事件,四人来自不同的四个省份、互不相识,现场留下遗书,遗书中有免责声明。种种迹象,让人们将此事指向“网络约死”。

随着移动互联网和社交媒体普及,2010年前后开始“约死群”在网络世界隐秘的角落里滋长。其中更有人披着网络马甲怂恿,在悬崖边缘推有自杀倾向的人们一把。

“网络‘约死群’基本都是年轻人,本身受了一些挫折,再加上有人怂恿,很容易冲动做傻事。”被称为“网络劝生者”徐世海告诉潮新闻记者。

而天门山景区四青年跳崖身亡背后,我们发现“约死”信息仍在网络肆意游走,仅靠平台监管远远不够。面对潜滋暗长的力量,该如何将步步走向黑暗的他们重新拉回来?潮新闻推出“劝生者”系列,第三篇,我们讲述AI不再是冰冷的技术,一群人通过科技手段在网络主动捕捉求助信号,通过“树洞”射出一道道温暖的光,让渐入黑暗的他们迷途知返。

武汉长江边,年轻女孩刘丽(化名)面对奔腾江水,准备一跃而下结束生命。此时,家人在晚饭时“那你去死,你净给我们添麻烦……”的声音,仍在她耳边萦绕。

突然间,她的手机消息提示音却接二连三响起。她下意识打开手机,微博里收到二三十条私信,都来自陌生的账号,却都是相似的温暖、鼓励话语。这些信息都来自于“树洞行动救援团”的志愿者们。

“不能被动等待求助,要主动去寻找、靠近那些有自杀倾向的人,给予他们需要的陪伴和帮助。”黄智生是“树洞行动救援团”的发起人,他们运用AI算法识别筛选社交媒体上疑似自杀风险的信息,适时展开人工干预行动。至今,已实现救援近6000次。

潮声·劝生者③丨捕捉网络里的“求救信号”,他们如何用AI伸出劝生之手?

树洞救援队的队员正在和有自杀倾向的年轻人对话

分析信息寻找具有自杀倾向者

“我本来以为这个世界上没有人在乎我的生死了,竟然还有这么多人关心我。”那天,刘丽在长江边哭着看完了私信微博内容,默默回了家。后来,她专程给黄智生发去一条感谢短信。

黄智生是深兰科学院医学知识图谱首席科学家、同济大学精神卫生中心特聘教授,荷兰阿姆斯特丹自由大学人工智能系终身教授。从事30余年人工智能研究的黄智生,一直希望将AI技术应用在医疗健康领域。

据世界卫生组织的报告,全球每年超过70万人自杀身亡,而每例自杀死亡背后有超过20次自杀企图。在全球,15至29岁年龄段人群中,自杀是第二大致亡因素。在一些国家和地区,由于对自杀问题缺乏认识,或禁忌公开讨论,很多有自杀想法的人不会寻求救助。

黄智生发现,试图自杀者的会通过社交平台表达自己的情绪和愿望,尤其是在已经自杀离世者的微博评论区。“树洞指的是,有微博用户自杀去世后,其他用户纷纷到他的微博下面表达自己痛苦、无助的想法,比如博主‘走饭’的微博下已经有260万条的历史数据。”黄智生介绍。

“不能被动等待求助,而要主动去寻找、靠近那些有自杀倾向的人,给予他们需要的陪伴和帮助。”为此,黄智生开发了“树洞机器人”,通过人工智能技术抓取并分析微博中的信息,能够主动定位到这些人,并且寻找具有自杀倾向的人。

那天,“树洞行动救援团”根据“树洞机器人”的监控报告,锁定了这位在微博评论区发出自杀信息的刘丽。救援队的志愿者们一边给她发去鼓励安慰的私信,一边联系她的微博好友采取救援,将她从死亡边缘拉回来。

划分10个等级对应自杀意愿强烈程度

互联网正使群体情绪的传播越来越迅速便捷,社交媒体的话题和评论区成为一个个开放的情绪“树洞”。自杀的接触传播和集群效应,尤其容易影响15~24 岁的青年和青少年,其次是25~34 岁的年轻成人。

如何在尊重个人选择的前提下,拉一把站在悬崖边的自杀者?通过社交媒体展开的自杀干预和救援,显得尤为重要。

树洞机器人的运作机制是采用知识图谱技术,巡视这些“藏”在社交媒体中的大型“树洞”。根据自杀相关关键词的词库,机器人可以进行自动检索,识别“树洞”中准备轻生的人,进行风险分级后生成监控通报,筛查出具有明显自杀倾向的人群。监控通报会列举留言时间、留言内容、留言者微博主页链接等信息。

根据语义分析,“树洞机器人”将危险等级分为10级,针对即将付诸行动的5级以上用户,会自动发出预警报告,再由救援志愿者进行人工判断,根据每个人的危险情况予以相应的帮助。

潮声·劝生者③丨捕捉网络里的“求救信号”,他们如何用AI伸出劝生之手?

树洞机器人的运作机制

“我们依据时间紧迫性、手段具体化和表达愿望的强烈程度,将信息划分为十个自杀风险等级。”黄智生表示,关键词词库里收录的也是表示时间和自杀基本手段的词语,比如留言提到“我已经把门窗都关好了,把炭烧起来了,拜拜”。这种正在进行的自杀行为就会被判定为最高的十级风险。

有时候,为了阻止自杀行为,“树洞救援队”的志愿者们会进入到“约死群”了解情况,择机实施救援。

三年前,也是在张家界,“树洞救援队”的志愿者们成功挽留了三个年轻人的生命。他们成功潜入“约死群”,得知有三位青年约定去张家界跳崖的消息,随即把他们的个人特征和约定时间告知张家界管理部门。当天,虽然仍有一位年轻人抵达张家界,但在当地管理部门和警方的联动下也获救。

目前,救援队会每天运行1到3次“树洞机器人”,识别准确率能够达到82%。

可持续的发展与救援

五年来,“树洞机器人”几乎每天会在微博上搜集到数以千计的风险信息,其中,有超过200条等级达5级以上的高风险信息涌现。他们大多是青年,年龄集中于16岁到26岁,女性人数是男性的三倍。

海量的风险信息意味着需要庞大的人力参与实施救援。

树洞救援队浙江分队队员邵明记得,2019年底,南京有个女孩买了大量的药物,准备在一家酒店的酒楼服药自杀,等到“树洞机器人”发现她在微博发布的自杀信息时,距离女孩服下药物已经过去了一段时间。

志愿者们迅速建立小组,邵明拼命地翻看女孩的微博,发现女孩是因为感情问题想要轻生的。他一个个私信和女孩有过互动的用户,希望能获取一些有效信息推进救援。其他志愿者则分头联系警方、当地学校等有关部门进行联动搜救。

“从晚上七点多一直到十二点多都不敢做别的事情,直到她的一位朋友给我发来了救护车到达的照片,当时已经接近一点了。”邵明表示,没有心理学基础或是未经过培训的志愿者是不能直接进行干预的。有时,患有先天性脑瘫的他能和这些有自杀倾向的孩子产生共情:不被周边的环境所尊重和理解,没有什么存在感。“做志愿者之后,我觉得自己平和了很多,生命真的是很多样的”,他告诉潮新闻记者。

目前,北京妈祖仁爱慈善基金会旗下的“树洞行动救援团”拥有超过700位遍布全国的志愿者,其中,100多人是国内精神科或心理学领域的专家主任,200多人是有心理学背景的咨询师,还有很多来自各行各业、经过培训的志愿者。

针对危险级别达8级以上的人,志愿者们会组成5人以上的救援小队展开援助。自杀危机解除后,救援团队也往往会对受助人进行至少3个月的陪伴和观察。长期的精力投入为树洞救援团的可持续发展带来不小的难题。

“没有机构和经费支持,志愿者都是靠一腔热情参加,缺乏持久性动力。”黄智生说,五年来,先后有2000多人带着热情申请加入“树洞行动救援团”,但最终仅三成左右的志愿者坚持到今天,而其中每天处于活跃状态参与救援行动的人只有一两百位。

这意味着,“现实总是力不从心”。每天,尽管“树洞机器人”能快速穿透微博上那些痛苦、绝望的文字,识别出200多条在自杀边缘挣扎的人的信息,但“树洞行动救援团”最多只能向不到十分之一的人伸出援手。

“很多时候,我们无法改变促使当事人对人生绝望的根源,难免会遇到救援成功的对象再次选择轻生的情况。”黄智生无奈地说,但是,志愿者总会期望能和受助人建立更深的情感连接,“这样,在对方想离开人世的时候至少会向我们告别,也就能再次争取到救助他们的机会。”

潮新闻+

潮声·劝生者①|在隐秘角落潜滋暗长的“约死群”,看徐世海们如何狙击?

潮声·劝生者②丨19年接听22万个求助电话,政府干预热线做了什么?

“转载请注明出处”

后台-插件-广告管理-内容页尾部广告(手机)
标签:

评论留言

我要留言

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。