让人工智能探测高危信息

树洞接济行动堪比刑侦现场。

“5月1日要去自尽”，2018年4月28日，女孩北北发布的微博引起了树洞接济队的把稳。

她是谁？她现在状态如何？她在哪里？她的家人是否知道这种情形？在她轻生前找到她，这是团队亟待办理的问题。
“树洞行动”发起人黄智生赶紧在医学人工智能群里呼吁接济。

几百个人开始解读女孩的公开信息。
由于供应给警方的只有一个姓名和从电影票里确认的位置，警方没有办法联系到她。

“我活这么大一贯没人给我送花，男孩子跟我在一起也只是想玩一玩，没有人至心爱我。
我这个人便是这么差，我不配活在这个天下上”，看到这条微博，数据剖析师推断，女孩可能是由于感情问题想不开。

所幸，数据剖析师创造了疑似女孩前男友的电话号码。
接通是在第二天早上，整整一夜，接济团都在试图联系男孩。

“你的女朋友立时就要自尽了，你赶紧去救救她”，生理老师不断劝解男孩，终极，男孩供应了女孩的基本信息：名字，地理位置，学校。

4月29日早上，树洞接济队联系到了女孩所在学院的党委布告，党委布告联系到了女孩的家人。

5月1日，女孩还活着，她在微信里跟树洞接济队的成员说，“便是可能负面感情一下子集中在这段韶光，有点承受不来”“会好起来的”。

并不是所有的被救助者都会表达感激之情。

一个吞下大量安眠药江西省某医院抢救过来的男孩醒来后，质问他的母亲、年夜夫和树洞接济队：“你们为什么要救我，怎么不让我去去世？”

“有一些人很绝望，认为接下来是无穷无尽的痛楚，自尽对他来说是一个最大略的办法。
你去滋扰他，他是不愿意接管的”，黄智生说，“他以为你把我救下来，可是你并没有帮助我办理问题，你不能代替我个人的痛楚体验，你只是说不要去世。
”

不过，黄智生把社交平台上的留言视为一种求救旗子暗记。
“如果他真的绝望，就会直接选择去世亡。
既然末了时候在网络留下声音，就代表着贰心存一种希望。
”

与仅对高风险紧急行为进行接济的树洞接济队不同，中科院行为科学重点实验室朱廷劭团队利用人工智能技能检索出有轻买卖念的微博信息，再通过发送私信进行早期干预和救助。

据《中国新闻周刊》宣布，朱廷劭团队曾向4222名有过自尽意念表述的群体发送参与调查约请，终极有725人回答。
78%的人表示不反对收到私信，并且希望涌现生理危急时能得到专业的帮助。
“大部分人还是希望得到救助的”，朱廷劭对隐私护卫队表示。

生命安全与个人隐私之争

黄智生说，树洞接济队没有走任何法律不许可的手段去得到他人的信息，统统信息来源都是公开渠道。
“我们知道个人隐私必须得到保护，你不能给他人带来骚扰。
但是如果要避免自尽，必须准确地知道这个人是谁。
这本身很难处理得非常准确”，他表示。

在北北的案例中，树洞接济队沟通组曾第一韶光联系微博索要北北的个人信息，被对方以保护用户隐私为由谢绝。

这样的事不止一次发生。
有一次，树洞接济队创造北京的一位用户有高风险自尽方向，索要详细信息时，同样被微博以保护用户隐私为由谢绝。
微博称已将情形上报给北京网警，但后来事情不明晰之。

“我个人理解，对这种情形,平台一样平常也不敢贸然直接参与，由于涉及到隐私问题。
同样，平台也不能把信息给司法部门以外的机构。
万一出了问题，就更繁芜了”，一位社交平台员工见告隐私护卫队。

现任都城医科大学附属北京安定医院院长、国家精神生理疾病临床医学研究中央主任王刚曾对媒体表示目前，中国尚无《自尽接济法》等国家层面的干系法律，自尽干预行为的正当性与合法性没有保障。

能作为法律依据的彷佛只有《中华公民共和国精神卫生法》第28条：疑似精神障碍患者发生侵害自身、危害他人安全的行为，或者有侵害自身、危害他人安全的危险的，其近支属、所在单位、当地公安机关应该立即采纳方法予以制止，并将其送往医疗机构进行精神障碍诊断。
但干预的权利限定在近支属、所在单位、当地公安机关。

“我们只是预警，末了通过警方或家人进行干预”，黄智生认为，这条法律是说侵害别人弗成，侵害自己也弗成。
只要确认自尽正在进行中，每个人都该当站出来去阻挡，“是社会伦理哀求你这么做的，这时候生命安全高于个人隐私，乃至高于很多道德规范。
”

但他意识到，自尽干预确实面临争议。
为了只管即便保护当事人的个人隐私，他把接济队的参与限定在自尽正在进行的情形。
如果当事人有自尽意念但没有实际行为，或者当事人认定他人的救助是一种骚扰、谢绝沟通，那么该当尊重对方，立即停滞接济。

他举了一个普通易懂的例子：一个男孩创造一个女孩爬到江边的大桥要跳下去，男孩立时跑去抱住她，不让她跳。
反对者可以说男的不能随便抱女的，但在拯救生命的过程中，就不能考虑基本的伦理了，由于在那个当下，拯救生命是优先的。
个人隐私也是同样的道理。

“树洞接济队站在生命安全的角度，认为平台该当超越个人隐私，供应用户的个人信息。
但站在平台的角度，树洞是第三方机构，给他们供应用户个人信息也是有风险的，以是一样平常不会供应”，前述平台员工称，碰着类似的情形，客服会优先处理、联系监控职员，再上报公安。

“我们宁肯冒这样的风险”

据新浪科技宣布，2017年1月，一名年仅 12 岁的女孩称由于受到家庭成员性虐待，决定吊颈自尽，她用社交媒体平台Live.Me 直播了全体过程。
多达数百万人通过Facebook看过她自绝画面。

2017年3月，为建立更为安全的社区，Facebook开拓出用人工智能识别轻生方向的监测软件。
检测到问题后，社区团队会对帖子进行审核，与有潜在自我侵害风险的人联系，建议他们寻求帮助。
同时，人工智能会针对用户亲友突出显示“自尽或自我侵害”报告，让亲友们意识可能存在问题。

当用户帖子被标记出来，且当事人乐意与他人对话时，Messenger 可作为连接“危险用户”与专业人士的桥梁，美国自尽乞助热线、美国饮食紊乱协会、危急热线等组织都将供应干系帮助。

“作为互联网的从业者，我也以为大平台该当主动在这方面采纳一些方法。
觉得互联网平台都该当有这个责任”，前述平台员工说。
但他有现实的顾虑：太多的信息，真假难辨，对各个环节来说，核实本钱都非常大。

树洞接济队形成了一套自己的剖断方法。
当机器人检测到具有高风险的用户时，树洞接济队首先会判断信息的真假，确认自尽是否正在进行。

仅依赖当天发布的微博信息是不足的，还要看用户是否在较永劫光内不断表达自尽的意愿以及周边朋友的反馈。
“从不同渠道得到的独立信息都指向同一行为时，我们才会确认这个事情真的要发生”，黄智生见告隐私护卫队。

纵然是这样，也不能打消错判的可能性。
“如果信息是虚假的，就带来风险。
他会说你给他带来了骚扰，可能会引起法律上的麻烦”，黄智生说，“这时候到底是怕惹上官司就不去救人，还是说我宁肯救人？”

他以为，如果麻烦真的来了，接济队有勇气承担。
从良心出发，让大家负责谈论全体过程，相信社会会站在他们一边。
“我们没有任何经济或名利的目的。
在最危险的时候，我们宁肯冒这样的风险，也要拯救你的生命。
”

不过，也有评论认为，目前的情形下，有效的路子是，第三方接济机构该当寻求官方机构的背书，跟平台互助，推动各方力量把接济机制建立起来。

“陵犯隐私的风险是值得的”

天下卫生组织的统计显示，每年约有80万人去世于自尽，每40秒钟就有一人去世亡。
自尽在全体生命过程中都有可能发生，是2012年环球15-29岁人群的第二大去世因。

但是，在欧美地区，Facebook 的救助算法也面临争议。
2018年5月，欧盟《一样平常数据保护条例》正式履行，对公民个人信息保护做了严格规定。
此后，Facebook不再扫描和检测欧盟用户的帖子内容。
有专家认为，Facebook该当为用户退出选项，保障用户的选择权。

Facebook曾在一份声明中称，“在预防自尽方面，我们努力平衡人们的隐私和安全。
虽然我们的努力并不完美，但我们决定尽快为须要帮助的人供应资源。
我们理解这是一个敏感问题，因此我们有一些隐私保护方法。
”

在Facebook的打算中，陵犯隐私的风险是值得的。

纽约大学医学院儿科生理康健伦理学系主任Kyle McGregor接管媒体采访时，对此表示认可。
“我们成年人有任务确保孩子战胜发展期间的困难，过着快乐、康健的生活。
如果我们有可能准确、有效地防止一两次自尽，那是值得的。
”

中国的形势彷佛显得更为严厉。

据官方早期公布的数据，中国自尽率是国际均匀数的2.3倍，均匀每两分钟就有1人去世于自尽，并有8人自尽未遂。
自尽是中国15-34岁人群第一位主要的去世亡缘故原由。
近日，上海17岁男孩跳桥事宜再度引发人们对青少年康健问题的关注和热议。

2017年，天下卫生组织生理危急预防研究与培训互助中央主任、北京回龙不雅观医院院长杨甫德在接管《生命时报》采访时称，世卫组织和联合首都哀求成员国有国家层面的自尽预防操持，但中国还没有完全的国家性自尽预防体系。
他认为，应尽快出台国家层面的自尽预防操持。

“我们知道相称多的人（想轻生），不同渠道，比如QQ、微信上，看到的信息很多。
”黄智生说，不知道当事人要轻生，心里会还好受一点，但如果真的创造却没有能力救，实际上更痛楚。

他期盼树洞行动早日形成公益品牌，得到政府和公安机关的认可。
“我们形成品牌了，官方他们可能乐意建立一种正规性的联系，约定一个互助的模式，这样我们以挽救更多的人”。

黄智生透露，微博已经同树洞接济队打仗，磋商互助模式。

（文中北北为化名）

采写：南都演习生韩晓丹 冯群星