我们与恶的距离或许比想象中更近。

　　3月22日，一名代号“博士”（真名赵主彬）的男子被韩国警方拘捕，揭开了一个隐藏在网络角落的大型犯罪“暗地”。

　　从2018年开始，一个网名为“Godgod”的人便开始在推特上寻找他眼中的“性感”女性照片，冒充警察威逼利诱受害者们拍摄裸照，再用这些照片威胁受害者，对受害者实施性剥削，并在Telegram上的聊天室发布这些性剥削画面供会员观看并收取会费。

　　被收费进入的会员更加变本加厉的提出各种变态要求，“Godgod”也一一满足，一时间要求加入聊天室的人也变得越来越多，很快地聊天室也从唯一的1号房扩展2号房、3号房……，这也是N号房的由来。

　　随着加入的人越来越多，团伙还根据发布的内容建立不同的房间，“女教师房”、“女护士房”、“女中学生房”，甚至还有“女童房”。

　　平均每个聊天室有3到4个受害者，而一个聊天室里有300到700个观看者不等，当受害者开始反抗时，他们便利用掌握的个人信息去威胁受害者，让她们“一辈子都活在这种恐惧之中”。

　　去年7月，赵立彬创立了第二个N号房，并利用自己的手段将整个犯罪体系变得更加完善，手下有大量的志愿者给他工作，受害人数也变得更多。

　　截至2020年3月22日，韩国警方所掌握线索的被害女性多达74人，其中16人为未成年人，最小年龄受害者为年仅11岁的小学生，甚至有不止一名女性因为不堪羞辱，而选择自杀身亡。

　　直到今年初，2位作为卧底一直潜伏在n号房内部的大学生卧底记者在收集到足够的证据之后向警察举报了N号房，才把这令人发指的犯罪事实详细地报道出来。

　　更令人震惊的是，参与过Telegram N号房的观看者超过26万，占了韩国目前男性的1%。但除了最终卧底的记者，在长达3年的时间里，没有任何一个参与者挺身而出，举报这一可怕的组织。

　　一些韩国民众认为，在房间里观看的每一个人都是杀人犯——26万会员对犯罪行为袖手旁观，因此向青瓦台发出请愿，要求公开“博士”犯罪集团成员以及所有“N号房”会员的身份和照片。

　　受害者迹象？AI技术能做什么？

　　“N号房”事件持续发酵，让人们再次感受到了比任何电影剧情都可怕的人性之恶，也掀起了对互联网犯罪和技术平台使用的全民反思。

　　尽管很难找到共性，但网上侵害在发生之前，依然会发生一些行为迹象：问一些隐私性的问题：频繁询问你住在哪儿，你和谁住在一起，那么这就需要注意了。恭维你：奉承和许诺或许是侵害行为的苗头，例如有人说可以帮助你当模特或明星。说服你私聊：侵害者通常试图说服受害人离开普通聊天室或大众社交媒体，通过短信或更私密的工具私聊。向你索要照片：一旦这些侵害着有了照片，他们就能利用受害者。

　　对于执法者和父母来说，手机和聊天工具的隐蔽性让他们很难直接获取这些迹象，但如果技术公司能够将相关“敏感词”及“警告程序”加入侦查过程，或许能够在悲剧发生前进行预先警示。

　　2018年下半年，微软组织了一次黑客编程马拉松大赛（hackathon），Facebook、谷歌和在线游戏巨头Roblox等公司的工程师与法律专家均参与其中。大赛的初衷就是构建能够有效检测这些“互联网捕食者”的AI工具，以及建立起受害方的信任。

　　为了能够理解更好地理解线上女性/儿童捕食者的套路，团队分析了上万条儿童捕食者与未成年人的会话，系统能够在要求儿童离开平台进入一对一的对话模式时，会发出提示音以示警告。

　　在黑客编程比赛之后的几个月内，微软与Roblox和及时通信服务提供商Kik在内的其他公司进行了进一步的合作，来优化AI工具，使它能基于特征对两人的对话进行评估和评级，并对其指定风险等级，如果风险足够高，这些会话将被发送给AI审核。

　　如果系统识别到有侵害未成年人人身安全的风险，例如提到了私下会面等，AI将通知当地的执法机构，在大多数案例中，被标记的会话会报告给NCMEC（National Center for Missing & Exploited Children，美国国家失踪与受虐儿童援助中心）。

　　微软首席数字安全官Courtney Gregoire说：“如果考虑要如何解决这个问题，我们已经能做到反应和报告，但还不能实现预防。”

转载请注明出处。