匿名社交应用如何进行内容审核

匿名社交应用的火爆其实并不奇怪。自网络兴起以来，人们一直享受着匿名带来的自由。只是在 Facebook 这样的社交网络兴起后，实名社交才逐渐成为了主流。实名的好处是人们对网上言论更加负责。与此同时，社交网站能够获取真实资料，提供更加精准的广告。但是，实名也有一定的缺陷。在实名的情况下，人们常常发现自己无法畅所欲言，另外，隐私也更多地暴露给他人。在 “棱镜门” 事件之后，互联网用户变得更为关注自己的隐私。匿名社交应用正好迎合了这种趋势。

匿名社交应用给用户们提供了更加轻松的社交环境，但与此同时，匿名带来的问题也很快涌现出来。由于不受实名的限制，用户的言论会变得肆无忌惮，甚至违反道德和法律。Whisper、Yik Yak 和 Secret 等应用，很快发现自己处于舆论的风口浪尖。对付不断增长的网络暴力和色情，初创公司没有足够的人员可以投入，于是，他们把这个任务外包给了专业的公司。

根据 GigaOM 网站的了解，Whisper、Yik Yak 都把内容审核的任务交给了 TaskUs，一家工作地在菲律宾的公司。Whisper 使用 TaskUs 的服务已有两年，Yik Yak 是几周前开始的，而 Secret 也打算使用该公司的服务。目前，Secret 内容审核外包给旧金山的 Metaverse Mod。

对于这些初创公司来说，内容审核是一件非常棘手的事情。如果不能成功制止网络暴力和色情，匿名社交应用很可能会失败。一些匿名网站的失败已经提供了先例。

目前来说，内容审核仍然是大量依赖于人工，成本较高。为 Whisper 服务的审核员有 130 人，内容审核手册接近 30 页。审核员关注两方面的内容，一是用户举报的内容，二是机器检查出的内容。他们删除恶意内容，把网络暴力言论变为待审状态。当发现有自杀的言论时，他们会打上水印（国家预防自杀热线的号码）。

当 TaskUs 发现实际威胁时，会把信息发给 Whisper。“如果有人说，‘我会杀了她，埋在后院’，那么，这样的内容就通报给警方，” TaskUs CEO Bryce Maddock 说，“他们会从 Verizon 或 AT&T 那里获取你手机的 UID，FBI 和本地警方会出现在你家门口。这样的事情很多。”

网络暴力比较难定义，有时需要依赖主观的判断。另外，某些言论在针对公共人物时候，是可以接受的，但是针对私人则是不被接受的。TaskUs 员工对某个名字不确定时，使用 Google 搜索或者维基百科。

对于初创公司来说，内容审核的成本是很高的，而且也不是一个可持续的方法。Whisper 正试图从技术上解决问题，而 Secret 也在寻找类似的方案。不过，从测试的结果来看，Secret 的审核系统仍然不够智能。对此，Secret 的 CEO David Byttow 表示，他们会改进自动检测算法，同时增加其他的外包公司。

“匿名是一件强大的事情。能力越大，责任就越大，” 他说，“搞懂这些问题，是我们获得长期成功的关键，但是，这也是一个很难解决的问题，我们正在尽自己最大的努力。”

图片来自 mercurynews