专栏观察

子弹短信的苦恼,平台治理的难题

罗永浩很生气,后果很严重。这次是因为子弹短信遭遇垃圾信息攻击。子弹短信作为即时通信工具,不可避免地遭遇了微信、微博们同样面临的问题。

事实上,微信、QQ、微博等社交平台都无法避免这个问题。而且你可以会发现,子弹短信大部分垃圾信息都是让你去加他的微信。

在互联网平台治理这个问题上,我经常举这样一个例子:

你在马路上因为石头绊倒了,不能因为政府才是修建马路、维护马路的主体,就因此去追究政府的责任。

这个例子拿在互联网平台上同样适用。当然,这并不意味着企业可以完全忽视平台治理。事实上,和政府部门积极互动,自我加强监管,形成好的平台治理,这是企业承担公共社会责任的最佳体现。

罗永浩的愤怒

两天前,子弹短信开发方快如科技发布微博公告称,刚刚过去的周末,子弹短信遭遇了一场有组织的大规模垃圾信息攻击,信息中包含了大量赌博与色情信息广告。

9月1日和9月2日的垃圾信息量分别达到632019条和493161条,是8月31日的26倍和21倍。快如科技和技术支持方网易云信连续堵截了四五十个小时,采用技术手段加人工审核的方式,才基本遏制住了垃圾信息的蔓延。

这里面所说的技术手段大概是这几点:

比如色情广告敏感文字识别,结合语义分析和聚类分析,通过定制模型精准识别涉黄文本;

比如一些色情广告铭感图片,则是结合OCR处理技术,以及大数据、机器学习技术过滤识别图片样本。

罗永浩在转发快如科技的微博时言辞愤怒称,“下这种黑手是没用的,把我惹火了,小心被西门子。”

罗老师还是这样快意恩仇。事实上这个问题我在子弹短信诞生的第二天我就发现了,只是当时程度比较轻。

坦率说,在注册子弹短信后的第二天,我也遇到了垃圾信息。一个头像上面写着“征婚” 二字的“美女”给我打招呼,留下了自己的微信号。

不用多想,她要么是卖片的,要么是卖身的。于是顺手关掉了允许周边的锤友打招呼这个功能。

这时我意识到,子弹短信可能即将要面临着和搜索引擎、QQ、微信、微博一样的难题——不良信息与平台治理。

实际上,这已经是互联网平台发展至今最大的难题。网络和物理空间是我们同时面临的两大生存空间。网络社会改变了社会结构,形成了与现实社会并存的社会存在新形式。

子弹短信上那些垃圾信息你在其他地方其实也能看到。比如说,你可能会在百度搜索引擎上看到假医院的医疗推广,你可能会在QQ群里看到一群相约自杀的少年,你可能会在微信群里发现一群人聚众赌博,你甚至还会发现微博上有美女兜售黄片。

随手截几张图吧:我可以在微博、百度上找到卖片的美女,顺手加了她的微信,然后就可以付款问她要黄片。

平台治理的难题

平台治理永远都是互联网平台需要面对的一大难题。

子弹短信上出现垃圾信息攻击这个事情,并非子弹短信团队无法杜绝。而是目前全行业都难以杜绝。不管是什么平台,搜索引擎、QQ、微信、微博等平台,凡是允许用户上传信息的平台,想要杜绝用户去散播不良信息是很困难的。

打个不恰当的比方吧,子弹短信、搜索引擎、QQ、微信、微博这些平台就像是个社会。说句浅显的话,现实世界中有多少坏人,网络世界你也可以看到多少坏人。

你在网络社区中遵纪守法,可难免别人不遵纪守法,甚至他们的技术更高明。

比如微信诈骗,很多犯罪份子是在网上购买“黑号”, 专案专用、用完即弃, 人号分离”、人机分离。窃取数据是一批团伙,洗库、撞库是一批团伙,数据商人卖给下游是一批团伙,直接实施诈骗的又是另一批团伙。

你在微博、微信上看到的那些卖片党,实际上背后往往是一家家组织严密的企业,有开发,有运营,有商务,有的团伙甚至为了切断证据链,最大程度规避法律风险,把不同的工作内容分散在不同公司。

再拿百度搜索引擎上的虚假医疗广告来说,用户搜索公立医院时往往会采用简称或是俗称,但简称和俗称搜索引擎没办法完全识别,容易会被仿冒或阻截。

一些公立医院会有民营的“外包科室”,也会打着公立医院的旗号在外做宣传,在互联网上真假难辨。正规医院网站有时候甚至会被黑客用各种手段流量劫持、伪造DNS服务器、篡改地址,把用户指向错误的网站,这个网站很可能就是不良医疗机构。

连腾讯、百度、微博这种与垃圾信息奋战多年的大佬都不能完全杜绝自己的平台上有虚假、垃圾信息,更何况是刚刚上线不久的子弹短信。

可见,子弹短信之后的的挑战依旧任重道远。

当然,不能杜绝并不意味着不要管理。信息平台其实就是马路、社会,马路上的车祸是不可能杜绝的。路管部门能做的事情就是修好红绿灯、斑马线。社会上的犯罪事件也是不可能消除的,管理部门要做的事情就是依法行事。

至于垃圾信息这件事情,企业能做的事情就是,尽量把保护措施做好,提供举报入口,通过AI技术来做反垃圾信息,给自家平台装上云服务,通过智能云检测来排除黄色、暴力、恐怖、敏感、广告等敏感消息。

避风港与社会责任

平台治理永远都不是简单的一劳永逸的问题,而是发现、处理,再发现、再处理,不断在矛与盾的较量中螺旋前进的历史。

这里我们不得不提到“避风港原则”这个概念。

1998年美国制定的《数字千年版权法案》提到,网络服务的供应商如搜索、存储等不具备预先审查内容的能力,因为这些内容并非由供应商本身发布,而由用户上传发布,所以无法提前获知侵权与否。

该法案就设定了“通知+移除”的规则,即在能够证明自己并无恶意、并且及时删除侵权链接或者内容的情况下,网络服务提供者不承担赔偿责任。

这个《数字千年版权法案》一开始本来只是适用于版权领域的问题,后来慢慢延展到了互联网平台治理的过程之中。

企业平台上出现不良信息其实并不可怕,真正需要注意的是,必须要及时处理,积极配合政府、社会展开处理,主动去承担企业社会责任。

之前平台出现监管问题导致舆论危机的时候,企业第一反应往往是“叫冤”,但企业原本就可以多做一些。

企业需要不断加大技术投入、人力投入。通过提前布局的方式去防微杜渐,尽量减少那些不良信息的存在,这也是子弹短信团队现在正在做、也需要做的事情。

互联网企业,尤其是平台级互联网企业、即时通信平台本质上不是“菜刀企业”。

菜刀企业的逻辑是,销售结束后,服务也就结束了。但互联网平台本身正在成为公共空间,构成如今真实社会的一部分,它的服务是无处不在的。它们甚至已经是社会的商业基础设施。

就像是一个商场必须雇佣保安,做好防火防盗的本职工作一样,平台需要做的事情,正在超出单纯盈利、扩大规模这一个维度。

我们没办法想象,在北京朝阳大悦城这样的商场里,如果不配保安、不装摄像头会是什么场景。一旦出现恶性事件,连证据都无法调用时,商场同样要承担连带责任。

主动在自家“商场“里做好防火防盗的工作,装好摄像头、配好保安,本质上就是对社会负责的一种方式。

----------------------------------------------

作者:深几度,微信号:852405518,公众号“深几度”,欢迎署名转载。

作者系独立撰稿人。钛媒体、品途网2016年度十大作者,腾讯科技2015年度最具影响力自媒体。关注人工智能、移动互联、数码家电的产业融合,文章在界面、今日头条、搜狐、腾讯、新浪、网易等30余平台发布。

希望看到您的想法,请您发表评论x