互联网是一个开放的平台，极端恐怖分子不请自来。今年已经有不少大公司投诉，在YouTube投放的广告出现在极端分子的招募视频中。另外，Facebook计划雇佣3000多人的团队每天审查网站上的不良内容。
几个月前，Google宣布将使用更多的机器学习和人工智能技术甄别极端视频。近日，Google博客公布了结果：AI甄别和标记极端视频的能力远远超出人类。数据显示，AI在75%的情况下，都能比人类先甄别极端视频。调查人员表明，AI能够处理的视频数量是人类的两倍，而且这个差距随着系统升级会变得越来越大。
拥有了这项技术，YouTube的野心不止于甄别和删除极端视频、或者将用户跳转至其他内容。公司将为所有种类的视频制定更严格的限制；接下来的几周，Google的人工智能将被用来判断其他被举报的视频，例如仇恨言论、攻击性和暴力视频。就算这些视频没有直接违反平台的政策，他们也会被限制播放。这样技术还能够屏蔽评论、点赞和搜索优先权。
极端视频上传者和审查者就像在玩一场猫鼠游戏。在传统媒体时代，媒体是猫看守信息进出的大门，但是在互联网时代，猫少鼠多；即便猫最终还是可以抓到老鼠，但是老鼠在短暂时间内可能造成的破坏不可估量。
例如昨天，英国卡迪夫市一个闹市街区的户外广告牌被黑客攻击，并播放了大量攻击性信息，例如纳粹符号、极端伊斯兰的图片并宣称该地区为伊斯兰法的管辖范围。这件事情虽然没有对市民造成人身伤害，但是却令人十分担忧。
如果恐怖分子侵入了更多的广告牌，并且播放恐慌信息，那么人们的安全就会受到严峻的威胁。制止这样的情况非常需要AI的帮助，因为人类几乎不可能在第一时间发现这些视频，但是AI可以在监测到视频上传时就发出警报。当然，这其中对技术的要求应该会更加复杂；也许有一天，监测极端视频的AI会被加密在传播工具的硬件当中。
一方面，我们需要AI帮助赢得和极端分子的这场猫鼠游戏；另一方面，我又为老大哥是一个AI而感到深深的不安。当AI屏蔽对象不再只是极端视频时，你就必须得有穿越AI法眼的能力了。
责任编辑：付海龙