“毁童年”的儿童邪典视频该被立刻掐死

  狄德罗在《论戏剧艺术》中说：如果道德败坏了，趣味也必然会堕落。“毁童年”的儿童邪典视频，该被掐死在源头。

  成年人有心制造的恐怖视频，披上了卡通片的外衣，窜入视频平台，成为了吸食儿童注意力的毒品。

  在Laura的长篇自述中，2017年年初的某一天，她在Youtube上为3岁的宝宝点击了一段小猪佩奇的视频，刚开始没注意，后来她听见视频传出来的声音实在不像是小猪佩奇，赶紧夺过女儿手中的ipad，意外而愤怒地发现，这竟然是一段用小猪佩奇包装过的恐怖视频。

  视频中绿色的猪牙医拿着手臂粗的针管扎向了哭泣的小猪佩奇，面容狰狞，这不是最可怕的地方。被夺走视频的女儿对着Laura喊：“这是佩奇，我钟爱这一个视频。”

  变种视频还有很多，米老鼠、艾莎公主、蜘蛛侠等知名的卡通人物成了此类视频改编的主角。比如这样色彩艳丽，但内容可怕的：

  内容或血腥或暴力或涉及性，这类加工视频没有一点的美感，极尽所能的给人观感上的冲击，终极目的是为了让人恶心，表现形式无所谓。

  媒体把这类视频称为“儿童邪典视频”。从YouTube开始，儿童邪典视频蔓延到了世界各地。有知乎博主发现，在泰国，如果多次点击类似视频，YouTube会根据博主的兴趣进行有关推荐。

  天眼查顺藤摸瓜发现，国内本土版的儿童邪典视频从微博账号“欢乐迪士尼频道”发出，实体为广州的一家贸易公司。

  22日，该公司通过微博账号@深海5万米（由欢乐迪士尼频道更名而来）致歉：我们公司为了冲视频流量做了一个错误的示范---制作可怕视频, 我们团队用尽全力, 完全只想到怎么冲收视。

  里边的病句就不吐槽了，最有意思的一句是：关于在网络上流言，说起我们公司是或者制作邪典片，在此本公司郑重否认，我们公司是视频制作公司。

  昨日全国“扫黄打非”办公室通过官方微博回应：根据调查取证情况，执法部门已要求该公司将其所有相关视频下线，并依法查封两处生产经营场所，扣押用来生产经营的专用工具和设备，责令当事人停止生产经营活动。目前，该案正在进一步调查处理中。

  这种暗黑风格的动画作品一直就存在于市场上，只是原本的目标受众是成年人，不少动画作品利用这种夸张的表现手法，创作出了优秀的艺术作品。

  但是这样一个世界就是很奇怪，所有的技术最终都会成为人性的体现。他们把性、暴力等元素和动画大IP结合起来，不计后果的把内容扔给了儿童用户。

  如果说广州这家贸易公司是为了流量，那从全球范围来看呢，流量能解释一切么？

  有种分析认为，类似的视频可能还有一种隐含的恶意，一方面只有儿童才最有可能性以这些知名动画人物的关键词进行视频搜索，另一方面这类视频从色彩和图像制作上来看，仍然在迎合儿童的口味。

  第一个控诉此类视频的妈妈Laura认为视频平台对此要承担很大的责任。自己原本只是给女儿点击了一部非常正常的动画小猪佩奇，但是在YouTube算法推荐的帮助下，那些没有被识别内容的恐怖版“小猪佩奇”就流入了女儿的视线中。

  这两天也有不少的老师、专家站出来分析此类视频对儿童的影响。观察者网撰文分析：在心理学上，视觉是主要的摄入感官，但背景音乐和音效有着设定气氛的作用。3-10 岁的小朋友们就在舒缓放松的气氛中，观看一部又一部这样的视频，大脑吸收和处理着剧中角色疯狂的动作、荒谬的行为，并不断巩固着这种危险的认知。

  这个我们暂且不多说，但就评价一句话：刺猬君作为一个成年人，都不敢多看这类视频。想到自家小侄女有可能沉迷于此类视频，就感到莫名的害怕。

  在妈妈Laura的长文中，有一段话很重要，翻译过来的大概意思是：即便是YouTube Kid，按照它自身的准入机制，恐怖版小猪佩奇还是可以轻而易举地溜进去。正如常人搜索“小猪佩奇”一样，这些打着同样标签的视频也会出现在相关推荐中。

  2017年，从国外到国内，算法推荐都像是一阵旋风，收割了很多类型的内容平台。国内大家都知道的就是今日头条。

  去年底，今日头条、凤凰新闻因为持续传播色情低俗信息、违规提供互联网新闻信息服务等问题，被北京市互联网信息办公室约谈。

  和算法推荐共存的就是智能审核，在经历年底的浩劫以后，今日头条随后高调对外宣布，要扩招内容审核编辑，据传的数字是上万人。

  机器和人是不一样的。人性的复杂程度恐怕人类自己都还搞不明白。智能推荐暂时还做不到对内容和隐含信息的精准识别。

  但是回过头一想，如果只保留智能审核，那么是不是有更多的“邪典视频”会钻了这个漏洞呢。

  22日，全国“扫黄打非”办公室通过官方微博公布消息：针对利用经典卡通形象制作传播涉暴力、恐怖、残酷、色情等妨碍未成人健康成长的有害视频情况，全国“扫黄打非”办公室已部署开展深入监测和清查。目前，相关网站开展了自查和清理。

  我们将持续关注，对不履行企业主体责任，造成有害视频及信息传播的企业，一经查实，必予严惩。

  这样的表态跟预想中一样，从中央开始，各地都会开始这项查禁的工作，北京方面已经在22日晚间公布了相关的通告。

  由于事件已经发酵了几天，各大视频网站的反应速度都很快。爱奇艺、优酷、qq视频已经清空了相关的视频信息，部分还同步发表了公开的说明。

  第一条，2007年11月25日，Google称不会对YouTube视频进行人工内容审核。

  第二条，2018年1月12日，谷歌计划审查YouTube付费视频内容：利用AI和人工。

  报道提到，近几个月来，广告商和其他人都在抱怨YouTube视频未经过滤，出现了一些涉及儿童和YouTube名人洛根.保罗(Logan Paul)等网红的内容。

  谷歌公司告知合作伙伴，计划同时使用人工内容审查员——该公司最近宣布将有10000名员工专注于这项任务——以及人工智能软件来辨识不适合广告的视频。

  其实Youtube的这种转变和国内平台的转变是一致的：人工智能不再成为唯一的审核标准，人工审核依然不可或缺。

  即便不涉及监管部门的查禁，也要面对市场的争议。对于以挣钱为首要目的的平台来说，改变原本的内容审核方式也是为去改善市场印象，以确保广告收入的稳定。

  转变实际上并不让人意外。人类技术的进步一直就是这样的，我们或许对某些新技术饱含信心，但是却常常跌倒在自己的自信里，比如蓝牙刚出来的时候也被行业人士寄与厚望。

  细数一下，今日头条、快手、企鹅号、斗鱼直播等各类型平台都慢慢的开始加强人工审核编辑的作用。

  可以预见的是，在未来的一段时间，人工审核编辑这个劳动强度极大的工种，会成为平台的刚需，“抢人”也是很有可能会发生的。

  在算法推荐兴起的过程中，刺猬君身边的不少朋友都在吐槽：人工智能不懂我。也有人在呼吁，有没有平台能做一款摆脱智能推荐的内容产品。

  “儿童邪典视频”并非智能推荐的首次bug。国外的蓝鲸游戏，国内的小猿搜题暗藏色情信息事件，似乎都在证明智能推荐似乎不太适合“内容”？

  那要反对它么？刺猬君认为当然不，只是从“蓝鲸游戏”到“邪典视频”，都给发展还不够成熟的算法推荐敲响了警钟。

  换句话说，技术是中立的，作孽的不是智能推荐，是发现AI技术的人，也是制作邪典视频的人。人类能想到各种办法去控制技术，但却没办法控制人性。

  在此前的一次分享中，今日头条委托资深算法架构师曹欢欢，公开了今日头条的算法原理。按照头条的说法，这次分享也是因为：算法也开始面临质疑、挑战和误解。

  曹欢欢在分享中提到，隐式语义特征已能很好的帮助推荐，而语义标签需要持续标注，新名词新概念不断出现，标注也要不断迭代。

  这也就是说，智能审核也在进步，不会止步于过去的标签化审核，包括一些人类社会的隐含信息，也被纳入了智能审核的范畴。

  刺猬公社是聚焦内容产业的垂直资讯平台，关注领域包括纸媒和数字出版、互联网资讯和社交平台、视频音频平台、影视文娱、内容创业和自媒体、二次元，以及VR/AR和人工智能等未来内容发展趋势。