“毒动画”悄然流入国内，多个视频平台着手专项清理。对这些披着卡通外衣的“精神垃圾”，国内外监管有哪些难点和短板？如何在视频网站和家长之间形成合力，让它们无处遁形？

　　专家建议，视频平台方面，强化人工智能“算法”的同时应加强人工审核，以至开设让家长完全放心的全人工过滤儿童视频精选频道；家长方面，应对孩子经由电子产品接触的媒体内容做到心中有数，别把孩子扔给“电子保姆”。

　　【疲于“打地鼠”　筛查有难度】

　　在西方，“毒动画”获称“艾莎门”，主要指视频分享网站“优兔”(YouTube)上的儿童不宜视频。它们大多由成年人制作，以经典卡通形象诱使儿童点击观看，内容却包含血腥、暴力、色情或诡异情节。2013年，迪士尼动画片《冰雪奇缘》女主角艾莎公主常出现在这类视频中，因而有人把艾莎与用以描述丑闻事件的后缀词“门”(gate)组成新词，即“艾莎门”(ElsaGate)。

　　“毒动画”通常在未获法律许可的情形下使用经典卡通形象，由匿名用户上传，内容粗制滥造。为进入搜索结果并引起用户注意，这类视频的标题和描述常包含卡通形象名称及“教育”“学习色彩”“童谣”等关键词。一些时候，它们能规避优兔内置的儿童安全算法，进入颇受家长信任的优兔儿童频道。

　　“‘艾莎门’欺骗性地让儿童、家长和管理工具相信它们是‘儿童友好型’内容，让人相当不安，”美国技术伦理学者戴维·瑞安·波尔格22日接受新华社记者采访时说，“儿童在观看他们喜爱的卡通形象作出猥亵或暴力行为后，可能遭受心理创伤?！?/p>

　　长期以来，技术企业尝试借助审核人员和人工智能算法筛查并删除儿童不宜视频。但是，波尔格解释，这就像玩“打地鼠”游戏，要逐一打掉那些冒出头的不良视频，作业量相当大。

　　“优兔每分钟上传的内容达到300小时，一秒一秒地审查每部视频不可能，”波尔格说，“为简化流程，优兔等主要平台结合使用人工智能工具、用户报告和版主。然而，不少家长可能会想当然地认为优兔儿童频道等完全由人工挑选并审查，坏人正是利用这个漏洞，故意把不良内容标记为看似适合儿童的内容?！?/p>

　　【潜藏利益链　投入需加大】

　　对“艾莎门”的批评声最早2016年年中出现。一年后，它成为美国社交媒体“推特”上热门的主题标签。美国社交网站“红迪”(Reddit)创建“艾莎门”社区讨论平台，吸引数以万计用户参与。

　　作家詹姆斯·布莱德尔去年11月发表博客文章，题为“互联网上一些地方出错了”，指认“某些人、某些东西或某些人与物的混合体正在利用优兔，成规模和系统化地恐吓、伤害和虐待儿童。这让我质疑自己对互联网的信仰，对各方面都产生质疑?！?/p>

　　不得不说，“毒动画”的恶意背后潜藏一条外人难见的利益链条。

　　视频网站业内人士说，优兔等国内外视频网站通行规则是，只要视频点击达到一定数量，就可以在视频上附加“贴片广告”，上传者获得一定分成，网站自身同样可以获利。

　　争议中，一些广告商发现自身广告出现在“毒动画”上，与品牌定位相悖，开始暂停向优兔投放广告。压力之下，优兔总裁苏珊·武伊齐茨基去年12月宣布，将投入更多人力筛查视频内容。2018年，优兔所属谷歌公司的内容审核人员将增至至少1万人，同时开发新的人工智能算法，与儿童安全机构合作。

　　优兔一名发言人22日回复新华社记者提问，在电子邮件中声称：“过去几个月，我们有意识地采取措施，解决优兔家庭内容视频面临的诸多新挑战，包括更严格执行我们的社区指南、对不当定位至家庭的内容‘去货币化’并采取年龄限制，同时把这些内容从优兔儿童频道中删除?！?/p>

　　这名发言人说，优兔将致力于“正确解决难题”，投入人力和工程资源，以应对不断变化的环境。

　　【标准待调整　各方应协力】

　　波尔格说，没有任何自动识别工具能做到百分百准确。由于以图像和音乐作伪装，“艾莎门”更难识别；所以，为净化视频内容，“我们需要负责任、积极响应的技术平台与家长和孩子齐心协力……一旦有内容被标记为具有攻击性，视频网站必须快速反应”。

　　他说，家长自然希望所有儿童频道的视频完全经由人工筛查，“优兔依照人人都是内容创作者并能上传视频的想法构建，但可能会随时间推移发生变化”?！叭绻沂怯磐迷擞?，”波尔格告诉记者，“我会创建一些类似优兔儿童精选的内容，完全人工策划和过滤，让家长完全放心?！?/p>

　　腾讯视频23日回应，打击“毒动画”，腾讯应用了音视频指纹、ES搜索等技术，以快速处置有害视频?！罢攵陨俣谌?，我们将重新制定审核标准和尺度，”腾讯视频表示，“我们将运用人工智能(AI)学习有害的视频样本，打击后续有害内容的上传和传播?！?/p>

　　至少暂时无法实现全人工过滤，家长该如何应对？从事儿童发展心理学和早期教育研究的心理咨询师高璇告诉新华社记者，低幼儿童接触“毒动画”的风险可以防控，家长必须担负呵护责任，不应把孩子交给“电子保姆”。

　　高璇建议，如果发现孩子接触过这类视频，家长要注意孩子是否有恐惧情绪，询问孩子感受，告诉孩子“如果遇到让自己害怕的事情应该怎么做”，如调整呼吸、向父母倾诉，既转移孩子对恐怖画面的注意力，也教给孩子正确应对恐惧的方法。另外，家长可以带孩子欣赏美好画面、到户外游玩，以驱逐、替代丑恶画面给孩子留下的印象。（林小春　周舟）（新华社专特稿）

【纠错】

责任编辑： 徐海知