(网经社讯)12月22日晚间，快手平台突发大规模内容安全事件，多个直播间短时间内涌入大量露骨色情内容，违规内容传播状态持续超1小时，引发广泛关注（详见网经社专题：https://www.100ec.cn/zt/kszhhcgj/ ）。
快手事件并非孤例，而是直播行业面临的共性问题的一个极端体现。随着直播行业的繁荣，内容安全已成为全行业的共同挑战。从小红书、B站到抖音，几乎所有主流平台都曾陷入类似争议。据网经社不完全统计，近几年来涉黄的平台还包括美柚、宝宝树、东郊到家、蜻蜓FM、饿了么、美术宝、新氧医美、闲鱼、小猿搜题、百度作业、百度地图、花椒直播、贴吧、嘿秀、斗鱼、大众点评、新浪、猫扑开心网、百度搜图、盛大、搜狐、土豆、移动、泡泡网、360、时光网、篱笆网、谷歌等。
对此， 网经社电子商务研究中心特约研究员、浙江垦丁（北京）律师事务所律师程念接受数字经济新媒体&智库——#网经社 独家专访。
（浙江垦丁（北京）律师事务所律师程念）
程念提到，《网络安全法》第二十五条规定，网络运营者应当制定网络安全事件应急预案，及时处置系统漏洞、计算机病毒、网络攻击、网络侵入等安全风险；在发生危害网络安全的事件时，立即启动应急预案，采取相应的补救措施，并按照规定向有关主管部门报告。《网络安全法》第五十九条规定，网络运营者不履行本法第二十一条、第二十五条规定的网络安全保护义务的，由有关主管部门责令改正，给予警告；拒不改正或者导致危害网络安全等后果的，处一万元以上十万元以下罚款，对直接负责的主管人员处五千元以上五万元以下罚款。
第一，快手事件中，一些公开报道中提到根据技术专家分析，攻击者很可能利用了直播推流接口的底层漏洞，从而绕过了平台正常的实名认证和内容审核链路。这使得预设的违规内容能够直接突破安全防线。快手面对新型的、组合方式出现的攻击，显然没有很好地应对和处置，大量新注册的“小白号”或僵尸账号自动化播放预制视频的涌入也很可能超出了快手平常审核方面的算力支持。
第二，同时需要指出的是，《国家网络安全事件报告管理办法》附件“网络安全事件分级指南”中对于“重大网络安全事件”的界定中包含“...大型以上网络平台等被攻击篡改，导致违法有害信息大范围传播。 以下情况之一，可认定为“大范围”：（3）浏览或点击次数10万以上”；对于“较大网络安全事件”的界定中包含“...网络平台等被攻击篡改，导致违法有害信息较大范围传播。以下情况之一，可认定为“较大范围”：（3）浏览或点击次数1万以上”。快手事件目前的情况已经构成较大网络安全事件，公开渠道看到的情况是违法信息传播持续了一个小时，部分直播间单场观看人数甚至逼近10万人。如果经调查发现达到10万人则很可能被认定为重大网络安全事件，而根据《国家网络安全事件报告管理办法》第四条，快手应当及时向属地省级网信部门报告，最迟不得超过4小时。如果因为未能及时报告导致危害扩大的，该行为也属于违反《网络安全法》第二十五条的情形。
因此，本身存在漏洞加上没有提供和平台体量相当的应急措施和方案，以及未能即使向主管部门报告的，快手很可能因未能处置系统漏洞、网络攻击等风险以及未能及时按照规定报告从而因违反《网络安全法》第二十五条的规定，从而导致《网络安全法》第五十九条规定的责令整改、警告等处罚措施。
程念还表示，从事件发生到平台响应超过1小时，暴露出快手在应急响应方面存在两个问题。
第一是事前预警与事中熔断机制缺失。攻击持续1小时后平台才全面关停直播，反映出异常流量监测和自动熔断机制薄弱。理想情况下，快收的审核系统应在检测到“大量新账号同步开播”“内容高度相似”等异常时就能即使触发警报并对异常情况进行观测，当发现违法内容出现时及时触发限流或关停。
第二是平台没有及时对可能升级迭代的攻击情况进行研究和预判，未能针对极端攻击场景进行充分的研究分析，也缺少将自身核心的算法推荐机制可能被恶意利用的风险充分纳入考量，缺乏算法反操纵的设计。
在平台抵御黑灰产问题上，程念建立从“局部限流”到“全局关停”的自动化响应预案，确保攻击发生时快速降级影响；优化图像识别、语音检测模型，提升违规内容拦截时效。
专家介绍：程念律师，中国政法大学法学硕士（网络法学专业），垦丁律所人工智能法律研究部负责人，专注于人工智能、游戏合规、直播短视频法律服务、电商合规、平台治理、数据合规、个人信息保护、元宇宙相关法律服务及知识产权、不正当竞争、服务合同相关的涉网诉讼等互联网法律实务工作，为多家知名网络公司提供常年法律顾问服务，包括平台协议起草与调整、电商平台价格与广告合规法律方案、资质准入、平台协议审核、广告合规咨询、新业务风险评估等合规咨询服务等； 参与首例 5G 云游戏第一案、小米手机风险APP治理第一案等典型案件，代理游戏道具低价代充不正当竞争纠纷、直播带货预期可得收益追回案等； 参与撰写《直播与短视频产业合规蓝皮书》《元宇宙与元规则——元宇宙产业及元规则体系建构蓝皮书》等报告； 参与编写著作《<中华人民共和国数据安全法>理解与实施》。
【小贴士】
国内知名网络消费纠纷调解平台“电诉宝”（315.100EC.CN）运行10余年来，与全国近千家网络消费平台建立对接，影响1亿+网络消费用户，新系统实现一键投诉、24h在线、自助维权、同步直达、实时处理、进度查询、评价体系、法律求助、大数据分析等诸多功能。
目前，平台“绿色通道”服务向广大网络消费平台开放，平台可自主申请入驻，实时受理、反馈和查询用户满意度评价。为了更好地营造公开、透明、健康的网络消费投诉环境，“电诉宝”公开版已正式上线，新增用户投诉实时受理动态、月度平台投诉量TOP10、热点投诉地区、投诉榜（依据投诉量排行）等模块，让投诉过程透明化，一手掌握信息动态。
