快手推出了「家长控制模式」，短视频平台开启「价值引导」下半场

专业行业新闻、深度报道，不容错过

────────────

作为平台，你也应该对平台的内容负责。

无法打赏充值、没有钱包功能、送礼功能变成“红心赞”、同城标签彻底消失、视频内容严格分级……

这是快手于4月12日新推出的“家长控制模式”。由此，快手成为首个对未成年人权益进行专项保护的短视频产品。

整改后打开快手，发现页面上方依然是“落实整改，砥砺前行”的字样，视频大部分都是阳光健康的生活内容。

APP首页左上方有一个“家长控制模式”，左栏有一个孩子图标。

进入该模式并输入密码启用该功能后，可以发现，与普通模式相比，该模式具有以下功能：

1.删​​除同城栏目；

2、关闭直播打赏功能；

3.关闭搜索功能；

4.关闭钱包功能；

5.关闭中的工作奖励功能

6、发现页面内容发生明显变化，未成年人观看视频严格分类。

可见，这是快手为未成年人定制的专属空间。 这背后是短视频行业连日来的整顿。

近来，快手、今日头条等算法驱动的互联网公司近期遭遇来自监管、媒体、舆论的压力。

此前，快手CEO宿华公开道歉称，“算法的价值观就是人的价值观，算法的缺陷就是价值观的缺陷。” 价值导向理论的后半部分”。

从兴趣到快乐：快手的新挑战

4月初，国家广电总局、国家网信办对快手、头条等短视频平台进行约谈，要求整改。 事实上，国外算法驱动平台巨头也面临着同样的舆论漩涡和监管压力。

就在 4 月 10 日，印度反垄断监管机构周四因“搜索偏见”对谷歌处以 13.6 亿卢比（2117 万美元）的罚款，这是谷歌最新的“监管挫折”。 印度竞争委员会表示，谷歌滥用了其在网络搜索和在线广告市场的主导地位，其“放纵搜索偏见”将对竞争对手和用户造成伤害。

今年2月，《卫报》发表长文反思该算法，认为该算法推荐的内容不能完全反映事实，有时还会误导人们。 早在2017年11月，它就被《纽约时报》质疑向儿童推荐怪异、变态甚至性暴力视频，随后引发了家长的愤怒……

正如张一鸣近日接受记者采访时所说，数据驱动往往是头条新闻、负面新闻。 所有社交媒体平台都面临这个问题。

但如果进一步分析，遇到此类问题的平台都有不同的原因。

以快手为代表的强调“真实”的平台的问题在于，他们认为自己可以在遵守法律法规、公序良俗的前提下展现一个完整、真实的世界，却忽视了混杂在真实世界中的各种问题。真实世界。 引起不适。 它看似为亿万用户提供了无限广阔的舞台，但人性却像聚光灯，照亮着迎合人性的表演，却也夹杂着“贪嗔痴”。 快手应加强这部分的监督和指导。

另一种追求“流量”的平台存在过度追求流量和商业化的问题。

但两者的问题都在审查的重要环节凸显出来。

如果仅从技术层面理性考虑，对于算法驱动平台的舆论要求其实相当苛刻。 一方面，舆论的压力当然推动了此类平台的进步，但另一方面，过于完美的要求（比如要求绝对杜绝低俗内容），是很难完成的。

以快手为例。 快手的愿景是让每个人获得独特的幸福感。 它拥有数亿活跃用户，每天生成近千万条视频。

众所周知，视频审稿的难度远高于图文审稿，必须依赖人工智能和大数据技术的有力支撑。

快手的视频理解是通过多媒体内容理解平台来实现的。 快手利用深度学习算法从人脸、图像、音乐、声音四个维度分析内容。 比如人脸识别会检测到视频里有一个人，里面的人是男是女，年龄是多少，表情是喜怒哀乐。 再比如，图像的分类检测就是识别视频中的物体是什么样的，他是什么场景，他是在踢足球、弹钢琴还是钓鱼。

这些维度是对底层语义的理解，可以识别出很多基本信息。 在此基础上，对数据进行进一步深入的解读。

“数以亿计的活跃用户结合这些过程会产生海量的大数据。可以说，这个万亿级的大数据中蕴含着用户独特的情感。要帮助用户获得独特的幸福感，需要非常先进的算法“像这样的模型，还有非常强大的人员技术架构来提取它。”，快手CTO陈丁甲曾在清华大学未来媒体数据联合研究院启动仪式上讲解快手的算法逻辑。

可以说，要达到用户心目中完美的内容标准，任重而道远，需要各方共同努力。 庞大的数据量和业务复杂性给数据的生成、采集、传输、存储和计算带来了一系列问题。 这些不仅是快手面临的新挑战，也是全球视频行业需要面对的难题。

与清华大学联合成立的未来媒体数据联合研究院，是快手追求的进一步突破：基于清华软件学院与快手的技术问题，共同开展社会人文领域的研究，共同开展社会人文领域的研究。通过科技与人文的结合来讨论内容的内容。 包括审计在内的一系列未来媒体话题，将使技术更好地赋能用户，实现人与人之间更精准的联系。

这或许有助于快手未来完成这一新的挑战。

今日头条产品也有类似的AI审核机制。 最初，其核心审核技术是动态关键帧识别、图像建模识别、语音识别等人工智能技术。

以动态帧过滤系统为例，它可以将短视频剪切成动态关键帧，将视频的当前场景与下一场景进行比较，当场景变化超过60%时，可以生成动态帧机器和手动过滤。

然而，人工智能识别虽然可以识别一些非法内容信息，但无法定义短视频内容，更无法准确识别内容。 而且，人工智能目前处于弱人工智能状态，早期学习无法满足不断增长的短视频内容的影响。

因此，未来人工智能+人工审核将成为快手和今日头条的新挑战。

从强调技术到强调价值：快手的下半场

事实上，经过这一轮风波，算法驱动平台也在积极寻求改变——将价值引入技术，对用户进行正面引导。

在国内，以快手为例。 自CEO宿华公开道歉并整改以来，快手推出了一系列举措，证明了该公司将“价值引导论”贯彻到底的诚意。 这一系列举措可以概括为五点：

1、坚决打击非法用户，清除低俗色情内容，整改期间清理问题短视频31万条，封禁用户5.6万个，清理用户名6.5万个；

2、明确将审计队伍由目前的2000人扩大到至少5000人，落实共青团员、党员优先的政策，提供高于同级的薪酬，加快建设政治坚定和专业技术精湛的工作团队。 目前全国招募活动正在进行中；

3、坚持社会主义核心价值观引领，放大优秀作品影响力和号召力。 在热门页面下线整顿期间，平台精心筛选能源视频，曝光量超170亿次，浏览量超31亿次，浏览量超6900万次。 双击点赞，9500万条评论，3400万次分享；

4.建立未成年人保护制度。 “家长控制模式”将于4月12日上线，家长可以通过密码一键开启/关闭“童锁”功能，过滤不适合未成年人观看的内容，关闭直播，直播打赏、搜索、同城、钱包等功能，4月13日起，发现页未成年人过滤内容池正式上线，该模式将持续迭代更新；

5、与清华大学联合成立未来媒体数据研究院。 基于清华软件学院在数据处理和人工智能方面的领先技术，我们将与清华大学合作，在社区建设、内容管理、价值引导等方面推动更多的跨学科研究。 聚变研究。

除了快手之外，今日头条产品自4月5日起也经历了多日整顿。

一是今日头条旗下火山视频、西瓜视频等短视频平台已下架问题视频10318个，重置封禁问题账号4864个，新增视频评论相关词库敏感词1700多个，并大力推荐视频社区正能量社交媒体。 能量含量。

与此同时，霍山小视频也进一步收紧：1、整改期间，“视频”频道暂停更新快手在线打开，仅推荐正能量内容； 2、建立健全审查制度，扩大审查队伍，加强审查力量； 对成人严格管理； 4、全面清查不利于未成年人的内容； 5.强化黑名单制度落实。

4月11日，今日头条宣布关闭语录、段子、趣图、美图、美颜等5个频道。 目前，当我打开今日头条客户端时，频道选择中已经看不到相关频道了。

截至目前，今日头条旗下今日头条App、欢火视频App、西瓜视频App、抖音App均已进行整改，内含段子App已永久关闭。

在国外，整改计划是在未来几周内推出新版本的应用程序。 新版本呈现的所有视频都将由团队100%人工审核和挑选，完全取代算法推荐的视频内容。 此外，涉嫌阴谋论的视频页面还会添加解释真实事件的网页链接。 如果用户搜索并点击阴谋论视频，视频下方就会链接维基百科页面，以澄清视频中的谣言或阴谋论。

一直饱受虚假或仇恨内容困扰的创始人扎克伯格为2018年设定了新的一年目标，那就是整改和纠正的方向。 具体措施包括优先呈现本地新闻内容。 未来，系统将根据用户的地理位置分配新闻内容。 如果新闻来自用户已经点赞和关注的新闻发布者，或者是好友实时分享的，这些新闻源会按照顺序优先显示。

写在最后

回头看看国内。 快手和头条，一个是拥有过亿活跃用户的短视频行业领军企业，一个是拥有爆款产品抖音和西瓜、火山等短视频平台的超级独角兽。 虽然两者都有各自的烦恼，但都是国内技术和算法的新兴代表。

2016年12月接受采访时，张一鸣的一句“技术是中立的，今日头条首先拒绝价值观”引发无数讨论和质疑； 而宿华日前在道歉信中的一句“算法价值观就是人的价值观”则可以看作是对这些声音的回应。

如果说“技术中立论”开启了算法驱动平台的上半场，那么宿华的“价值引导论”则吹响了下半场的开场哨。

毫无疑问，下半场最大的亮点不再只是算法或技术，而是价值观与技术的结合。

一方面，算法仍然是不可或缺的评论和推荐机制，可以提高分发效率、用户体验和变现效率。 但算法也不宜过度依赖，它只能是一个辅助工具。

所以，另一方面快手在线打开，一个算法驱动的平台必须有一个符合主流的价值体系。 同时，需要通过人与机器的结合，将价值体系融入到算法中，承担匹配亿级流量的社会责任。

正如扎克伯格在听证会上所说：“我们不是一家媒体公司，而是一家科技公司，但我承认，作为一个平台，我们也应该对平台的内容负责。”