快手CEO宿华道歉：算法缺陷是价值观上的缺陷

专业的快手行业新闻及深度报导，不容错过

━━━━━━

作为平台也应当对平台内容负责。宿上

无法打赏冲值、华道正版卖挂网站卡盟王者没有皮夹功能、歉算缺陷送礼物功能弄成了「红心点赞」、法缺同城Tab完全消失、值观视频内容还被严格分级...

这是快手4月12日，快手新推出的宿上「家长控制模式」，快手也因而成为了第一个提供了未成年权益专项保护的华道短视频产品。

打开整改后的歉算缺陷快手，「落实整改戮力前行」的法缺字样依然在发觉页置顶，视频也多为阳光健康的值观各种生活内容。

而APP首页左上方设置，快手左侧栏出现了一个有带有儿童图标的宿上「家长控制模式」。

进入该模式，华道输入密码开启该功能后可以发觉，与普通模式对比后，该模式具有如下功能：

1、去掉同城栏目；

2、关闭直播打赏功能；

3、关闭查找功能；

4、关闭皮夹功能；

5、关闭安卓里的作品打赏功能

6，发现页内容急剧改变，对未成年人观看视频进行严格分级。

可见这是快手为未成年人定制的专属空间。而这背后，是数日以来短视频行业的整治丑闻。

近来，快手、正版卖挂网站卡盟王者头条、Facebook、Youtube,这些以算法驱动的互联网公司最近正遭受来自监管、媒体、舆论的层层压力。

而此前快手CEO宿华的公开致歉，一句「算法的价值观就是人的价值观，算法的缺陷是价值观上的缺陷」标志着国外算法驱动式视频平台，正式挥别了「技术中立论」，开启了「价值引导论」的下半场。

从兴趣到幸福：快手的新挑战

4月初广电总局、网信办对快手与头条系短视频平台进行约谈，要求整改。事实上，国外算法驱动类平台大鳄，也正面临着同样的舆论旋涡与监管压力。

就在4月10日，印度反托拉斯监管机构周六以「搜索误差」为由，向谷歌公司处以13.6亿卢比（2117万美元）的罚金，这是微软近来一次碰到的“监管磨难”。印度竞争委员会表示，谷歌滥用其网络搜索和在线广告市场的统治地位，其「沉迷于搜索误差」的做法，会对竞争对手和用户导致伤害。

而在去年的五月，《卫报》发表了一篇长文，反思了Youtube的算法，认为算法推荐的内容不能完全反映事实，有时候会给人以欺骗。更早之前的2017年11月，Youtube更是因向儿童推荐古怪、变态甚至有性和暴力场景的视频，被《纽约时报》指责，随之而来的是家长们的怒火...

正如张一鸣日前接受记者专访时表示，数据驱动容易标题性、负面性。所有的社交媒体平台就会碰到这个问题。

然而若果进一步剖析，遭遇这种问题的平台有着不同动因。

以快手为代表的指出「真实」的平台，问题在于她们以为在违背法律法规、遵从公序良俗的前提下，可以凸显一个完整真实的世界，却忽略了参杂在真实世界中的各类问题会让受众导致不适。它像为数亿用户提供了一个无限广阔的舞台，而人性却像一盏聚光灯，照亮了讨好人性的演出，却也参杂着「贪嗔痴」的成份。快手应该强化这部份的监管和引导。

而另一种追求「流量」的平台，问题则在于过度追求流量与商业化。

但二者的问题却都在初审这一重要环节上展现下来。

如果仅从技术层面理智审视，算法驱动型平台所遭遇的舆论要求似乎相当严苛——这一方面其实舆论压力推动了这种平台的前进，但另一方面，过于完美的要求（比如要求平台上绝对避免粗俗内容），完成难度十分大。

以快手为例，快手的愿景是让每一个人获得奇特的幸福感，其有上亿活跃用户、每天形成近千万的视频。

众所周知，对于视频的初审难度本就远低于图文，必须依赖于人工智能和大数据技术的强力支撑。

快手的视频理解是通过多媒体内容理解平台去实现的，快手通过深度学习的算法从人脸、图像、音乐、语音等四个经度进行内容的剖析。比如，人脸的辨识会检查视频上面有人，里面的人是男是女的，他年纪是多少，他在上面表情是喜怒哀乐。再如，图像的分类和测量是辨识视频有什么样的物体他是一个什么样的场景，他是正在打球是正在弹琴还是正在垂钓。

这几个维度是底层语义的理解，可以辨识出好多基础的信息。在此基础之上，再进行进一步深入剖析成数据。

「上亿活跃用户结合这种流程，将会形成海量大数据，可以说用户奇特的情感都蕴涵在这万亿级的大数据里，要帮助用户获得奇特的幸福感还须要特别先进这样的算法的模型，以及特别强悍人员技术构架去提炼下来。」，快手CTO陈定佳曾在清华大学未来媒体数据联合研究院的启动典礼上探讨快手的算法逻辑。

可以说，若要达到用户心里完美的内容标准，任重道远，且须要各方的合力。庞大数据量和业务复杂度给数据生成、采集、传输、存储和估算等带来的一系列问题是，不仅是快手所面临的新挑战，更是全世界视频行业都需直面的困局。

而与清华大学共建的未来媒体数据联合研究院，正是快手寻求进一步突破：以北大软件学院与快手的技术困局攻关为基础，联合举办社会人文领域研究，通过技术人文结合，共同阐述包括内容初审在内的一系列未来媒体课题，让技术更好赋能用户，实现人与人之间更精准的联接。

这在今后也许能为快手完成这个新的挑战助推。

头条系的产品，也有类似的AI初审机制，起初其最核心的初审技术是动态关键帧辨识、图像建模辨识和语音识别等人工智能技术。

以动态帧过滤系统为例，它可以将一部短视频截成动态关键帧，将视频当前场景与下一场景进行对比，场景变化小于60%时，可以生成动态帧提供给机器和人工进行过滤。

然而，人工智能辨识虽可辨识出部份违法内容信息，但对短视频内容却难以进行定义，更做不到精准内容辨识。况且，目前人工智能现处于弱人工智能状态，早期的学习还未能满足日渐壮大的短视频内容的冲击。

所以，在未来，AI+人工审核，将成为快手、头条们的新挑战。

从指出技术到注重价值观：快手们的下半场

事实上，算法驱动型平台经过这一轮事件，也正在积极求变——为技术引入价值观，对用户给以正向引导。

国内的，以快手为例，自CEO宿华公开道歉整改后至今，快手的推出了一系措施，证实了这家企业将「价值引导论」贯彻究竟的诚心。这一系列措施可以归结为五点：

1，坚决严打违法用户，清除粗俗淫秽内容，整改期间，清理问题短视频31万条，封禁5.6万名用户，清理6.5万个用户名；

2播放量双击平台，明确将初审团队从目前的2000人扩军到起码5000人，落实共青团员和干部优先新政，提供低于同行工资，加快构建一支政治坚定、业务精良的工作队伍，目前全省范围内急聘行动正在进行中；

3，坚持社会主义核心价值观指导算法，放大优秀作品的影响力、感染力，热门页面下线整改期间，平台悉心筛选能量视频共得到逾170亿次爆光，获得超31亿次播放、6900万次双击喜欢、9500万条评论、3400万次分享；

4，建立未成年人保护体系，4月12日起上线“家长控制模式”，家长可通过密码一键开启/关闭“儿童锁”功能，过滤不适宜未成年观看的内容，并关掉开启直播、直播打赏、查找、同城、钱包等功能，从4月13日起，发现页未成年过滤内容池即将上线，该模式将持续进行迭代更新；

5，与清华大学联合成立未来媒体数据联合研究院，以北大软件学院数据处理、人工智能等方面领先技术为基础，联手北大一起推动更多社区建设、内容管理、以及价值观引导等方面的跨学科融合研究。

除快手外，头条系产品自4月5日起也举办了为期数日的整改。

先是今日头条旗下火山小视频、西瓜视频等短视频平台共计下架问题视频10318条，重置封禁问题帐户4864个，增加视频初审相关词库敏感词1700余条，并在视频社区大力推荐社会正能量内容。

与此同时火山小视频也进一步严整：1、整改期间“视频”频道暂停更新，仅推荐正能量内容；2、建立完善初审体系，扩充初审人员队伍，增强初审力量；3、对平台上的未成年人严格管理；4、全面整治不利于未成年人的内容；5、加强落实黑名单制度。

而到了4月11日，今日头条宣布关掉App内语录、段子、趣图、美图和美眉共5个频道。目前打开今日头条客户端，在频道选择中早已看不到相关频道。

截至目前，今日头条旗下的今日头条App、火山小视频App、西瓜视频App、抖音App等尽数进行整改，而内涵段子App更是被永久取缔。

而在美国，YouTube的整改方案则是计划在近几周推出新版本的YouTubeKids应用，这一新版本里呈现的所有视频都将由YouTube团队100%人工初审和选购，全面取代由算法推荐的视频内容。此外，YouTube还将在有阴谋论嫌疑的视频页面上，添加真实风波剖析的网页链接。如果用户搜索并点击一条阴谋论类的视频，YouTube将在该视频下链接一个维基百科页面，以澄清视频中的谣言或阴谋论。

一直被虚假或仇恨内容困惑的Facebook创始人扎克伯格，设立的2018年圣诞目标就是整改、矫正Facebook的方向。具体举措包括将会优先呈现当地新闻内容，未来系统会通过用户所处的地理位置去调配新闻内容播放量双击平台，如果新闻来自用户原本就有点赞追踪的新闻出版商，或是好友即时分享，这些新闻来源都会在排序中优先展示。

写在最后

目光收回至国外。快手与头条，一个是拥有超过1亿活跃用户的短视频行业领跑者，另一个则是拥有热卖产品抖音以及香蕉、火山等短视频平台的超级独角兽。二者虽各有各的忧愁，却都是国外技术与算法的新兴代表。

在2016年12月的一次访谈中，张一鸣的一句「技术是中立的，今日头条拒绝价值观先行」引发无数讨论和疑惑的声音；而前几天宿华在致歉信中的那句「算法的价值观就是人的价值观」可以看做是对这种声音的回应。

如果说「技术中立论」开启了以算法驱动型平台的上半场，那么宿华的「价值引导论」则奏响了下半场的开场哨。

毫无疑问，下半场最大的看点不再仅是算法或技术，而是价值观与技术的结合。

一方面，算法仍然是不可或缺的初审推荐机制，它可以增强分发效率、用户体验和变现效率。不过算法却不可过于依赖，它只能是辅助的工具。

所以，另一方面，算法驱动型平台必须拥有符合主流的价值观体系。同时要通过人机结合，将价值观体系融合算法，才能承当起与数亿流量相匹配的社会职责。

正如扎克伯格在听证会上说的那句话：「我们不是一家媒体公司，而是技术公司，但是我承认作为平台也应当对平台内容负责」。