“一键关闭”算法推荐与网络清朗

　　夏德元 主持人 上海理工大学出版印刷与艺术设计学院教授，互联网与文化创意产业协同创新中心主任，上海视觉艺术学院全创新研究中心学术委员会委员、高级研究员

　　陈良飞 对话嘉宾 澎湃新闻新闻部总监、港澳台新闻部总监，主任记者，复旦大学新闻学院博士研究生

　　夏德元：互联网的普及，尤其是基于人工智能的个性化信息服务，无疑给人们的生活和工作带来了极大的便利。但是，事实上了互联网用户自主选择权而“推你没商量”的“算法推荐服务”也给人们带来了诸多困扰。为回应广大网民的呼声，国家网信办等四部门于去年年底联合发布《互联网信息服务算法推荐管理》，并于今年三月正式开始实施。对这个的出台，两位有何评论？

　　苗若木：《互联网信息服务算法推荐管理》的出台，为算法推荐服务提供了规范，对“算法推荐服务提供者”的操作规程提出了明确的要求，“算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况；向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项”。于是，算法推荐服务的“一键关闭”功能随之应运而生，迅速在今日头条、微信、抖音、百度、微博等APP中上线，允许用户在后台一键关闭“个性化推荐”。“一键关闭”后，新闻平台将不再根据用户的浏览记录生成推荐内容或推送广告。这个着重聚焦于算法技术的相关规制，首次以法规形式对算法个性化推荐进行规范，回应了对算法价值观的要求，对算法推荐引起的“网络弹窗”和干扰性信息的问题起到了很好的清朗效果。

　　确实，近年来大数据、算法推荐、人工智能等新兴技术发展迅猛。大数据的隐私数据攫取、算法推荐的人文主义缺位、大数据杀熟和算法歧视等等，引起了学界和业界的关注和讨论，“一键关闭”是对算法技术的发展和应用管理新课题的一种回应。

　　陈良飞：这个正式实施后，我也特地注意了一下对它的讨论，大家的主要关注点在于过分收集用户信息、大数据杀熟等方面。当然，它对于用户更方便地关闭算法推荐服务也作出了，如要求算法推荐服务提供者向用户提供便捷的关闭算法推荐服务的选项。但具体什么样的情况属于“便捷的关闭算法推荐服务的选项”，还需要在执法实践中予以明确。应该说，这一管理对于解决过分收集用户信息、弹窗广告多、信息干扰多的现象会起到一定的作用，国家网信办在出台这一管理时也考虑到了它的实用性。一个很显著的标志就是这一管理不是由国家网信办一家出台的，而是四部门联合公布：“国家互联网信息办公室2021年第20次室务会议审议通过，并经工业和信息化部、、国家市场监督管理总局同意。”之所以这样，主要还是为了加强这一管理在后续执行过程中的权威性、强制性等。

　　夏德元：照理说，互联网个性化信息服务是技术进步带来的信息福利，何至于需要国家多部门出台？这样的干预会达到预期的效果吗？

　　苗若木：国家为什么出台算法推荐服务管理的相关？网信办等部门的这一举措是算法技术本身存在问题吗？答案显然是否定的。从古登堡开始，每一次媒介技术的创新和从技术到媒介管理的跌宕都会给新闻事业带来一场。几乎每个有志于学习编程的技术人员在C语言中习得的第一段代码结果都是“你好，世界（Hello World）”。2009年，谷歌正式开始通过大数据进行用户画像，由此拉开了个性化时代的帷幕。算法推荐依托于互联网海量的大数据，用技术手段驱动新闻选择模式，彻底了过去的精英式生产，既体现了新闻生产的过渡与分散的宏观意义，又实现了数据思维和用户思维对于编辑部层级式架构的重大突破，也体现了大数据时代下以用户为核心的初衷。

　　然而，任何一项新技术的发展和应用都存在着相互促进又相互制约的关系。这场涉及新闻生产与分发的智能在进程之中逐渐变了味。目前的算法推荐系统首先向你推荐你想看的新闻和“好看的”新闻，进而推荐他们认为你想看的，最后通过引导，将内容变成你想看的。算法推荐系统潜移默化地塑造着使用者，也在影响着内容提供者。算法推荐的初心是让新闻受众看见更广阔的世界，而目前的算法推荐却让新闻受众走进了信息孤岛。从“你好，世界（Hello World）”变成了“你好，我的世界（Hello my world）”。信息茧房、回音壁效应反而导致用户的新闻视野窄化、固化。

　　不管是出于提升平台服务的目的，还是致力于实现精准营销，挖掘潜在的商机和市场，都离不开基于算法产生的数据收集与判断，所以各个平台长期使用算法来完成“个性化推荐服务”，实际上是通过算法提高用户黏合度，引导用户的使用习惯。然而，满足用户对新闻信息的个性化定制需求，用户必须先泄漏自己的信息以供抓取，算法新闻所形成的“环形”使隐私难以得到保障。

　　陈良飞：和其他市场主体与监管部门的关系一样，互联网信息服务的提供者和代表利益的监管部门之间存在一种博弈关系，并且这种博弈是持续多次发生的。由于两者利益既有一致之处，也有所不同，监管部门一定期待令行，但是互联网信息服务提供者为了自身利益一定会寻找各种规则之内的“缝隙”来获得利益最大化。在长期的立法、执法实践中，互联网监管部门的管理也会越来越细致，以防止互联网信息服务提供者有机可乘。比如，对于用户不堪其扰的各种“精准推送”而言，除了《互联网信息服务算法推荐管理》有所规范之外，国家互联网信息办公室还起草了《互联网弹窗信息推送服务管理（征求意见稿）》，意见稿中对弹窗信息推送服务的具体方式、内容频次、取消渠道等都作了非常具体的。

　　夏德元：对互联网的信息服务进行法律规制，是世界的通行做法，两位是否能介绍一下其他国家的先例？与国外的通行做法相比，我国正在实施的“一键关闭”有何不同？

　　陈良飞：的确，算法推荐并不是中国互联有的应用，在国外互联网业界和学界对此也有争议和讨论。除了用户隐私权，还有更多的可以讨论的维度。目前基本上达成共识的讨论认为，互联网信息服务提供者通过程序算法向不同的用户推送不同的新闻，以满足用户个性化的新闻兴趣与需求。在这一过程中，的公共性逻辑就会被彻底改变。互联网信息服务提供者成为信息与用户之间的最终把关人，带来的是整个结构的变化。这不仅不能带来真正意义上的个性化和多样化，还将势必加剧“群体极化”效应，使不同社群和族群之间的沟通和交流被彻底阻断。这恐怕是算法推荐的“发明者”都未曾预料到的景象。

　　苗若木：正是基于这个原因，国家也先后采取了一些治理措施并出台了相关的。2018年年初，美国纽约市针对公共部门算法的“1696提案”，是世界上第一次专门针对算法的监管行动。2018年5月，欧盟发布了《一般数据条例》（General Data Protection Regulation，PR），这是21世纪以来数据隐私条例的最重大的变化之一，它将取代在欧盟实施了23年之久的《个人资料指令（95/46指令）》（1995年）。《一般数据条例》指出了算法应遵循透明性与可解释性原则，并协调全欧洲的数据隐私法律，为所有欧盟和授权数据的隐私提供。同年12月，欧盟委员会发布《可信赖的人工智能准则草案》中提出算法必须遵守自治原则，即尊重决定和个人选择。2019年，公布了针对部门使用算法的《自动化决策指令》。当然，无论是从法律体系、规制、用户权益等多方面维度来说，中国的“一键关闭”走在了世界的前列，不仅将算法个性化推荐服务的选择权还给用户，更对算理工作、营造风清气正的网络空间起到了制度引领作用。

　　苗若木：如今，中国互联网普及率已达73%、网民规模达10.32亿，算法服务个性化推荐与每个人息息相关。微信、百度、今日头条等平台已经陆续开始启用一键关闭功能。我认为，在没有技术推荐的“后算法时代”，新闻会呈现全新的格局。首先是对于新闻信息的整体分发模式的影响，目前大多数新闻平台是通过算法推荐模型进行信息级联（information cascade）的形式分发新闻，在一键关闭之后，平台势必会回归以各种板块、频道和地域为入口的模式。这种内容运营方式是基于人工手动配置的，因此平台需要投入大量的人力，将会大大促进对复合型人才的需求。

　　其次，“一键关闭”对于大多数新闻的市场效率的整体影响还需要度过一段时间的缓冲期，再探索新的市场模式。对于网络广告影响也很大，当用户一键关闭后，很多推荐的优势计量广告也会被同步屏蔽，整体的推荐流量减少。算法的个性化推荐系统促使广告商都转向以用户兴趣驱动的RTB（Real Time Bidding）实时竞价广告，一键关闭后只能固定展示某些信息，广告商也会回归到传统，按照某一固定的资源或者固定时间段的（Guaranteed delivery）保量式广告、CPD（Cost Per Download）付费广告和CPT（Cost Per Time）时段广告。一般都是大品牌商为起到品牌推广效应而选择以上三种方式投放广告，对新闻平台的广告收入产生较大影响，由此引发的品牌广告的垄断性也是需要各新闻平台广泛关注的问题。另外，对于短视频新闻而言，一屏式信息流能够吸引未经算法推荐的用户的概率将极大降低。所以这类新闻平台一旦用户选择一键关闭，其信息流展现方式也可能会随之切换。在一键关闭之后，还应该各个平台通过反向推荐的方式促使用户重新算法个性化推荐服务，反向推荐无疑是对用户权益另一种形式的侵害。

　　陈良飞：谈到这一的后续影响，我觉得对于商业资讯类APP的影响会远大于新闻类APP。算法推荐最初是商业资讯APP的一项“创新”，继而为众多新闻类APP所借鉴学习。对于这一功能，不少新闻类APP还处于起步阶段。澎湃新闻近年来也引入了算法推荐机制，但比较“克制”，只限于频道，其他频道还是采取人工推荐+时间瀑布流，尊重用户选择权。

　　回顾商业资讯类APP的发展历程，我们就会清晰发现，最初的商业资讯类APP也是千人一面的，每个人看到的内容和顺序都是一样的，突然有一天，有个商业资讯类APP站出来振臂一呼，说能让每个用户都能看到不一样的内容，千人千面。这一商业资讯类APP就获得了巨大的成功，更多的同类型产品开始模仿甚至地模仿了。用一句时髦的话来说，算法推荐并没有“原罪”。问题在于，当越来越多的各类APP加入到算法推荐的竞争之后，用户没有了选择权。并不是所有用户都喜欢使用这一功能，当该用户想关闭这一功能的时候却发现找不到可供选择的选项。也有用户只想安安静静地看会儿新闻资讯，不喜欢被定位、被收集个人隐私信息、爱好信息，但是很难做到。当你把一款APP，还不限于新闻资讯类APP的“定位”功能、查看相机照片功能取消了之后，你会发现这款APP算是“废”了，简直寸步难行。为了正常使用，你又不得不放弃各种隐私和，用户的选择权就在这激烈的算法大战中“消失”了。

　　因此，我们对这一管理的作用也不能过于乐观。弹窗广告的问题、过分用户信息收集的问题不会因为这一管理的出台就消失得无影无踪。未来，互联网信息服务提供者会采取各种办法来规避这一，也让算法推荐更趋隐蔽。比如，用户在以后的使用中会发现，自己明明一键关闭了算法推荐，明明关闭了定位、访问相机的权限，但是这款APP还是在“偷偷地”根据自己的访问记录、搜索记录再向自己推荐各类信息。

　　夏德元：人们常说，越大，责任越大。如果要对互联网平台和从事互联网信息服务的新闻提几句忠告和，两位有什么要说的？

　　陈良飞：我们要地认识到，监管部门之所以到现在才出台管理，主要的考虑是怕误伤“创新”。算法推荐当然是一项创新，会让互联网服务更具有针对性、接近性，但是在实践中，用户的可选择权消失了。我们应该意识到，互联网服务提供者并非有意和监管部门，就是没有商业，就是想过度获取用户隐私。这一切都源于的互联网行业竞争。在高速发展的中国互联网市场上，第一个这么做的公司可能大获成功，然后更多的公司就会迅速跟进，用户的隐私、选择权就在这样的互联网商业大战中被击得粉碎。上述管理就是针对用户的选择权而制定的，应该尊重用户的这一。中国的移动互联网正在高速发展阶段，萝卜快了难免不洗泥，任何互联网信息提供者都应该有这样的共识：第一，应该让用户有选择权；第二，无论用户作出了怎样的选择，该用户都应该可以正常使用这一应用程序。

　　苗若木：从大数据时代到后算法时代，新闻都应担负起阵地建设责任、价值引领责任、权益保障责任和网络责任，提高积极正向的引导力，以“内容为王”取代“技术为王”，提升新闻品质和素养。无论是算法还是大数据，新闻应驾驭技术扩大新闻内容的力和影响力，而不是被技术所驾驭，也能够在一键关闭的清朗效果之下，一条新闻生产效率和效果的“双效”高速发展之。

　　今天我们怎么做记者师到记者，从县台、市台到省台，10年来，她先后获得浙江新闻一、二等