算法推荐或将可主动关闭
算法推荐或将可主动关闭，近日，国家网信办等四部门联合发布《互联网信息服务算法推荐管理规定》，规定对当下随处可见的算法推荐进行了各项制约，算法推荐或将可主动关闭。
国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》（以下简称《规定》），自2022年3月1日起施行。《规定》要求，算法推荐服务提供者向用户提供不针对其个人特征的选项，或者便捷的关闭算法推荐服务的选项。来看人民网的报道↓
按照《规定》，应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。
《规定》明确了算法推荐服务提供者的信息服务规范：
要求算法推荐服务提供者应当坚持主流价值导向，积极传播正能量，不得利用算法推荐服务从事违法活动或者传播违法信息，应当采取措施防范和抵制传播不良信息；
建立健全用户注册、信息发布审核、数据安全和个人信息保护、安全事件应急处置等管理制度和技术措施，定期审核、评估、验证算法机制机理、模型、数据和应用结果等；
建立健全用于识别违法和不良信息的特征库，发现违法和不良信息的，应当采取相应的处置措施；
加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则；
加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在重点环节积极呈现符合主流价值导向的信息；
规范开展互联网新闻信息服务，不得生成合成虚假新闻信息或者传播非国家规定范围内的单位发布的新闻信息；
不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为。
同时，针对群众普遍关心的用户权益保护问题，《规定》明确了对于算法推荐服务提供者的用户权益保护要求。
一是算法知情权，要求告知用户其提供算法推荐服务的情况，并公示服务的基本原理、目的意图和主要运行机制等。
二是算法选择权，要求向用户提供不针对其个人特征的选项，或者便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。
三是针对向未成年人、老年人、劳动者、消费者等主体提供服务的算法推荐服务提供者作出具体规范。如不得利用算法推荐服务诱导未成年人沉迷网络，应当便利老年人安全使用算法推荐服务，应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。
近日，国家网信办等四部门联合发布《互联网信息服务算法推荐管理规定》，规定对当下随处可见的算法推荐进行了各项制约，包括不得利用算法屏蔽信息，过度推荐、操纵榜单，不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。（据1月5日人民网）
“算法”进入我们生活的方式，就好像是一场突如其来的暴雨，当你还没来得及反应时，已经铺天盖地。各种软件、APP，社交平台打着“为你好”的名义，拼命地将大数据研判认为你所喜欢的讯息塞给你，点击过一件商品，立刻就有几十件同类商品涌入视野；看过一个短视频，下次就会有一堆风格内容相似的短视频推送过来；甚至看个新闻，都能精准猜到你喜欢看什么样的资讯……一开始可能觉得挺方便，久而久之，难免会有一种被窥探，被控的感觉。
逐利是商业的天性，所谓的“猜你喜欢”“量身定制”不过是精致话术，互联网平台利用大数据去收集粉丝用户的个人信息和使用习惯，用算法推测去其个人爱好和消费需求，然后以精准推送的名义，向用户强推讯息，表面上看，是迎合用户习惯，帮大家节省了搜索时间，实际上不过是一种变相的“强行推销”。
人的喜好和兴趣都是会变动的，乍见之欢不等于长久之喜，自己都不见得完全了解自己，数据又怎么可能真的了解呢？只凭“算法”去推荐或屏蔽某些信息，甚至操纵各类榜单，对不同的用户“看人下菜碟”，事实上是一种“数据霸凌”。凭借着大数据的强大功能，给用户打造越来越狭隘的“信息茧房”，还筑起高高的围墙，自以为是地“投喂”，让很多人的视野越来越狭窄，信息源越来越单一，就很容易偏听偏信、上当受骗。所谓“大数据杀熟”“算法歧视”，其实就是建立在这种信息严重不对称的基础上，对消费者知情权和选择权的无形剥夺。
算法作恶，此前已经有过诸多议论，类似于“大数据杀熟”“千人千价”之类的问题，消费者反映强烈，多地都曾有消协介入。而《网络安全法》《数据安全法》等相关法律政策中，也对于算法推荐的管理规范有所涉及。但一直以来，由于缺乏专门的法规和可操作性强的措施，算法对于用户的干涉愈演愈烈。四部门联手出台规定，规范算法，至少是对这一技术的应用有了更为明确的约束——要求算法推荐服务提供
者保障算法知情权，用户必须知道，算法在运行，怎么运行，运行的基本原理、目的意图和主要运行机制；保障算法选择权，不针对用户个人特征的选项也要提供，用户有便捷地关闭算法推荐服务的权利。
谁也不想总被算计，谁也不想成为数据的奴隶，所以，对算法的规范管理赢得了一众叫好声，但其中也不乏担忧的声音。那就是，大数据无处不在，无形无状，难以留下证据和痕迹，怎么管才能管得住，怎么管才能管得好，如何保证服务提供者按照规定去做？看上去详细的法规会不会沦为一纸空文？这些是每一个互联网用户最为关切的，也是当下迫切需要细化和落实的。
算法技术本身无罪，但人如何使用技术，就应有法律与道德的约束。要管好算法，不让它成为算计用户的陷阱，就要管好算法背后的人，畅通用户的'投诉渠道，并且建立规范严谨的审核机制，制定严格的审查和处罚制度，让监管技术算得比算法更精更细，不能只让算法放肆地“监视”用户，更要以锐利雪亮的眼睛，盯住操控算法的每一双手，多方介入，多管齐下，推动算法推荐服务规范发展，让用户合法权益得到最完善的保护。
[ 算法的复杂性以及算法使用者的刻意隐瞒，使得绝大多数人无法理解算法的工作原理，导致作为算法使用者的大型科技公司，特别是那些几乎控股了所有与个人生活行为相关的数字平台公司得以处于事实上的支配地位，形成“算法霸权”。 ]
我国算法推荐政策明确落地，算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用都将在新规定下受到监管。
《互联网信息服务算法推荐管理规定》（下称《规定》），由国家网信办、工信部、公安部和市场监管总局等四部门联合制定，将自2022年3月1日起施行。根据《规定》，算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。
多位接受第一财经记者采访的行业人士表示，作为我国首部聚焦于算法治理的部门规章，《规定》的落地给到用户更多自主选择权，矫正过去平台商业利益最大化的倾向。其背后有对《反不正当竞争法》《数据安全条例》《个人信息保护法》（下称《个保法》）《未成年人保护法》的延续，也意味着2022年，我国进入算法监管元年。
从野蛮生长到有法可依
近年来，算法应用在给政治、经济、社会发展注入新动能的同时，算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用导致的问题也深刻影响着正常的传播秩序、市场秩序和社会秩序，给维护意识形态安全、社会公平公正和网民合法权益带来挑战。在互联网信息服务领域出台具有针对性的算法推荐规章制度，是防范化解安全风险的需要，也是促进算法推荐服务健康发展、提升监管能力水平的需要。
此次《规定》明确，应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。深度科技研究院院长张孝荣对第一财经记者表示，无论是网站还是移动APP，都属于算法规定规制范围。重点来看，受此次《规定》影响较大的包括拼多多与淘宝等电商类、头条抖音系的内容类、百度搜索类以及其他行业等。算法规定涵盖了信息服务规范、用户权益保护、 监督管理、法律责任等多方面内容，对维护用户权益保障行业有序发展起到了积极推动作用。
透镜公司研究创始人况玉清对第一财经记者表示，《规则》是国内首个有明确界限和操作指引的算法监管规则。这种发展规律在况玉清看来，是大数据行业应用普及到一定程度的必然结果——行业发展规律便是商业化走在监管之前，任何创新行业皆是如此。
世辉律师事务所合伙人王新锐将2022年称为“算法监管元年”，他称，无论是中国的《个保法》，还是欧盟的GDPR，均对自动化决策作出了原则性规定，而类似《电子商务法》《反垄断法》等法律及配套规则，也对大数据杀熟、滥用算法排除竞争作出了原则性限制。但上述法律规则无论是对行为还是结果进行规制，目前都非常抽象，操作性不强。
Marteker创始人冯祺对第一财经记者表示，算法作为技术本身，并未起到真正的“科技向善”作用，甚至对消费者造成骚扰。《规定》的落地本质上来说是一件好事，让广告营销人“带着镣铐跳舞”，让行业从野蛮生长到有法可依，让平台更侧重于保护用户的权益，推出用户真正需要的内容与服务。
当然，平台需要一定的适应期，冯祺称，比如通过联邦学习技术多维度参考，从群体中提取共性；另外，通过内容营销、KOL营销、广告植入等方式，也具备较好的效果。
要推荐，不要霸权
一位长期关注互联网行业的人士对第一财经记者表示，此次监管重点选择落地在算法层面，一大原因在于算法对应的恰恰是用户权益——《规定》内容中提到，网信部门会同电信、公安、市场监管等有关部门建立算法分级分类安全管理制度，同时根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据敏感程度以及对用户行为的干预程度，对算法推荐服务提供者实行分类分级管理，一定程度上体现了精准治理的立法理念。
其中，该人士称，“舆论属性”包含了用户评论与发言，“社会动员能力”则是指平台所服务的用户基数。而互联网营销区别于常规营销的最大特点，正是用户画像，算法的目的就是找到最精确的衡量标准。
此前行业有“算法没有价值观”的观点，引发一番辩论。但随着平台规模的扩大，算法价值观也被动附带上平台的倾向性。“先有倾向性目标，后有倾向性算法。向善的服务提供向善的算法，‘不善’的服务提供‘不善’的算法。”上述人士表示。
近年来，以金融行业为例，为了获得平台公司的金融服务，中国消费者往往需要向其提供个人信息，进而产生过度采集数据的问题，如在2016年至2017年“现金贷”高速增长期间，出现买卖借款人信息的情况。
此前在第三届外滩金融峰会上，中国金融四十人论坛资深研究员、清华大学五道口金融学院院长张晓慧表示，算法的复杂性以及算法使用者的刻意隐瞒，使得绝大多数人无法理解算法的工作原理，导致作为算法使用者的大型科技公司，特别是那些几乎控股了所有与个人生活行为相关的数字平台公司得以处于事实上的支配地位，形成“算法霸权”，从而严重危害了算法相对人也就是消费者的合法权益。
贵州数据宝产品研究院院长李可顺对记者表示，《规定》的落地，一个比较明显的影响在于通过算法高强度曝光某些视频或商品，让消费者过度消费甚至做出错误消费决策的行为得到收敛。而不好的内容或商品将无法获得算法红利加成，平台非“合规”收入增速将趋缓。
当然，李可顺认为个性化推荐只是算法推荐的其中一方面，从技术角度看，算法分可解释性强与可解释性弱两类，前者更易于审查，因此现阶段实际并没有非常完善的算法标准过渡方案，让消费者掌握是否个性化推荐的主动权，是解决方案可选项之一。
王新锐表示，算法本身并不是新技术，但因算法应用产生一些社会问题近几年日益受到各界关注。相比数据，算法的技术性更强，更不容易被描述和感知，因此如何制定和执行规则就更为困难。
算法红利期是否会终结
算法滥用对行业、对消费者的负面影响早已暗自滋长。
此前微博发布公告称将加大力度处理热搜榜热门话题榜刷榜行为，对刷榜行为的直接受益者进行处罚。为的是确保热搜榜、热门话题榜的真实可信，不断对产品本身进行算法升级，并设置了以大数据识别为基础的防刷体系。对于存在作弊特征的行为，系统都会实时进行识别和拦截。
但据记者从娱乐行业以及接近微博方面人士处了解到，微博外有大批供应商企业，可以通过小号刷等方式，进行舆论引导。
当时微博调整的核心便是引入编辑人工干预的模式，将算法挖掘作为基础，在排序和选择上放弃纯粹算法的方式，引入编辑对违反有关法律法规的内容、社会负能量的信息、过度娱乐化的信息进行人工干预。
微博之外，电商与短视频行业也在算法监管逐渐落地期间进行自我调整。2021年10月，天猫、京东在发货环节上对消费者订单中涉及个人的敏感信息进行加密处理，软件服务商与商家从淘宝开发平台或订单推动服务中已无法获得收件人隐私信息。
《数据安全条例》出台后，微信更新《隐私保护指引》，添加“视频号、公众号、看一看、搜一搜个性化推荐或展示机制”，增加个性化自主控制路径。包括抖音、快手、今日头条、B站、小红书等平台均在2021年11月初完成针对隐私政策的更新。记者体验发现，抖音与快手均将个性化广告选择按键设置在明显位置。
聚焦于算法政策主要影响到的短视频与电商行业，李可顺对第一财经记者表示，在短视频等场景，算法会偏向于大V账号，而非优质内容小号，形成平台内的流量垄断行为，而这将直接影响用户对于信息的公平获取及知情权。
同时，平台的流量也会偏向于部分头部电商号，这些账户商家的产品未必优质，但在内容算法的不断轰炸下，用户易受引导，进而做出异常的购买行为，甚至形成了普遍的冲动消费。
中国电子技术标准化研究院信息安全研究中心审查部总监何延哲对第一财经记者表示，现在到了对短视频信息推送踩刹车的时间，预防信息茧房效应过重，为消费者的选择权更换更大的空间，对算法透明度与用户选择权进行引导。
何延哲称，此前各平台已根据《个保法》对个性化推荐功能进行修正，结合当下的《规定》，平台需要给到用户更多的选择权，过去的推荐个性化往往是商业利益最大化，而非真正的站到用户角度为其提供个性化的高质量的推送服务。
此次《规定》明确了算法推荐服务提供者的用户权益保护要求，包括保障算法知情权，要求告知用户其提供算法推荐服务的情况，并公示服务的基本原理、目的意图和主要运行机制等；保障算法选择权，应当向用户提供不针对其个人特征的选项，或者便捷的关闭算法推荐服务的选项。对向未成年人、老年人、劳动者和消费者等主体提供算法推荐服务的，《规定》要求不得利用算法推荐服务诱导未成年人沉迷网络，应当便利老年人安全使用算法推荐服务。
但是，面对算法，个体的监督和举证还有一定的难度，而行业的健康发展也并不能仅仅寄希望于平台的自我监督与完善。
【算法推荐或将可主动关闭】相关文章：
银行网点大量关闭12-28
女生主动分手都很绝情01-04
12星座最不主动排行12-28
如何让内向的男生主动12-27
主动和你说晚安的男人12-26
分手后女人不再主动联系你01-05
表扬员工工作积极主动的话01-01
准爸爸应主动参于胎教01-03
最不主动的星座排行榜01-04
天蝎是主动还是被动的星座01-04
