• 网页客服,欢迎咨询
    社群信息
        社群信息
    • 圈主:管理员
    • 粉丝:1 人
    • 人气:107 关注度
        联系方式
    • 微信:cxyinfo
    • 地址:天元区天台路209号
    《互联网信息服务算法推荐管理规定》及解读
    2022-01-12 13:22:08 331780
  • 收藏
  • 管理

    国家互联网信息办公室与工业和信息化部、公安部、国家市场监督管理总局近期共同发布了《互联网信息服务算法推荐管理规定》,并将于2022年3月1日起施行,该规定将对所有互联网行业以及相关服务商及相关人员产生深远影响。

    一、《互联网信息服务算法推荐管理规定》的具体条款

    第一章 总 则

    第一条 为了规范互联网信息服务算法推荐活动,弘扬社会主义核心价值观,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,促进互联网信息服务健康有序发展,根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规,制定本规定。

    第二条 在中华人民共和国境内应用算法推荐技术提供互联网信息服务(以下简称算法推荐服务),适用本规定。法律、行政法规另有规定的,依照其规定。

    前款所称应用算法推荐技术,是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

    第三条 国家网信部门负责统筹协调全国算法推荐服务治理和相关监督管理工作。国务院电信、公安、市场监管等有关部门依据各自职责负责算法推荐服务监督管理工作。

    地方网信部门负责统筹协调本行政区域内的算法推荐服务治理和相关监督管理工作。地方电信、公安、市场监管等有关部门依据各自职责负责本行政区域内的算法推荐服务监督管理工作。

    第四条 提供算法推荐服务,应当遵守法律法规,尊重社会公德和伦理,遵守商业道德和职业道德,遵循公正公平、公开透明、科学合理和诚实信用的原则。

    第五条 鼓励相关行业组织加强行业自律,建立健全行业标准、行业准则和自律管理制度,督促指导算法推荐服务提供者制定完善服务规范、依法提供服务并接受社会监督。

    第二章 信息服务规范

    第六条 算法推荐服务提供者应当坚持主流价值导向,优化算法推荐服务机制,积极传播正能量,促进算法应用向上向善。

    算法推荐服务提供者不得利用算法推荐服务从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动,不得利用算法推荐服务传播法律、行政法规禁止的信息,应当采取措施防范和抵制传播不良信息。

    第七条 算法推荐服务提供者应当落实算法安全主体责任,建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施,制定并公开算法推荐服务相关规则,配备与算法推荐服务规模相适应的专业人员和技术支撑。

    第八条 算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等,不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。

    第九条 算法推荐服务提供者应当加强信息安全管理,建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的,应当作出显著标识后,方可继续传输。

    发现违法信息的,应当立即停止传输,采取消除等处置措施,防止信息扩散,保存有关记录,并向网信部门和有关部门报告。发现不良信息的,应当按照网络信息内容生态治理有关规定予以处置。

    第十条 算法推荐服务提供者应当加强用户模型和用户标签管理,完善记入用户模型的兴趣点规则和用户标签管理规则,不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。

    第十一条 算法推荐服务提供者应当加强算法推荐服务版面页面生态管理,建立完善人工干预和用户自主选择机制,在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。

    第十二条 鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略,并优化检索、排序、选择、推送、展示等规则的透明度和可解释性,避免对用户产生不良影响,预防和减少争议纠纷。

    第十三条 算法推荐服务提供者提供互联网新闻信息服务的,应当依法取得互联网新闻信息服务许可,规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务,不得生成合成虚假新闻信息,不得传播非国家规定范围内的单位发布的新闻信息。

    第十四条 算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发,不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施影响网络舆论或者规避监督管理行为。

    第十五条 算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制,或者妨碍、破坏其合法提供的互联网信息服务正常运行,实施垄断和不正当竞争行为。

    第三章 用户权益保护

    第十六条 算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。

    第十七条 算法推荐服务提供者应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务。

    算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。

    算法推荐服务提供者应用算法对用户权益造成重大影响的,应当依法予以说明并承担相应责任。

    第十八条 算法推荐服务提供者向未成年人提供服务的,应当依法履行未成年人网络保护义务,并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式,便利未成年人获取有益身心健康的信息。

    算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息,不得利用算法推荐服务诱导未成年人沉迷网络。

    第十九条 算法推荐服务提供者向老年人提供服务的,应当保障老年人依法享有的权益,充分考虑老年人出行、就医、消费、办事等需求,按照国家有关规定提供智能化适老服务,依法开展涉电信网络诈骗信息的监测、识别和处置,便利老年人安全使用算法推荐服务。

    第二十条 算法推荐服务提供者向劳动者提供工作调度服务的,应当保护劳动者取得劳动报酬、休息休假等合法权益,建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。

    第二十一条 算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者公平交易的权利,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

    第二十二条 算法推荐服务提供者应当设置便捷有效的用户申诉和公众投诉、举报入口,明确处理流程和反馈时限,及时受理、处理并反馈处理结果。

    第四章 监督管理

    第二十三条 网信部门会同电信、公安、市场监管等有关部门建立算法分级分类安全管理制度,根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等对算法推荐服务提供者实施分级分类管理。

    第二十四条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续。

    算法推荐服务提供者的备案信息发生变更的,应当在变更之日起十个工作日内办理变更手续。

    算法推荐服务提供者终止服务的,应当在终止服务之日起二十个工作日内办理注销备案手续,并作出妥善安排。

    第二十五条 国家和省、自治区、直辖市网信部门收到备案人提交的备案材料后,材料齐全的,应当在三十个工作日内予以备案,发放备案编号并进行公示;材料不齐全的,不予备案,并应当在三十个工作日内通知备案人并说明理由。

    第二十六条 完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。

    第二十七条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。

    第二十八条 网信部门会同电信、公安、市场监管等有关部门对算法推荐服务依法开展安全评估和监督检查工作,对发现的问题及时提出整改意见并限期整改。

    算法推荐服务提供者应当依法留存网络日志,配合网信部门和电信、公安、市场监管等有关部门开展安全评估和监督检查工作,并提供必要的技术、数据等支持和协助。

    第二十九条 参与算法推荐服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的个人隐私、个人信息和商业秘密应当依法予以保密,不得泄露或者非法向他人提供。

    第三十条 任何组织和个人发现违反本规定行为的,可以向网信部门和有关部门投诉、举报。收到投诉、举报的部门应当及时依法处理。

    第五章 法律责任

    第三十一条 算法推荐服务提供者违反本规定第七条、第八条、第九条第一款、第十条、第十四条、第十六条、第十七条、第二十二条、第二十四条、第二十六条规定,法律、行政法规有规定的,依照其规定;法律、行政法规没有规定的,由网信部门和电信、公安、市场监管等有关部门依据职责给予警告、通报批评,责令限期改正;拒不改正或者情节严重的,责令暂停信息更新,并处一万元以上十万元以下罚款。构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

    第三十二条 算法推荐服务提供者违反本规定第六条、第九条第二款、第十一条、第十三条、第十五条、第十八条、第十九条、第二十条、第二十一条、第二十七条、第二十八条第二款规定的,由网信部门和电信、公安、市场监管等有关部门依据职责,按照有关法律、行政法规和部门规章的规定予以处理。

    第三十三条 具有舆论属性或者社会动员能力的算法推荐服务提供者通过隐瞒有关情况、提供虚假材料等不正当手段取得备案的,由国家和省、自治区、直辖市网信部门予以撤销备案,给予警告、通报批评;情节严重的,责令暂停信息更新,并处一万元以上十万元以下罚款。

    具有舆论属性或者社会动员能力的算法推荐服务提供者终止服务未按照本规定第二十四条第三款要求办理注销备案手续,或者发生严重违法情形受到责令关闭网站、吊销相关业务许可证或者吊销营业执照等行政处罚的,由国家和省、自治区、直辖市网信部门予以注销备案。

    第六章 附 则

    第三十四条 本规定由国家互联网信息办公室会同工业和信息化部、公安部、国家市场监督管理总局负责解释。

    第三十五条 本规定自2022年3月1日起施行

    二、对《互联网信息服务算法推荐管理规定》的解读

    该规定对算法推荐技术的定义几乎涵盖了全部互联网依靠算法提供服务作为商业模式的公司。

    重点是舆论监管,最重点的监管对象应该是有舆论属性和社会动员能力的算法推荐服务商。基于算法传播的内容,要符合主流价值。

    规定了算法的社会公德和伦理要求,以及公正公平,公开透明,科学合理和诚实信用的原则。

    要求算法推荐服务提供者坚持主流价值导向,传播正能量,促进算法向上向善。不得危害国家安全,扰乱经济秩序,社会秩序,侵害他人合法权益,不得利用算法推荐服务传播法律行政法规禁止的信息。

    规定了算法推荐服务者的定期审核义务,并且要建立识别违法和不良信息的特征库。不得将违法和不良信息关键词计入用户的兴趣点,并据以推送信息,不得设置歧视性或偏见性的用户标签。

    算法推荐服务商,在首页首屏,热搜,精选榜单,弹窗等重点环节,应呈现符合主流价值的信息内容,不得造假,操纵榜单或检索结果,不得实施自我优待,不正当竞争,影响网络舆论或规避监管。

    算法推荐服务者,向用户提供不针对个人特征的选项,这条是和个人信息保护法对接的。还补充了用户如果认为算法对其权益造成重大影响的,有权要求算法推荐服务提供者予以说明,并采取相应的改进或补救措施。

    未成年人的保护条款除了保护身心健康之外,还规定不得向未成年人推送可能引发模仿不安全行为和违反社会公德行为,诱导未成年人不良嗜好等,可能影响未成年人身心健康的内容,以及不得利用算法推荐服务,诱导未成年人沉迷网络。

    对于平台服务的提供者,规定平台向劳动者提供工作调度服务的,订单分配,报酬构成,支付工作时间,奖惩的相关算法,应当履行劳动者权益保障义务。

    对电子商务类企业也对接个人信息保护法以及电子商务法要求不得大数据杀熟。

    特别规定了具有舆论属性和社会动员能力的算法推荐服务商应当履行备案手续并开展安全评估留存算法推荐服务日志不少于6个月。

    强化算法透明度要求,同时注意精细化区分

    算法透明度是一种针对算法运行的规制原则,要求算法的设计方或者使用方披露算法逻辑、输入数据等算法要素,有效解决算法操纵用户思想行为、问责缺失等问题。对于深度学习算法,还面临更为复杂的不可解释问题。当前,揭开算法面纱、强化算法透明度已成为公众熟知且被普遍认可的算法伦理准则,在部分国家和地区也已经写入立法。

    《管理规定》将算法公开透明列为基本原则,并从三个维度进行精细化设计,注重算法透明度目的和制度的统一,有效平衡算法透明和企业利益。首先,强调对用户透明,明确告知机制。

    《管理规定》第16条规定平台应当以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。该条款并不要求披露源代码,仅要求说明算法的运行逻辑、运行目的,同时强调以简明有效的方式实现有意义的透明度,便于用户实现知情权和选择权。其次,对监管部门透明,确立算法备案制度。《管理规定》第24条要求通过算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息。一方面,算法备案有助于监管部门掌握算法运行状况,评估算法风险。另一方面,可作为固定证据的手段,在损害发生时,平台应就算法损害结果、输入数据、运行目的等是否符合备案信息进行说明解释,并承担不利后果。最后,对社会透明,推动广泛监督。《管理规定》要求,遵循公开透明原则,鼓励行业组织加强行业自律,督促指导平台制定完善服务规范并接受社会监督,制定并公开算法推荐服务相关规则。由于大型平台公共属性增强,算法公开成为平台履行社会责任的重要内容。

    算法透明度要求也进一步推动平台积极探索人工智能算法的透明度方案。如引入知识图谱、因果推断等可解释的技术;在深度学习算法中引入可理解的人工规则,不完全由深度学习算法模型完成自动化决策;对于算法模型进行可视化分析,辅助人们理解算法模型的决策逻辑,提升透明度等。

    算法人工干预和自主选择是重塑人类在算法应用中的自主性,避免算法操控的重要手段。欧盟《通用数据保护条例》第22条确立免于自动化决策权,其初衷即是避免人类受到未经人工干预的算法控制,以免造成人类自主性丧失、人类责任缺失等有损人类尊严的问题。随着算法应用的普及,自主选择权的实现需求更为迫切。在工信部开展的侵害用户权益专项整治行动中,“刚刚聊到某个话题,很快就能在某个APP中收到相关广告”“APP没有关闭推荐算法的选项,有关闭选项的也隐藏在很难找到的地方”“用苹果手机叫车,打车费用更高”等侵害用户权益问题突出。


    《管理规定》落实《个人信息保护法》《电子商务法》有关退出算法推荐的权利内容,要求平台应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项。美国2021年6月《过滤气泡透明度法(提案)》、俄罗斯立法等均提出应向用户提供非基于算法生成的信息选项。同时,《管理规定》首次提出对用户标签进行选择管理的权利,确保对输入数据的干预。用户标签作为一种输入数据,直接影响算法模型训练和结果的生成。赋予用户对针对个人特征用户标签的选择、删除权利,有助于用户在一定程度主导个人兴趣、避免歧视等。


    在具体落地层面,单纯退出算法推荐是否能满足用户最佳需求,如何在界面设计中满足用户对大量标签的选择删除权利,针对隐性标签如何实现标签管理等,需要发挥行业标准、伦理规则、企业实践等软法作用,积极探索用户赋权方式。如有平台对用户退出界面进行精细化设计,用户既可以选择关闭全部个性化推荐,也可仅关闭基于所在位置、基于搜索记录、基于关注列表的个性化推荐,为更好平衡用户体验、个人自主及风险控制,提供了优质企业实践方案。

    全面确立平台主体责任,同时注重场景回应治理

    数字经济背景下,平台借助算法技术,成为数据生产要素的提炼加工者和资源配置方,同时扮演市场参与者和组织者双重身份,具备了一定的社会权力。近年,国外网络平台责任改革趋势显著。2020年9月,美国司法部提出改革《通信规范法》230条款的法律提案指出,因使用算法推荐内容,平台具备了审查言论,并将特定观点施加于用户的能力。2021年10月,美国众议院提出《对抗恶意算法的正义法案》 ,指出为获取利润,平台主动设计个性化算法宣扬极端主义、传播虚假信息和有害内容,应当改革美国《通信规范法》第230条对平台责任的豁免规则。2020年底,欧盟也发布《数字服务法(提案)》,拟对《电子商务指令》中的平台责任进行改革。法案对超大型平台使用算法推荐系统作出规范,要求向用户说明推荐系统的运行规则、采用参数,并赋予用户调整参数的权利。同时要求平台定期向数据服务协调员和欧盟委员会提交审计报告,其内容包括风险评估、采取的风险控制措施等。

    在我国平台责任设置上,《管理规定》注重遵循主客观相一致、权责一致的原则,并遵循《数据安全法》《个人信息保护法》等立法精神,进行分级分类和场景化治理。一方面,《管理规定》划清算法推荐服务的红线,规定了不得设置诱导用户沉迷或过度消费、不得利用算法虚假注册账号等十项“不得”要求。另一方面,《管理规定》提出应当定期进行算法审核、评估,完善网络日志留存,配合安全评估和监督检查等十六项“应当”要求。在分级分类管理方面,确立了舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等判定标准,为平台监管和企业合规提供指引。

    《管理规定》对部分重点场景进行集中回应。如对于未成年人网络沉迷问题,落实《未成年人保护法》网络保护专章内容,规定应当开发适合未成年人使用的模式、提供适合未成年人特点的服务,提出不得利用算法推荐服务诱导未成年人沉迷网络等要求。在老年人权益保障方面,提出应按照国家有关规定提供智能化适老服务,依法开展涉电信网络诈骗信息的监测、识别和处置,便利老年人安全使用算法推荐服务。在劳动者权益保障方面,要求平台建立完善订单派送、报酬构成及支付、工作时间和奖惩等相关算法,维护新就业形态劳动者的劳动权益。针对大数据杀熟问题,要求不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。


    总体来看,数字经济发展不断加速,算法作为数字社会新型生产力的地位和作用日趋明显,《管理规定》的出台是上层建筑构建的重要步骤。以《管理规定》为重要法律依据,必将促进形成治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局,推动数字经济发展行稳致远。

    本公众号法律内容由北京市京师(深圳)律师事务所联合创始人熊乙麟律师团队代为运营,办公地址:深圳市福田区彩田路西广电文创中心5、6、7、9、10、11层,联系电话:13418549161



    上一页:刚刚!国务院发布稳外贸15条 下一页:抢抓新一代信息技术融合创新带来的重大机遇 构筑我国智能制造发展新优势
    全部评论(1)