企业算法推荐合规要点40条
2022.01.12 杨锦文 高健 金今
随着大数据、人工智能的飞速发展和广泛应用，算法已逐渐成为企业在市场竞争中不可或缺的工具。在算法驱动经济发展的同时，借助算法进行差异化定价、操控舆论、诱导沉迷与过度消费等不当利用同样对社会秩序与用户合法权益产生负面影响。在此背景下，2022年1月4日，国家互联网信息办公室等四部委联合发布《m88 casino review算法推荐管理规定》（以下简称《规定》），自2022年3月1日起正式施行。《规定》首次对“m88 casino review算法推荐”在法律法规层面进行明确界定，全方位呼应《网络信息内容生态治理规定》、《m88 casino review管理规定》、《未成年人保护法》、《国务院反垄断委员会关于平台经济领域的反垄断指南》等现有规定，从保障用户权益、内部机制建构、外部监管要求三方面赋予企业多重合规义务。本文拟以《规定》为基础，分析哪些企业受到《规定》的规制，并梳理企业使用算法推荐时需关注的40条合规要点。
一、《规定》的适用范围
《规定》第二条明确，“在中华人民共和国境内应用算法推荐技术提供m88 casino review（以下简称算法推荐服务），适用本规定。法律、行政法规另有规定的，依照其规定。前款所称应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。”由此可知，《规定》的适用对象应满足三要素，即 “提供m88 casino review”、“应用算法推荐技术”以及“向用户提供”。我们认为，《规定》适用对象覆盖范围较广，除了为人熟知的平台经济领域运营者、互联网信息内容生产传播者等大型互联网公司，涉及使用算法处理大量个人信息的企业均可能落入《规定》规制的范畴之内。
(一) 提供m88 casino review
关于企业提供的“m88 casino review”，现行《m88 casino review管理办法》第三条作出了“经营性”与“非经营性”的区分，“经营性m88 casino review，是指通过互联网向上网用户有偿提供信息或者网页制作等服务活动。非经营性m88 casino review，是指通过互联网向上网用户无偿提供具有公开性、共享性信息的服务活动。”而根据2021年1月公布的《m88 casino review管理办法（修订草案征求意见稿）》第五十二条，m88 casino review，是指为用户提供互联网信息发布和应用平台，包括但不限于互联网新闻信息服务、搜索引擎、即时通信、交互式信息服务、网络直播、网络支付、广告推广、网络存储、网络购物、网络预约、应用软件下载等互联网服务。
(二) 应用算法推荐技术
《规定》第二条第二款明确，算法推荐技术主要包括生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等。目前暂未有规范文件或标准对上述技术进行明确定义。根据现有技术的运用情况，我们认为落入规制范围内的算法技术包括但不限于：
生成合成类算法，即一种深度学习模型，主要运用于虚拟环境中的内容生成，如游戏、虚拟现实场景构建以及仍在流行的人工智能换脸应用。除此之外，一些新闻媒体、论坛也可能利用该类算法自动生成新闻、帖子、评论等文字内容。
个性化推送类算法，即基于内容、协同过滤、关联规则、效用、知识或以上要素的组合，推测出用户偏好的商品或内容的算法。常见于社交媒体、视频等内容平台以及网络电商。
排序精选类算法，即使一串目标记录按照要求进行排列的算法，主要类型包括插入排序、冒泡排序、选择排序、快速排序、归并排序等。常见于搜索引擎及内置搜索服务的网络应用。
检索过滤类算法，即从可行的方案中根据指令筛选出匹配结果。
调度决策类算法，即根据系统资源的分配策略所规定的资源分配算法，常见于外卖、网约车中派单配送员、网约车司机，为双方提供信息撮合服务的场景。
在如今的技术语境下，通过网站、小程序、移动应用采集处理大量个人信息，制作用户画像以提供精准匹配的产品或服务，是企业开拓市场的必经之路。《规定》中提及的上述算法在其中发挥着基础性的作用，在面临大量个人信息的处理需求时很难避开。因此，除大型互联网企业、科技平台公司外，在提供m88 casino review过程中涉及以个性化推送、调度决策等算法处理数据的其他企业，如自行开发小程序、应用的经营者，均需对《规定》内容予以重视。
(三) 向用户提供
向用户提供，指通过“信息触点”（是指建立消费者用户与品牌之间的连接，如发送短信、呈现搜索、个性化推荐、提供信息撮合等）直接向用户推送信息。以具体场景为例：
电商平台中入驻的商家若仅依靠平台向消费者推送个性化信息，自身并非信息服务的直接提供者，则不落入《规定》的适用范围。
一些受企业聘请的CEM（Customer Experience Management，即客户体验管理）平台，利用人工智能技术广泛采集客户体验大数据并以此为基础提供决策依据，如果涉及直接向用户推送信息，则应受《规定》规制。
二、 企业合规义务
(一) 内部机制建构
根据《规定》，企业首先应当建立健全内部机制，从内部政策、技术机制方面履行合规义务。
合规义务 | 法律依据 | 涉及主体 | 具体的合规要点 | 与《征求意见稿》相比变化 |
遵循主流价值导向 | 《规定》第六条 《网络信息内容生态治理规定》第十一条、第十四条 | 一般主体，尤其视频、文字等网络信息内容生产、服务平台 | 1、加强对主流价值和正能量内容的宣传，尤其在首页专栏、搜索栏置顶、弹窗、热门推荐等位置。 | — |
2、在完善算法技术层面，由人工训练机器人，通过语义分析、关键词分析等方法建立可以被人工智能识别的正能量模型、社会负面模型以及反低俗模型数据库，并交由算法技术对平台内容进行过滤和筛选，从而有效剔除标题党、抄袭和恶意信息[1]，尤其注意加强对本平台设置的广告位和在本平台展示的广告内容的审核巡查。 | 增加抵制不良信息积极义务 | |||
建立并支撑内部机制规则 | 《规定》第七条 | 一般主体 | 3、企业内部建立健全如下方面政策，采用适当技术措施，如“人机结合”双重审查模式，或可采取多元共治思维，邀请政府机构、新闻媒体、传播学界等专家加强外部审核监督[2]，针对上述内容定期开展培训讲座，确保企业内部合规机制的有效建立及合规意识的培养： （1）算法机制机理审核 | 增加科技伦理审查、反电信网络诈骗规则建立，并增加技术措施支撑要求 |
4、企业内部制定、采取适当方式公开算法推荐服务相关规则，并通过专门合规培训、定期考核测评等方式确保贯彻执行。 | — | |||
5、根据企业算法推荐服务的使用规模，建立相适应的内部合规团队和技术团队，在必要的时候聘请外部第三方提供支撑。 | — | |||
定期审核算法模型 | 《规定》第八条 | 一般主体 | 6、定期审核、评估、验证算法机制机理、模型、数据和应用结果。 | — |
一般主体，尤其视频、数字阅读、网络游戏等休闲娱乐平台 | 7、不使用诱导用户沉迷，过度消费等违反法律法规或者伦理道德的算法模型。如故意在游戏过关难度上有所安排以诱导用户长时间沉迷、或在反复浏览商品时强提示用户“多买多省”。[3] | — | ||
加强信息安全管理 | 《规定》第九条 《网络信息内容生态治理规定》第六条、第七条、第十条 | 一般主体，尤其视频、文字等网络信息内容生产、服务平台 | 8、建立健全用于识别违法和不良信息的特征库，制定可执行的入库标准、规则及程序。 | — |
9、发现未作显著标识的算法生成合成信息的，需作出显著标识，方可继续传输。 | — | |||
10、发现违法信息立即停止传输、防止扩散、保存记录、向网信部门和有关部门报告。 | — | |||
11、发现不良信息，依法立即采取处置措施，保存有关记录，并向有关主管部门报告。 | — | |||
加强用户模型、标签管理 | 《规定》第十条 | 一般主体，尤其电商、网约车、在线购票、点评优惠等平台经济领域经营者 | 12、加强用户模型和用户标签管理，完善兴趣点记入规则。 | 增加完善用户标签管理规则 |
13、不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息，不得设置歧视性、偏见性用户标签推送信息内容。 | — | |||
加强推荐服务页面生态管理 | 《规定》第十一条 《网络信息内容生态治理规定》第五条、第十一条、第十二条 | 一般主体，尤其视频、文字等网络信息内容生产、传输平台 | 14、首页首屏、弹窗；信息服务精选、热搜、默认搜索、榜单；基于地理位置的信息服务版块；皮肤、联想词；移动应用商店、移动智能终端预置应用软件和内置信息内容服务首屏、推荐区；专门以未成年人为服务对象的网络信息内容专栏、专区和产品等重点环节呈现弘扬主流价值观的内容。 | — |
提高规则透明度 | 《规定》第十二条 | 一般主体 | 15、鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。 | 义务减轻，“应当”改为“鼓励” |
互联网新闻信息服务特殊规制 | 《规定》第十三条 《互联网新闻信息服务管理规定》 | 特殊主体，即通过互联网站、应用程序、论坛、博客、微博客、公众账号、即时通信工具、网络直播等形式向社会公众提供互联网新闻信息服务的主体 | 16、依法取得m88 casino review许可： | 新增 |
17、规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务： | — | |||
18、不得利用生成合成类算法自动合成新闻、帖子，不得未作显著标识造成虚假信息夸大传播。 | — | |||
不得影响网络舆论 | 《规定》第十四条 | 一般主体，尤其视频、文字等网络信息内容生产、服务平台 | 19、不得利用算法注册虚假账号、雇佣网络水军，实施虚假点赞、转发等流量造假行为。 | 删除“网页导航等，实施流量造假、流量劫持” |
20、不得实施影响网络舆论或者规避监督管理行为： （1）不得利用排序精选类算法生成热搜、榜单，片面追求流量，大肆炒作娱乐八卦、低俗恶俗等有悖社会主义核心价值观内容。 | 删除“实施自我优待、不正当竞争” | |||
不得垄断、不正当竞争 | 《规定》第十五条 《国务院反垄断委员会关于平台经济领域的反垄断指南》第六条、第七条、第十二至第十七条 | 一般主体，尤其电商、网约车、在线购票、点评优惠等平台经济领域经营者 | 21、不得利用算法实施垄断、不正当竞争行为： | 新增 |
(二) 用户权益保障
其次，企业应当从保障用户知情权、选择权、特殊主体权益（未成年人及老人）、建立权利保障机制方面落实合规义务。
合规义务 | 法律依据 | 涉及主体 | 具体的合规要点 | 与《征求意见稿》相比变化 |
保障用户知情权 | 《规定》第十六条 | 一般主体 | 22、以弹窗、用户协议加粗强调等方式显著告知用户提供算法推荐服务的情况。 | — |
23、以网页、外部链接、用户协议列明内容等方式，公示算法基本原理、目的意图、主要机制。 | — | |||
保障用户选择权 | 《规定》第十七条 | 一般主体 | 24、提供根据时间、价格、地理距离等客观可定量，非针对个人特征的搜索结果排序方式。在用户个人设置页面添加选项，开启应用或者进入网站时提供关闭算法推荐选项的指引。或以弹窗形式询问是否关闭算法推荐服务。用户可以自行选择关闭识别形成的标签或者删除标签。 | — |
25、在用户选择关闭的情况下，立即停止利用个人特征进行差异化定价、搜索结果排序等算法推荐服务。 | — | |||
26、应用算法对用户权益造成重大影响的，应当依法予以说明并承担相应责任。 | 义务加重，“用户有权要求”变为“应当” | |||
保障未成年人权益 | 《规定》第十八条 | 一般主体，尤其视频、数字阅读、网络游戏等休闲娱乐平台 | 27、开发未成年防沉迷模式： | — |
28、保障未成年人身心健康： | — | |||
29、不得利用算法推荐服务诱导未成年人沉迷网络，如特殊设置关卡难度，以过长的连续游戏时间作为奖励的达成条件等。 | — | |||
保障老年人权益 | 《规定》第十九条 | 一般主体 | 30、充分提供智能化适老服务，利用算法识别老年用户群体，向其提供简单可操作的指引、支持语音输入输出、简化页面排版布局、放大字体等功能。 | 新增 |
31、开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务。 | ||||
保障劳动者权益 | 《规定》第二十条 | 一般主体，尤其电商、网约车、外卖等内部雇佣大量劳动者的平台经济领域经营者 | 32、利用算法保障平台内劳动者，如快递员、网约车驾驶员、外卖配送员的劳动权益，如合理确定订单数量、在线率等考核要素，适当放宽配送时限，优化外卖送餐员往返路线，降低劳动强度，科学确定订单饱和度，合理确定工作时长。[5] | — |
保障消费者权益 | 《规定》第二十一条 | 一般主体，尤其电商、网约车、在线购票、点评优惠等平台经济领域经营者 | 33、不得“大数据杀熟”，不得根据消费者的偏好、交易习惯等特征，在交易价格等交易条件上实行不合理的差别待遇，具体包括：平台内注册“会员”、“贵宾”、“VIP”；用户手机品牌、型号；用户的历史交易次数；交易时间和交易地点，尤其是网约车平台。既往案例中，曾有违规经营者面临差价三倍赔偿金处罚。[6] | — |
保障申诉、投诉入口 | 《规定》第二十二条 | 一般主体 | 34、设置便捷有效的用户申诉和公众投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果。 | 新增 |
(三)外部监管合规
最后，监管部门根据企业的不同属性，规定了不同的合规义务，相关企业应当相应落实。例如，具有舆论属性的特殊企业应当依法办理备案及安全评估义务，一般企业应当留存网络日志并配合调查。
合规义务 | 法律依据 | 涉及主体 | 具体的合规要点 | 与《征求意见稿》相比变化 |
舆论属性特殊主体备案、安全评估义务 | 《规定》第二十四条 | 特殊主体，包括（一）开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；（二）开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他m88 casino review。 | 35、在提供服务之日起十个工作日内通过m88 casino review算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。 | — |
36、备案信息发生变更的，应当在变更之日起十个工作日内办理变更手续。 | 由“五个工作日”变为“十个工作日” | |||
37、终止服务的，应当在终止服务之日起二十个工作日内办理注销备案手续，并作出提示用户、妥善处理用户个人信息等相关安排。 | 由“二十个工作日”变为“三十个工作日” | |||
《规定》第二十六条 | 38、在对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。 | — | ||
《规定》第二十七条 | 39、具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估： | — | ||
配合监督检查及执法工作 | 《规定》第二十八条 | 一般主体 | 40、依法留存网络日志，配合网信部门和电信、公安、市场监管等有关部门开展安全评估和监督检查工作，并提供必要的技术、数据等支持和协助。 | 义务加重，增加“留存网络日志”义务。 |
三、结语
根据《规定》以及《网络安全法》、《个人信息保护法》的相关规定，企业违反算法推荐合规义务时，除给予警告、通报批评、责令限期改正及罚款外，还可能面临暂停信息更新、治安管理处罚及刑事责任。此外，企业如果存在滥用算法破坏市场秩序、诱导未成年人沉迷、“大数据杀熟”等行为，将有可能承担更加严重的法律责任。立足《规定》相关规定，及时建立、完善算法推荐内部合规制度已成为企业发展的当务之急。
参考文献：
[1]靖明、管舒婷：《智能时代算法型内容分发的问题与对策》，载《新闻爱好者》2019年第5期。
[2]算法推荐的伦理评价及反思,https://cn.ippreview.com/index.php/Blog/single/id/510.html
[3]大数据“杀熟”如何解 未成年人权益如何保护 https://finance.eastmoney.com/a/202201072239834696.html
[4]武综执罚决〔2021〕A10057号
[5]“不得通过算法侵害劳动者权益”，官方表态守护外卖小哥权益 https://www.bjnews.com.cn/detail/162928758714616.html
[6] https://zhuanlan.zhihu.com/p/390139853
