算法是指解决方案的准确而完整的描述。大数据的时代，传统的信息检索技术已经不能满足用户对信息发现的需求，推荐算法的出现，可以帮用户获取更丰富，更符合个人口味和更加有意义的信息。电视剧《西部世界》中因赛特(INCITE)公司的核心科技可以收集海量个人信息，分析其行为模式和思维惯性，预测人类大部分的生命轨迹，这种在以前看起来天马行空的想象正在逐步逼进现实世界。算法技术既可以带来财富，让生活更加便利快捷，但也会肆无忌惮地入侵私人领域，为此各个国家纷纷出台相关规定来对相关技术进行规制。
2022年3月1日，《互联网算法推荐服务管理规定》（下称《规定》）正式生效，对利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术作出了细致的规定，以促进互联网信息服务健康有序发展。本文将通过对比《规定》第八条在征求意见稿与正式公布稿之间的差异，为您解读算法推荐在消费领域中的理解与适用。 第八条规定的解析与变迁 征求意见稿 正式发布 算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型。 算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。 本条从正反两个角度对算法服务提供商提出了要求，正面要求其应当建立自身的算法自我管理审查体系，反面则是要求不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。 在征求意见稿发布之时，第八条后半段的规定为“不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型”，正式公布后修改为“不得设置诱导用户沉迷、过度消费等违背公序良俗的算法模型”。其中要求算法模型“不得设置诱导用户沉迷”的表述值得商榷。“沉迷”是一种主观的情绪状态，在法律上或许无法对这种主观的感受进行一个规制进而对产生沉迷的原因进行认定。人性是那么地脆弱善变，每个人的兴趣爱好、生活环境都不一样，每个人会陷进去的具体喜好也很难完全相同，甚至一个人在人生的不同阶段喜欢的东西也在不断变化。“沉迷”是自然人的自主选择，如同有人就喜欢喝奶茶、吃烧烤，商家把食物研制得越来越贴合人们口味，甚至有人天天享受这类商品导致自身健康系统紊乱就医，但国家也只能倡导健康饮食，无法做到禁绝商家售卖。算法推荐服务提供者设计的算法模型仅是为了商业利益，不断刺激彼时彼刻最能激发每一位用户兴趣点的一种方案。喜爱与沉迷的界限本来就模糊不清，如用法律来对其进行界定恐难以找到一个合理的标准。 草案中的“高额消费”修改为“过度消费”，正是考虑到每个人的情况都不一样，高额消费的具体的标准根本无法制定，何为“高”，何为“低”，不同收入，不同消费习惯的人有各自不同的认知，很难界定，使用“过度消费”的表述，既可以应对不断变化的社会环境，也能让司法机关在裁量时拥有更多的空间。如未来因此条出现具体案件，则可以结合具体的证据来对“过度消费”进行认定，让各类算法推荐服务都能得到合适的评价。“公序良俗”改为“违反法律法规或违背伦理道德”，将具体的“雷区”范围进行细化，也对企业自身合规机制提出了更高的要求。 企业如何应对？ 对于正面要求，企业需要建立专门专项的机构，或是在原有合规、内部治理架构中设立相关部门，定期对算法模型进行审核、评估、验证，使其符合现行有效的法律法规。 就本条的禁止行为来说，企业更多得考虑“吸引”与“诱导”的界限，不断根据社会主流价值观与舆情方向调整自身的标准，保证其在法律法规的底线之上。对于某些特殊行业的企业（如社交类、金融类等），因行业本身的敏感性与社会性，需要投入更多的人力资源在合法合规业务之上。 对于诱导沉迷与高额消费，比较典型的就是游戏对未成年人造成的影响。《规定》中的第十八条再次提到“不得利用算法推荐服务诱导未成年人沉迷网络”，这里不多讨论游戏与未成年人的关系，这个命题太过宏大，但尤其值得注意各种游戏的营销都可以与算法推荐服务相交织，成年人尚且经不住各种糖衣炮弹式的宣传导致冲动消费，更别说心智尚未成熟的青少年。不少青少年投入大量的时间在各类游戏中，而且想方设法的避开游戏内的规定来充值消费，这是否能解读为游戏运营商通过算法推荐技术设计了让人眼花缭乱的服务内容从而诱导沉迷了呢？近年来，未成年人用家长的账号消费后，家长将服务提供者诉至法院的案例层出不穷，尽管每个案例情况有所出入，但是大多数案例结果都是各打五十大板，家长未尽到管理责任，服务提供者也需承担部分损失。这也提醒企业，在运用算法推荐技术时需要在前期设计方案就考虑到“诱导”的风险，保留相关资料与初始文件，以免方案实施后出现争议陷入困境。 企业还应保持对社会热点事件与重大舆情的灵敏感应。如在2021年5月，“为明星打投倒牛奶”事件频上热搜，迅速引发社会和相关部门的重点关注，随后网信办开展“清朗”行为，对此类乱象大力整治。这种小事件发酵成大麻烦的例子也提醒相关企业在事情刚出现时就应及时就业务进行再次合规筹划，结合现行有效的法律法规重新评估相关业务的风险，并组织专业人员开展风险防控和补救措施。特别是随着《规定》的出台，更是得全程留心社会风向变化，做好准备工作应对随之而来的民事、行政甚至是刑事风险。规定明文指出，违反《规定》第八条的，法律、行政法规有规定的，依照其规定；法律、行政法规没有规定的，由网信部门和电信、公安、市场监管等有关部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停信息更新，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。除了第八条的细致规定，算法推荐服务提供者还应满足《规定》的其他要求，互联网信息服务算法备案系统已经上线，《互联网弹窗信息推送服务管理规定（征求意见稿）》，也正在向社会公开征求意见，各类企业应当及时跟进相关规定，注意潜在风险。 结语 算法推荐技术本身不应有善恶之分，但在法律法规和伦理道德的约束下，算法不能以中立之名肆意发展，算法推荐服务提供者有责任调整算法逻辑，在提供算法推荐应当遵守法律法规，尊重社会公德和伦理，遵守商业道德和职业道德，遵循公正公平、公开透明、科学合理和诚实信用的原则。 人是目的，不是工具。技术是为了人类享受更好的生活，而不是设计一系列冷酷的算法来针对人性的柔软之处，把人当作赚钱的工具。引人向善是技术之美，技术与法律互相成就才能让社会有序发展。
