9月29日，国家互联网信息办公室、中央宣传部、教育部、科学技术部、工业和信息化部、公安部、文化和旅游部、国家市场监督管理总局、国家广播电视总局等九部委制定了《关于加强互联网信息服务算法综合治理的指导意见》（以下简称《意见》）。

《意见》计划，将利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。

强化企业主体责任

在健全算法安全治理机制方面，《意见》强调，加强算法治理规范。健全算法安全治理政策法规，加快制定算法管理规定，明确算法管理主体、管理范围、管理要求和法律责任等，完善算法安全治理措施，制定标准、指南等配套文件。

关于算法应用的“紧箍咒”正在收紧。近年来，对算法的规范零散见诸于对“大数据杀熟”等不正当竞争行为的监管条文中，以及网约车、外卖等调度决策类平台的算法规制。

8月27日，算法推荐迎来明确监管。国家互联网信息办公室发布《互联网信息服务算法推荐管理规定（征求意见稿）》（以下简称《征求意见稿》）并公开征求意见，重点监管具有舆论属性或社会动员能力的算法推荐服务提供者，同时保障平台用工权益及消费者权利等。

除健全相关政策法规等外，《意见》还特别提出，强化企业主体责任。企业应建立算法安全责任制度和科技伦理审查制度，健全算法安全管理组织机构，加强风险防控和隐患排查治理，提升应对算法安全突发事件的能力和水平。企业应强化责任意识，对算法应用产生的结果负主体责任。

关于平台企业如何合法合规地利用算法进行自动化决策已有了判例。此前，杭州互联网法院判决了一起网络服务纠纷案，被告所运营的网站平台以大数据排查的方式认定原告账户存在“流量异常”，冻结其佣金17万元。原告则以协议条款不符合公平规定、平台未披露判定流量异常证据等为由，要求平台解除对自身账户的冻结。最终平台胜诉。

该案通过对算法自动化决策的司法审查，厘清了平台行使算法权力的合理边界，明确了算法自动化决策的程序正当性标准，将平台履行公开算法规则、合理解释技术原理、第三方专业机构验证等责任作为判定规则。

推进监管模式创新

《意见》指出，有效监测算法安全风险。对算法的数据使用、应用场景、影响效果等开展日常监测工作，感知算法应用带来的网络传播趋势、市场规则变化、网民行为等信息，预警算法应用可能产生的不规范、不公平、不公正等隐患，发现算法应用安全问题。

同时，积极开展算法安全评估。组织建立专业技术评估队伍，深入分析算法机制机理，评估算法设计、部署和使用等应用环节的缺陷和漏洞，研判算法应用产生的意识形态、社会公平、道德伦理等安全风险，提出针对性应对措施。

此外，还应有序推进算法备案工作。建立算法备案制度，梳理算法备案基本情况，健全算法分级分类体系，明确算法备案范围，有序开展备案工作。积极做好备案指导帮助，主动公布备案情况，接受社会监督。

《意见》还提出了持续推进监管模式创新。持续研判算法领域技术发展新形势，推进监管模式与算法技术协同发展，不断完善、升级、创新监管的方式方法和治理举措，防范监管模式落后导致的算法安全风险。

针对监管模式和技术治理的创新，在9月11日由南方财经全媒体集团、广州琶洲人工智能与数字经济试验区管理委员会共同指导、琶洲智库主办的琶洲数智论坛（第2期）上，中国社科院法学所副研究员、中国法学会网络与信息法学研究会副秘书长周辉指出了其未来的发展方向——以合规科技与监管科技作为主要发力点。 

这两个概念最早来自于金融领域，前者定义为金融机构“采用新技术满足多样化的监管需求”，后者则指监管主体用于提高监管效率、驱动监管创新所采用的技术。周辉表示，传统的监管手段往往已无法适应多元化的治理需求，随着运用技术手段满足数据治理需求的发展趋势逐渐由金融向互联网领域拓展，监管科技与合规科技的概念也开始被引申至对应的应用场景中。

“科技正以强大的力量重塑数十亿人的生活，而其影响力在未来将会更大，对于国家和社会而言，需要跟进相应的技术手段进行治理。”周辉说。

推动算法公开透明

《意见》要求，树立算法正确导向。弘扬社会主义核心价值观，在算法应用中坚持正确政治方向、舆论导向、价值取向。提高正能量传播的精准性和有效性，规范信息分发行为和秩序，推动企业借助算法加强正能量传播，引导算法应用向上向善。

网络生态治理目前仍然存在难题。中国政法大学网络法学研究所副所长商希雪此前接受21世纪经济报道记者采访表示，一方面，淫秽色情、赌博诈骗以及负能量内容充斥网络空间；另一方面，在“流量为王”的畸形观念下，平台利用算法模型通过热搜、超话、炒作、聚集等信息推送方式投放给用户“刺激”的话题和“热点”的信息，大众在被动“吃瓜”时也会感到精神的不适。

对此，上述提到的《征求意见稿》就曾要求，从手段方面规范内容服务平台的信息推送行为，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容等。

算法的公开透明在近期呼声愈烈。《意见》指出，推动算法公开透明。规范企业算法应用行为，保护网民合理权益，秉持公平、公正原则，促进算法公开透明。督促企业及时、合理、有效地公开算法基本原理、优化目标、决策标准等信息，做好算法结果解释，畅通投诉通道，消除社会疑虑，推动算法健康发展。

9月10日，人力资源社会保障部等四部门维护新就业形态劳动者劳动保障权益召开平台企业行政指导会。美团于当日首次公开关于骑手配送时间的计算规则，介绍了预估送达时间背后的算法逻辑。此举被视为在国家对平台和资本监管力度持续加大下，企业进行的一场提前危机公关。

最后，《意见》还提出了防范算法滥用风险。要求维护网络空间传播秩序、市场秩序和社会秩序，防止利用算法干扰社会舆论、打压竞争对手、侵害网民权益等行为，防范算法滥用带来意识形态、经济发展和社会管理等方面的风险隐患。

平台影响舆论及社会动员方面的规制在《征求意见稿》中已有体现，而针对算法等对公平秩序的破坏，《网络交易监督管理办法》《电子商务法》《国务院反垄断委员会关于平台经济领域的反垄断指南》，以及将于今年11月1日起施行的《个人信息保护法》等多部法律法规中都有明确规定，要求不得在交易中对个人实施“差别待遇”。