当前,算法治理的核心挑战在于,算法的控制权主要集中在少数平台手中,监管部门难以施展更为多元和细致的技术手段开展监管,相比过去,未来的治理工作可能更像是一场算法的攻防战。
记者 |沈怡然
图源 |图虫创意
“算法治理曾经只是学术界和法律层面的议题,但发展到今天,更多社会阶层意识到算法治理与个人的密切相关性,大家都不能置身事外。”11月28日,针对11月24日四部委发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》(下称《通知》),清华大学服务经济与数字治理研究院副院长高宇宁称。高宇宁曾参与中国数字治理政策的研究,并提出了构建全球数字治理框架。
他认为,《通知》指向的范围和目标都比之前更广,并强调了之前未能解决的一些问题,例如平台盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”。当前,算法治理的核心挑战在于,算法的控制权主要集中在少数平台手中,监管部门难以施展更为多元和细致的技术手段开展监管,相比过去,未来的治理工作可能更像是一场算法的攻防战。
经济观察网:与过去的算法治理相比,本次“清朗行动”有哪些不同?
高宇宁:国家过去开展过几次与算法治理相关的“清朗行动”,例如2021年的行动针对的是排名推荐和信息过滤问题;而2022年的行动关注到了信息茧房和算法歧视问题,都是算法治理中的特定问题。
这一次有所不同,它是由多个部委联合主导的,且行动的范围和目标都比之前更广,内容不仅涉及算法治理本身,还扩展到了算法推荐机制对市场秩序、劳动关系等方面的影响。
经济观察网:你如何看待《通知》提及的几大任务,为什么有些被提过的问题又出现了?比如“盲目追求利益侵害新就业形态劳动者权益”现象。
高宇宁:国家再一次指向了当前劳动关系和新型劳动就业中非常关键的问题,但这个问题一直没有得到解决。
很多新型就业形态,如滴滴司机和外卖快递小哥,都是高度依赖网络平台分配任务。算法迭代导致了这些人在算法驱动的平台上的劳动强度和压力持续上升。
此外,很多平台都是以企业合作或外包的形式处理实际的劳动雇佣关系,比如让他们注册为个体商户,使得许多新型劳动者在承担平台分配的任务时处于不利地位,缺少必要的保障机制。
实际上,二十届三中全会已经提到要“健全灵活就业人员、农民工、新就业形态人员社保制度”。国家反复提及这一问题,信号很明显,后续一定会从约束平台的角度出发,设定一些规则来保护这些群体的利益,甚至将其纳入现行的社会保障体系。
经济观察网:目前问题尚未得到解决的原因是什么?
高宇宁:还是没有探索出可行的机制。我们不太可能要求大平台完全按照企业劳动合同关系来雇佣几百万新型劳动者,并承担全部社会保障,未来可能会形成一种分担机制,劳动者和企业各自负担一部分,兼顾到双方的利益。
经济观察网:算法实施大数据“杀熟”也是被清朗行动反复提及的问题。
高宇宁:大数据“杀熟”现象已经超越了传统经济学的定义,它不仅能根据不同市场、购买数量或购买者来定不同的价格,甚至对同一个购买者的不同次购买也能精准实施歧视性定价。购买次数多少,购买时间和搜索渠道不同,价格都会有差异。这在经济学里甚至可以称为“0级价格歧视”,也就是几乎每次订单都可能有不同的歧视性价格,这让卖方最大限度地攫取了消费者剩余。
国家市场监督管理总局参与了本次行动,可以说非常关注这一点。
经济观察网:这个问题尚未到解决的原因又是什么?
高宇宁:因为没有明确的规则或国家行动来管理大数据“杀熟”。监管的难点在于如何界定、全面识别这些现象,尤其是价格差异是否由大数据“杀熟”引起,以及这种差异有多少是“杀熟”造成的,多少是市场供需波动导致的。
这对接下来的市场监管和反垄断工作提出了很高的要求。
除了技术难度以外,现在算法治理面临的根本难题是,算法大多掌握在平台手里,监管层目前还不能直接穿透这些算法。不过仍然有很多技术手段,比如设置一些控制特征的虚拟用户来模拟下单过程,通过观察算法给出的订单或报价,就能识别出是否是因为这些虚拟消费者的特征而产生了歧视性差异。
经济观察网:接下来做算法治理时,是否也要从促进数字经济发展和平台监管中找到平衡?
高宇宁:这个情况其实和现代市场经济国家长期以来对反垄断的措施挺相似的。我们并不是要反对平台发展,我们鼓励平台各自依靠能力竞争,比如平台用算法争夺对方的客户,或者用不同方式吸引消费者,这是可以的;我们反对的是平台之间的共谋、串谋,或者是联合价格垄断之类的行为。
比如,几个平台利用算法在数据收集、信息传递以及自动化决策等方面的能力,以一种比传统企业之间的协同行为更加隐蔽的方式达成垄断协议;几个平台通过算法程序来控制价格,使得价格在他们之间保持一致,这样就限制了市场竞争,形成了垄断。
未来,监管层需要通过技术手段来识别和预防共谋行为,比如通过提高市场透明度、建立算法合谋识别机制等。
经济观察网:算法治理需要借鉴传统反垄断的一些管理经验吗?
高宇宁:是的,但更多是思路和框架上的借鉴。比如之前平台强迫商家二选一的情况,最后的罚款额度都需要一套计算方法。再比如平台利用垄断地位影响市场的程度有多大,几家如果形成了垄断关系,对市场的影响和福利损失有多大,这些都需要专业估算,进而对垄断行为进行处罚或者罚款。
The END
微信号 |eeojjgcw
新浪微博 |@经济观察报