四部门联手出击!“大数据杀熟”能否止步算法黑箱?

近年来,随着互联网经济的高速发展,大数据技术不仅为平台优化服务和精准营销提供了动力,也因“大数据杀熟”现象饱受诟病。这一行为,涉及利用消费者数据进行差异化定价和服务,严重侵害消费者权益。

为此,国家网信办等四部门近日联合发文,针对包括“大数据杀熟”在内的算法滥用问题开展专项整治,标志着国家对这一问题的治理迈入更系统化阶段。

熟客比生客价格更高?

“大数据杀熟”引发信任危机

大数据技术的应用提升了购物体验,也引发了深刻的信任危机。

今年初,“飞猪被曝3人买同趟航班价格不同”话题冲上热搜。根据网友爆料,其预订的2月7日由河南郑州飞往广东珠海的航班CZ6489,由三部不同手机、不同账号来搜索该航班,显示出不同的价格:400元、481元和1330元。

这并非孤例。据上游新闻4月报道,湖南长沙消费者注意到,WPS系统推给她的升级花费比同事更多。“我同事是‘超级会员’,只需多花8.3元/月就升级成‘大会员’。我是‘超级会员Pro’每月已经比‘超级会员’多交5元会费,现在还要多花5元/月才能升级成‘大会员’,算下来合计要比同事多花1.7元/月。我就气不过,没有升级。我同事立马升级成‘大会员’了。”

上述消费者还反映称:“在金山办公软件WPS购买‘超级会员’,不久又加钱购买了可用AI功能的‘超级会员Pro’,现在又弹窗叫交钱,若要继续使用AI功能需要缴钱升级成‘大会员’。”

“这不就是套娃式收费吗?今后是不是每增加一个新功能,就加一项收费?”消费者表示。

四部门联手出击!“大数据杀熟”能否止步算法黑箱?

据北京市消费者协会、天津市消费者协会、河北省消费者权益保护委员会三地联合调查显示,近40%的消费者明确遭遇过“大数据杀熟”,例如“多次浏览后价格上涨”“熟客比生客付出更高价格”等。

体验调查中显示,虽然平台让消费者认为拥有众多选择和优惠,但实际上其选择可能已经被平台的算法所限制。例如:

对外卖类平台标价22元的糖烤板栗米麻薯进行购买体验,结算价格出现了4元至22元的波动,价格差异超过售价的80%;

结合短视频/直播平台11位消费者的亲身体验,对售价79元的苏泊尔电热水壶304不锈钢1.7升全自动安全超大容量烧水壶电热水壶进行调查,结算价格呈现出49元至79元的波动,价格差异接近售价的40%;

对在线民宿类平台进行调查,结算价格呈现8%的价格差异。

商业机密?

算法治理需求迫在眉睫

当下,“大数据杀熟”治理仍面临算法“黑箱”问题、成本收益不对等、监管滞后与标准不一等难点。

其中,算法的复杂性和不透明性是消费者维权的主要障碍。平台常以“商业机密”为由拒绝公开算法规则,这使消费者很难证明价格差异是因“杀熟”导致。

北京消协的调研显示,多数消费者即使感受到不公平定价,也因取证难而放弃维权。以某短视频平台为例,售价79元的电热水壶,不同消费者的最终价格在49元至79元之间浮动。这种差异虽明显,但消费者因金额较小,通常选择忍气吞声。

法律界已经开始关注“大数据杀熟”引发的纠纷。一则判例中,北京一消费者发现其购买的打车服务比新用户贵10%以上,法院认定平台违反《消费者权益保护法》中关于公平交易的规定,并判决其退还差价并支付赔偿金。

类似案例说明,在消费者举证不足的情况下,法律通过推动算法透明化、加强信息披露,已开始对“大数据杀熟”进行规制。

7月1日,《中华人民共和国消费者权益保护法实施条例》(以下简称《条例》)正式施行,对大数据“杀熟”“自动续费”等问题进行治理规范。《条例》第九条第二款规定,经营者不得在消费者不知情的情况下,对同一商品或者服务在同等交易条件下设置不同的价格或收费标准。

不过,尽管法规逐步完善,但行业缺乏算法合规审计的统一标准,使得监管落地困难。

清华大学人工智能国际治理研究院副院长、人工智能治理研究中心(清华大学)主任梁正表示,算法治理面临多重挑战,包括技术固有的“黑箱”特征,即随着模型的日趋复杂、数据日趋多元,算法的不可解释、不可控性有增加的倾向。

梁正认为,如何在效率和公共利益最大化之间的权衡,是算法治理时要考虑的重要部分。以及针对算法合规审计,缺乏独立专业的第三方机构和成熟统一的评估标准,同样是目前国内算法治理存在的困境。许多平台都是自主做相关工作,但平台是否能够完全承担相应责任,无论从意愿还是能力上都有待商榷。

提升算法安全能力

四部门联合治理

11月24日,国家网信办、工信部等四部门发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》(下文简称《通知》),有关工作方案主要任务包括:重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题,督促企业深入对照自查整改,进一步提升算法安全能力。

此次《通知》内容具体包括:第一,深入整治“信息茧房”、诱导沉迷问题。严禁推送高度同质化内容诱导用户沉迷。不得强制要求用户选择兴趣标签,不得将违法和不良信息记入用户标签并据以推送信息,不得超范围收集用户个人信息用于内容推送。第二,提升榜单透明度打击操纵榜单行为,严管不法分子恶意利用榜单排序规则操纵榜单、炒作热点行为。第三,严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题。第四,严禁利用算法实施大数据“杀熟”。第五,增强算法向上向善服务保护网民合法权益。第六,落实算法安全主体责任。

《通知》要求此次专项行动自即日起至2025年2月14日,组织企业自查自纠,简单问题立即整改,复杂问题明确整改举措和期限。积极落实属地管理责任,对照《算法专项治理清单指引》(附件),对企业自查自纠情况进行深入评估。对自查不认真、整改不彻底的企业,及时组织技术力量进行核查并督促整改。

同时,《通知》要求各地网信部门要发挥统筹协调作用,牵头开展专项行动。加强与属地电信、公安、市场监管等相关部门联动,细化工作分工,压实工作责任。运用好央地各方有效技术支撑力量,积极有效推动各项任务落实,确保取得工作成效。

至于此次《通知》对行业算法治理的影响,工信部信息通信经济专家委员会委员盘和林表示,此次通知后,行业将有一轮具体行动,仅靠平台自查不可行,第三方机构和成熟统一的评估标准可能在此次指导文件发布后逐步完善。该过程需要时间,也需要政府侧配备相关人才等资源。

(来源:时间财经综合观察者网、中国消费者报、第一财经等)