任赖锬 朱雨琪|算法自我指涉与规范冗余机制的阐释与面对

由于算法的“自我指涉”与“自我强化”效应,在算法初始设置和算法运行维度若出现错误的意志注入或算法自运行的偏向势头,则会不断放大错误,造成算法对配送员的不合理约束结果。为此,注意到规范冗余机制具有的能以秩序框架将算法治理限制在合理范围边界的价值特性,故将其设置耦合进算法自指逻辑中。具体而言,在算法初始设置维度,以“保障性代码强制性设置”之“取”与“舍弃性运算的鼓励性设置”之“舍”的二元关切为进路。在算法运行管理维度,以“符合规范标准下的算法监控”之“督”与“透明化目标下的算法解释”之“促”的双重目标追求为目的。实现冗余对冲要求加码和趋于折扣的守法行为的模式意图。从而祛除捆绑于外卖配送员身上之“枷锁”,以至兼顾算法善治与权益维护的高效性、稳序性之秩序彼岸。

任赖锬 朱雨琪|算法自我指涉与规范冗余机制的阐释与面对

一、问题的提出

2020年9月,一篇名为《外卖骑手,困在系统里》的文章一针见血的道明了平台嵌入AI智能算法深度学习模型可能给配送员带来“疯狂且要命”的约束,形成“算法压缩—配送困难—指标下降—等级降低—算法再压缩”的恶性循环。由此可见,在“外卖配送平台—配送员”之关系下,数据资料与算法资源掌握在平台方手中,其可能借“技术中立”的外衣利用算法实现企业意志的注入,达到“专制化”,从而在一定程度上形成了“平台—配送员”“配送员—配送员”之间逐渐拉大的结构差距。同时,值得注意且迫切应视的一点在于,在平台算法运行中,将极大可能出现一系列科技伦理问题,例如平台以奖赏、惩罚或其他难以察觉方式影响用户行为,而使之与自我利益相符的此类“意志输送”下的“科技傀儡”控制。又如算法自我学习误区所导致的对不同骑手的“算法歧视”偏倚。何以解决此类问题,主要在于进一步深入研究算法的运行逻辑与聚焦与之相关的规范衔接,进而期以在机理解析的基础之上梳分维度,明确规范层的有效架构。

二、算法自我指涉:不合理约束的双重发生逻辑

尼古拉斯·卢曼(Niklas Luhmann)在其著作中提到了社会系统的“自我指涉(Self-Referential)”效应,阐述在于,“社会系统是一种在一个封闭循坏的过程中不断地由沟通制造出沟通的自我制造系统”。遵循这一逻辑,外卖配送平台的“算法系统”也是具有这一效应特征的。外卖配送行业内,平台方出于追求“管理效率”而普遍将算法嵌入电子运营体系中,无论是建成以算法为基础的派单计算、路线测绘、智能对接系统以适用于每单配送过程之中,又或是形成以算法为运算中枢的“用户反馈—等级评价—配送调整”制度以在“配送之外”仍长期约束在平台配送员,其均在平台方设置一类“模板式”的算法运行代码后,以衍生数据作为“食粮”,进行自我学习、自我调整而输出“更新式”结果。亦即是说,外卖配送平台的算法治理即为一类市场性的“数治”,其“自足的”逻辑以“计算结果来自算法运算数据之本身”为表征,难以从外部视角对结果产生反思性评价,何种数据输入于何类运行代码,仅导向唯一输出结果。职是之故,唯一可外部干预之处,也是将影响整个算法系统的底层逻辑之处,即为平台方对原始代码模型的调整。

进一步而言,在确定初始代码并遵照算法逻辑而展开时,学习型算法将会遵循动态反馈的模式将前端数据结论反馈到后续算法改进之中,产生出一类“新代码”。这种“自修性”的算法调整,呈现出自指效应上的“自我强化(Self-Reinforcing)”特性。但实质上,这一种闭环式结构,所更新代码者并非平台方而是算法本身。也就是说,即便新代码不符合规范、甚至是人类的价值观理性,它依旧仅会根据新的数据来“掩盖错误”而非“修正错误”。在这一层面上,算法犹如一个“判官”,甚至是一个可能肆意作出“法律二值代码性”之“合法/不合法”与否决断之外,仍评价行为之其他要素的“判官”。就此而言,无论是初始代码的原始错误,或是算法运行失误,都将会在这一“判断—重构”过程中被逐步放大,乃至形成可怕的“雪崩”后果。

综如所述,平台方对初始代码的设置的“意志性”是否偏离“平等性”,以及算法的“自我驱动”是否偏向误区,是产生对配送员不合理约束的双重发生肇因。在“酿成极为严重后果”时的“嗣后成本”,与“前置性预防成本”和“过程性监督成本”之间,或许厘清机理并择之后者,是填弥算法错误性自指与持续性扩大的有效、稳序勘误方式。

在市场经济活动中,算法正试图干预竞争与资源分配,极大可能触犯自由公平市场的良性运作机制,而其中所滋生出的风险即为“算法垄断风险”。有别于市场支配地位中的“横向垄断”概念,平台方相比于配送员一方而言属于较强势的控制地位,而作为控制中枢的算法系统,平台方对配送员实施的是一类与“上下级”关系类似的“纵向垄断”。实践中常出现的利用排名算法植入所产生的算法垄断风险亦会体现在外卖配送平台的经营机制之中。在这一语境下,配送员等级评价制度是外卖配送平台利用排名算法进行算法垄断的典型体现,这类制度会隐形控制着配送员在平台的全周期行为,例如配送员会因为担心分数低、等级低而接不到好单,从而被迫提升接单频率、提升配送“投入成本”,却在“多送”中可能出现“多错”的结果而造成扣分、等级下降,陷入闭环。这将使得配送员原本应获得的“自由度”变为在算法“长期性捆绑”而非“短期性压榨”下的“虚假自由”,从而导致社会对配送员的评价进一步降低,社会地位受严重影响。

或许有一种观点认为,这种等级评价机制所产生的影响,不正体现着各行各业均可能出现的“必要的内卷”,在市场经济发展的波动范围之内。然而,这种观点的合理性在于“必要”一词的限度,跳脱出“必要”而产生的不良结果,则为意志注入错误的本质体现,将形成对配送员“剩余价值”的无形压榨。此时,“算法不应设而偏设”的“程度错误”就出现了。

(1)强制“超额游戏”

外卖配送平台出于“自获利益性”与“用工激励性”的双向考量,经常会在等级体系的基础之上设置如“跑单多、好单多、积分多、提成多”的游戏化激励机制,体系化机制模式如美团的“服务星级”阶梯化激励机制,分散性机制模式的例如冲单奖励、补贴激励、“单王榜”的“单王”站点奖励等多环节的激励措施设置。受此吸引,一部分配送员将不再满足于最基本的配送体量所带来的利益收获,而自愿加入这场游戏。这种“超额游戏”的设置似乎让工人控制自己的“机器”而非受其控制,所以“游戏成为相对满意,或者马尔库塞所称的压抑满足的一部分……这种需要的满足再生产了‘自发的奴役’”。

似乎到这一维度,这种“超额游戏”符合配送员自愿性、获利性与平台方利益增值的“双赢”局面。但是,若更加深入一步,当“超额游戏”的受众将不愿意加入者也强制纳入游戏之内,这场游戏的性质将被改变。例如,在“超额游戏”的不断进行下,极少部分参加游戏的“高玩”骑手的数据将会被反馈至算法,算法将会趋向“对标分析”,认为平台的配送效率均值应当提升,从而导致整个平台的配送要求(包括配送时限、配送单量等)不断趋于严格。这将使得无法、或难以提升效率达到平台算法之“期待”的骑手被算法标记、歧视,严重影响劳动之公平性。就此而言,“超额游戏”算法本身是平台意志注入与配送员意志协商一致的合理尝试,但若迈向“变相强制”的计算维度,则为“算法不应设置”之部分。

(2)异化“末位限制”

在等级评价机制内,有激励之设置,便亦有处罚之设置。在现在的外卖配送行业内,一大惯例在于对配送员配送不合格行为予以扣分/罚款。以美团为例,其发布的《2021年度美团骑手权益保障社会责任报告》以分数加减作为等级变动“子因素”,而正向加分与负向扣分的认定在于服务达标与否,其认定的决定性要素是顾客的评价。实践中,往往是由于顾客通过评价系统进行恶意性差评、随意性差评与误解性差评之行为,导致配送员的系统评分降低。而随着评分下降、等级降低,处于末位范围的配送员也会受到用工限制,例如配送费用相较于等级高时有所下降、配送单量推荐相对较少等等。

同样的,在这一层面下,对末位骑手“相对性”的约束,似乎也体现平台理性经济人的“酬劳照顾”抉择—平台不可能就“销冠”与“普通员工”以同等关照。但是,若更加深入一步,当这种“末位限制”之“限制”超出了“必要”的范围,其将产生异化。例如,部分外卖配送平台对等级内的配送员采用“阶梯式”派单模式(上一等级骑手挑选完后,下一等级骑手可选择剩余订单),末位的配送员甚至长时间处于无单可配的局面。这种职业架空虚置的情形,与企业对末位员工的“末位淘汰”制度十分类似,其不符合规范、不合理性已然体现。因此,即使对末位范围配送员采用末位限制制度,也应当在极多数一般情形下保障其最基本的配送单量与配送报酬(若配送员长期故意以“低服务质量”之态度进行配送,则可以适用设置“禁止接单”期限制度,但启动条件应趋向严格认定),防止这一制度异化落入“算法不应设置”之境地。

与积极干预的意志错误相反,存在着消极放弃的一类意志错误,即平台方在算法设置时应当考虑某类因素或作出某种关切以保障配送员利益,却并未如此做而导致不合理约束的一类错误。平台方的这一类错误甚至在世界范围内均有存在。例如,2021年,意大利博洛尼亚法院判决外卖配送平台Deliveroo使用的骑手信誉排名算法具有“歧视性”且违反法律。这一算法会处罚所有缺勤者,而不区分是无故缺勤或是生病等无法出勤的原因。但实质上,意大利总工会就这一算法现象援引法院观点,并表示平台完全可以根据骑手缺席的不同原因作出不同处罚,而若不区分对待则完全是因为平台方“不愿意”而非“不可能”。在我国的外卖配送行业中,亦有类似的情形存在。例如一位外卖小哥曾就他的实践经历表示,在配送送达时提前告知顾客并经顾客同意先行放置离开的情形中,若餐品被偷则配送员也要赔偿损失。甚至若不赔偿,则可能会被判定“虚假配送”,遭受更大的赔偿负担。并且,即便通过平台申诉机制申诉也多“置之不理”,陷入未有申诉接口一般的“申诉无门”窠臼。可见,“顾客获准”与“申诉误判”这两大各具符合规范、合理性的“护身符”在算法的“逻辑至上”的运算下逐渐失去作用,平台方在设置算法时也没有尽可能就必要“例外情形”作精准纳入、使算法“揭开事件面纱”分析与处理趋向真正的损益衡平;而是在关键结点处“浅尝辄止”,以“空壳途径”充数。

就此类情形,可以发现,外卖配送平台方对用工算法仍存在着“应设而不设”的阙如之处。这一类空白多是由于平台方以“设置成本较高”而仅初步区分以“欲盖弥彰”或根本不加区分,甚至是出于一以概之的算法更有利可图的错误意志注入而导致的。职是之故,在平台方消极放弃的意图趋向下,将会导致算法无法成为配送员群体工作行为符合规范管理的“执行者”。

在理论层面上,平台算法本身难以对用工情形予以“详尽”考量,而在不详尽中以“灵活变化”之化约逻辑嵌入而追求“相对详尽”的考量又是困难的。我们所在的世界与社会本身就是一种“复杂的适应性系统(Complex Adaptive System)”,这种复杂性造就了无数种可能的事物关系。同时,社会主体的进一步互动意味着将自己的选择建立在另一方选择的期望基础之上,形成了双重的不确定性,成倍增加了“可能关系”。而为将此无序、不确定的社会混沌秩序以一类简化的新秩序概括,则要对复杂性进行化约,成为解释各类社会现象与社会活动之基本方法。

具体来看,平台控制者、受控制者及受其影响者亦构成一个“小社会”系统。“商户—骑手—顾客—管理者”此四大主体在“取餐—送餐—送达—等待”四个阶段的相互联系以及可能的其他主体纳入互动(例如配送员在配送过程中撞伤路人)之情形下,复杂性就展现出来了。为更好地解决复杂性所带来的诸多可能弊端,平台算法也以化约复杂为意在鹄的。然而,为实现效率,复杂性化约构建过程要求系统以二元符码的方式自律运作,例如法律系统以“法/不法”二元编码实现运作封闭性,政治系统以权力之“掌权/不掌权”为二值代码。但正如前述,平台算法是一个评价多种要素的“判官”,何为算法系统化约核心的二元符码难以进行一般性确认,往往需要在特定场景下区分设置。而若以“合代码性/不合代码性”为一般标准则又会有“新瓶装旧酒”的弊端。因此,算法的复杂性化约构想往往在操作上是困难的,即便在一定范围、一定程度上实现了化约的价值,这类算法也因企业意志、地域背景、平台性质之不同而难以推广、难以转适增值。

在应用层面上,本不能统概一切考虑情形的平台算法在“更新式学习”中,极容易受到应用场景的影响。由于算法以数据为自完善的尺码,排除合理数据误差的不可避免性外,有一类数据将会导致算法的重设逻辑从“误差”转向“误区”之歧向—即“默会知识”性数据。“默会知识”于外卖配送行业的表征体现为“外卖骑手圈”内大家所知的“近道”。然而,“默会知识”却具有导致并不符合规范、合理的结果的两种路径。

其一,符合规范“默会知识”的不合理“征用”将导致不符合规范、合理之结果。例如,有骑手送餐时候发现可以从侧门的“抄近道”以节省配送时间的窍门,而多出可供其支配的盈余时间。但平台利用大数据发现此区域内送餐时间普遍盈余,则“征用”此自主性,再次缩短了配送时间,无形间增加配送员的配送压力。类似的行为亦包括前文所提到的,在激励机制中对标“高玩”骑手的配送数据导致整个平台的配送要求大幅提升,以至严格要求骑手而甚至有“变相压榨”的意味。

其二,不符合规范“默会知识”的“拿来适用”也将导致不符合规范、合理之结果。现在的外卖配送行业中,各地逆行配送的骑手比比皆是,平台给予骑手的配送路线甚至亦为逆行路线。在骑手为获得更多报酬而较为普遍选择多单并行的行业态势下,有配送员表示,即便平台算法要求逆行,但按照平台规划路线走订单才不会超时,故此不得已在极高可能产生的“高额处罚”与较高可能产生的“交通风险”中选择了挑战后者。而究其不合法路线推荐的背后原因,在于当一部分骑手在“风险与利益”中以后者为主要考量而选择逆行的“成功经验”被算法捕捉到后,算法将会将其纳入训练基础,从而“逆行配送”这类“默会知识”也将慢慢转变为算法普遍推荐下的“显性知识”。就此,一个新的恶性闭环又出现了:利用不惜违法挑战算法漏洞的骑手的经验更容易被算法纳入优化经验范畴,算法的发展趋势将会与他们的不符合规范工作之方式相近,他们也将成为更容易获得收益的群体。从而,社会心理与算法逻辑交融耦合的一类错误转向的“马太效应”愈发明显。

三、规范冗余机制:缓冲属性的弹性式规范设置

“冗余”之概念最早来源于工程学之中,指以备用元件向连接方式提高系统可靠度的一类尝试。卢曼首先在法律论证中引入冗余。其认为无论在普通法系或大陆法系内,人们都需要接触法令解释,这就需要法律论证为规范适用之判决提供理由。法律论证是法律系统的产物,是“法律系统的自我观察”,而冗余是法律论证得以可能的条件。就此意义上,规范的冗余机制设置是其作为法律系统,面向现实地以设置一个可供对既有的、现存的、将来的变项作出反应与有效推理的机制将具有“理论性”的规范秩序以“解释化”阐述,转向实践性落实之模式设置。

这个技术性议题转向法律适用命题的核心维度在于如何设置一个可以适用与解释不断更新、常变之社会现象的机制。这一机制也正是场景灵活、考虑情势多样、主体关系交织复杂的外卖配送行业之算法治理框架构建的“骨架需要”。也即是说,在外卖平台的算法治理中设置规范冗余机制,与行业对符合规范的追求相一致。同时,正如其文义的合理解读一般,“冗余并非浪费,而是余地与防火墙”,这类机制的架构面向即为设置一段“缓冲区”。唯有寻求规范的弹性,才能在多样的法律场景下收缩约束应约束的,放开规制可激励的,实现制宜价值。也即,在“矫枉”与“取法”时,以“过正”与“取乎其上”的冗余保留对冲“枉行”与“取乎其下”的缺玷。

规范上的冗余主要体现为两种情形,其中一种为“当守法行为趋向于加码时,规定就会相对宽松,以冗余对冲加码”。遵循这一脉络,这一类规范冗余设置应当包含一般约束性规则和倡导性规则。

具体展开而言,其一,一般约束性规则是约束力相较于严格限制性规则而言较低的一类规则,且由于其调整对象、情景在一定程度上具有特殊性,不必要严苛规制或严格规制会造成不当后果。例如,外卖骑手在限速通行路段行驶,根据交通规则超速10%才会予以罚款,原因在于骑手会出于避险意思而一般以低于限速的车速行驶,此即为守法加码。若立规者期待其提升实际行驶车速,则一般需要提升惩罚启动标准,以冗余对冲加码。又如,在算法洽才嵌入平台治理的时期内,这一具有“新技术”特征的机制将必然会出现“科林格里奇困境(Collingridge’s Dilemma)”的“踌躇”。此时若出现一类严格性限制规则——好似“当算法治理一旦触碰法律底线平台方将承担巨额赔偿责任”,将会在行业内产生“寒蝉效应”。那么这类“新技术”的适用积极性将被严重扼杀,算法给外卖配送行业所将带来的蕴藏价值也将因平台方对“违法成本”的担忧而无法发挥完全。

其二,倡导性规则是鼓励、提倡人们为或不为某种行为的规范。其在治理形式上表现为从“外在约束”转向“内在治理”的自律导向规则。在我国,为消弭网络立规严重落后于互联网发展实际的滞后性,倡导性规则在这一治理领域尤其常见。虽然,倡导性规则的约束力较一般约束性规则、严格限制性规则之程度低,但由于其对社会秩序巩固、规范运行稳序具有“引导性”价值,故规则中也面向社会提出了“要求性”讯号。就广义角度而言,守法是守法主体的意志行为,其行为或不行为受其意志支配,而当该意志与含政策等规范之“要求”吻合,则意志所施具体行为则体现为客观上的合法行为而排除了违法行为这一结果的产生。因此,倡导性规则也应纳入“守法”的范畴,对冲守法行为的加码趋势之冗余规范也在其中有所体现。例如,《关于维护新就业形态劳动者劳动保障权益的指导意见》第10条对于企业算法用工的申诉机制构建与完善即为“指导性”规则,平台申诉机制的建立健全导向与“向善”理一分殊,但并不以“至善”为评价标准。

进一步而言,可见这一类规范冗余模式的市场性因素在于,平台方出于成本的考虑而往往并没有达到“倾其全力”的资本注入。一般性约束规则与倡导性规则的存在,即在考虑到企业的“收益顾虑”之基础上,对标规范的“畅想性图景”充盈“现实性履行”与其“未满”的间距。本质而言,也就是让平台方能够更积极地、更无顾虑地进行资本投入,推动外卖配送行业能够自完善、自发展,促进新行业环境迈向繁荣样貌。

规范冗余的第二种情形是“当守法行为趋向于打折扣时,规定就会相对严苛,以冗余对冲折扣”。例如,《关于落实网络餐饮平台责任切实维护外卖送餐员权益的指导意见》第2条规定,不得将“最严算法”作为骑手考核要求。“不得”一词,在此条的规范语言角度展现出立规者对平台方以严格算法框罩骑手、以极高程度的订单标准作为骑手考核标准的“零容忍”。在冗余机制的棱镜下,实然情景是仍有部分企业以“最严算法”限制骑手,却与立规者希冀之应然情景(所有企业都不能以“最严算法”限制骑手)有所差异,这种差异就是规范的“冗余存在”。从而,“零容忍”绝对不能成为“适度容忍”,否则将由于秩序概念模糊而陷入不可控的境地。

进一步而言,可见这一类规范冗余模式的市场性因素在于,平台方出于利益的驱使或是运维的疏忽而逾越法律的底线规定,也即现实是“严重的”。在商业趋利与秩序性的博弈下,立规者为降低“逾越”的严重性,从而设置了一类“取乎其上”的冗余机制,体现为严格限制性规则。

同时,需要注意的一点在于,无论是“倡导性规则”“一般约束性规则”或是“严格限制性规则”均可能出现在法律甚至是其他规范类文件之中。三者界分的核心维度在于“约束力”之强弱,但仍是在“规范”的范畴之内。例如,网络安全法作为一部法律性质之规范,第12条第2款展现其“零容忍”之态度而为“严格限制性规则”,但其第13条则为“倡导性规则”。因此,在研究规范冗余机制的设置操作时,既不能局限于法律研究,也不能跳脱出规范之领域。

四、耦合关切典型:平台方全周期行为要处谱系

因应算法自我指涉不合理约束的产生之核心关切在于“初始外来干预”与“算法自我运行”两个典型方面的规范化、秩序化,而规范冗余机制的合理架构在于就“冗余对冲行为加码”与“冗余对冲行为折扣”两个典型向度的规范设置予以考量。在前述规范冗余机制可以嵌入外卖平台算法治理的兼容性基础之上,进一步耦合“关切典型”,即在“初始外部设置”与“算法自我运行”两个场景中研究各自的冗余模式设置。在算法直接或间接控制配送员的全周期过程中,构造平台方应为、不应为、建议为与不为之行为的要处谱系,明算法治理之重点。

平台算法无论在设置代码或是自我学习时均不能穷尽一切可能以规制用工场景的局限性必然存在,这无可争议。但由于此类局限性导致的大量配送员用工期间权益得不到保障甚至被侵害的场景,屡见不鲜。为此,与其仅持赌注于算法计算时的偶然适配,毋宁在前置设置中尽可能完善代码规制,在技术上所“取”。配送员在配送全周期最易受侵权而无所救济的维度,一是在于算法一概性不追溯事实的惩罚认定,二是在于获罚后申诉机制的虚设,这也是“保障性”代码亟待完善的两大情形。同时,若仍旧以可设性为要求,或在出现侵权情形后追求平台方责任,那么完善这一代码设置的要求将极大可能被成本所冲淡。出于此,这类必要的“保障性”代码设置应当归入平台方的义务谱系,在规范中增设有关条款,以强制性兜底保障运行,以“规范冗余对冲行为折扣”。从而在规范上对“算法应设而未设”之部分以增设而亦有所“取”。

具体而言,其一,规范应要求平台方就重要节点的算法逻辑设置具备“差异性”与“求实性”。正如前文所提及的案例,不区别骑手为何不能配送而一概处罚与同事不同罚的算法缺陷常有存在。区分用工情形的真实情境而作出算法决策是规范之秩序性追求。首先,规范应当要求平台方根据大数据分析,在骑手用工全周期中的重要争议节点作差异化的算法设置,例如设置“骑手为何无法配送—是由于主观原因还是客观原因—主观原因是否具有不可苛责性—可苛责的原因作何惩罚”“骑手配送是否送达—无法送达的真实原因为何(导向①...②...③...)—此类原因是否应当惩罚—应当惩罚应如何惩罚”等链条性的发散代码运算逻辑。其次,规范应当要求在“逻辑支”中调动算法的领域联系,交织“逻辑网”以证实用工的真正情景为何。例如在上举的第二个链条当中,如在顾客以“骑手并未送达外卖”进行投诉的情形下,算法系统应当调度GPS数据、配送时间记录数据、顾客当期评价及往期评价数据等数据内容来分析骑手是因为“堵车超时(通过结合分析GPS+时间数据+客户评价等以证明)”“道路施工绕道”等原因而“真实地”并未送达。或是因客户虚假投诉而致的“已送达”仍被投诉的情形(通过结合分析GPS数据中骑手是否经过并停留配送目的地+客户往期评价等以证明)。

其二,规范应要求平台方申诉机制之运行代码设置以“算法复核”为前置,以“存档制度”为后置。为减少企业的申诉解决成本,也为尽可能消弭人工意志的不正当偏倚,规范应当要求平台方就骑手对遭遇不当行为的申诉进行算法的初步复核。同时,如现在大多平台申诉机制中的“先由机器人回答您的申诉问题”而后“人工为您服务”的机制并未达到本文所称“算法复核”前置的程度,而称其量为“算法点读”。因为在此类平台的申诉接口中,机器所回答问题的模板都是先前设置的且无法就超越模板情形的疑问作出合理反馈。因此,规范所要求的“算法复核”应当亦如上述一般发挥算法的模块联系,调度数据还原真实场景,而后归入“判断单元”进行决策。并且,虽然以算法之复核为前置程序一定程度上能减少不中立的人为决断,但不可避免的也会在算法之复核之后进入人工确认环节。就此,部分平台方的错误意志便注入其中。而为进一步纾解这一抵牾,应当要求平台方设置涵盖申诉之“复核—确认—处理”信息的“存档制度”。同时,市场管理有关部门也应当定期查看“存档”作出行政确认与评价考核,从而将申诉的处理结果与平台的信誉评价、业绩评价相联系,将促进平台方追求真实的、完整的、兼顾的申诉处理结果。

“算法应设而未设”部分应增设而有所“取”,自然的,“算法不应设而偏设”部分亦应有所“舍”。在外卖配送平台算法所运维的配送员等级评价机制系统中,强制“超额游戏”与异化“末位限制”部分的运算即为应有所“舍”的存在,所弃有其重要益处。但是,一是由于算法系统在平台中的“一体性”特征,在原本适用于所有配送员群体的一套激励、处罚机制下再做代码区分,将面临巨大的成本投入。二是治理“超额游戏”的强制性将会降低原本算法逻辑下的配送标准均值,平台方原本因配送要求提升而促进配送员加大配送效率从而获取的超额利益,也会因系统的调整而丧失,即平台预期利益的降低。三是治理“末位限制”的异化将要求企业通过算法安排,为配送员设置兜底的订单量、配送报酬以保障其生计。这种做法面对大工作者基数的外卖配送行业,将会无形中要求平台方增加大量的成本投入。因此,若是以严格限制性规则要求平台方打造相对固定配送要求标准的、保障基础用工收益的等级评价机制体系,则会以强制肩负的“成本负担”严重打压平台方积极性,这对于一个具有广泛而大体量需求的行业而言所造成的阻滞无疑是致命的。

故而,规范为促进平台方能将其算法向着解决上述问题的目标而臻于完善,更应以鼓励性、激励性的规范设置予以助推,以“规范冗余对冲行为加码”。为此,借鉴各地之于企业加大算法治理投入、研发投入与科技投入的有关措施规范与意见,出于针对性破局要求,本文认为,这一类促进性规范可以包括:对平台针对此类算法完善的成本投入予以补助性填持;以专项税收减免和专项低息式借贷方式促进平台方在高性价比驱动下针对性投入;将算法完善程度纳入平台评价指标,在含指标达成性要求的规范、政策中作为相抵数据,实现福利快速落实;按行业算法完善反馈评价以排名、设置模范企业名录库,对此类平台进行奖励性支持以及对接性服务等措施,在具体措施中又设置进一步的启动、执行、嗣后规定保证高效、稳序执行。以期在倡导性规则与一般约束性规则的互完善构架中,推动外卖平台等级评价制度算法的对点性修缮。

诚然,将外卖平台配送员的配送行为数据化后,平台算法调整与更新便具备核心参照,从而产生两类结果。一是,配送员本身的“不合理”行为所被吸收而导致的算法“不合理”指示。二是,配送员本身的“不合法”行为被吸收而导致的算法“不合法”指示。前者与如何鼓励平台方设置“舍弃性”运算的径路可谓相似,规范的冗余机制进路也谓同般。后者则是需要重视的另一类情景,其典型例子如算法接收配送员的逆行配送数据,而为其他配送员推送逆行路线的场景。同时,算法系统与法律系统有所区别,其二值性代码并不以是否符合规范为所列判准;并且在初始设置时也无法将“合法/不合法”作为平台算法的二值性代码,否则平台算法将在用工纠纷出现时涉及的法所未规定或法规模糊地带,肆意释法或无法运行。所以,市面大量外卖配送平台的算法底层逻辑,较为普遍地存在着“算法逻辑大于规范规则”的伪命题;甚至可能存在着以企业利益追求的“更大化”判断作为二值性代码的设置系统,引申为“企业利益大于规范意义”的更大谬误。

进一步的,算法的“不合法”指示将直接侵害配送员的人身利益。举例而言,在配送员以接多单为常态的配送现实下,不合法指示所体现出的“平台算法推荐逆行路线—不按路线走则无法送达—一单超时则占用其他单的配送时间—导致其他订单亦无法送达”之链条,形成了一系列“多米诺骨牌效应”。而且往往人的计算力并无法寻求一条“合法的”又在配送要求时间内的路线,也即配送员几乎不可能在多单并行的情景下寻找到比“违法路线”更优的符合规范路线。就此,配送员自然要面临着“违法成本”与“处罚成本”的定夺。而现实是,诸多配送员往往铤而走险选择保全后者,从而造成严重的交通事故与损害。出于人本要素是为智能社会法律制度终极关怀的共识标尺,企业的财产性利益自然应当让位于人身性利益。因此,规范应当要求平台方作出资本必要投入,建立以“符合规范”为标准的算法监控机制,以平台方于算法系统之外之“督”,防止算法不符合规范输出之错误影响进一步扩大。亦即意在设置规范冗余对冲行为折扣。就此而言,平台方应当运用设置平台端口数据实时监控机制、在每单配送完成跳出反馈弹窗供骑手实时填写并即时处理、设置“体验专员”成为骑手切身检测算法指示是否合理等手段,当发现算法出现不符合规范偏向时,则短暂暂停平台运营,加入人工数据集合进行训练干预和调整,致平台算法“回归正轨”。

平台算法与一般性算法一般,其运行具有“数据输入—运算与学习—决策输出”三个步骤。而由于在现代行业中,算法决策过程之复杂性致使用户或算法使用者无法理解与解释运算逻辑,或也因此产生了决策不透明现象。此即为“算法黑箱”。由于技术囿限与差异,并不可能强制要求外卖配送平台破解算法黑箱。一大被普遍认同的合理做法在于,以算法解释将黑箱的“神秘性”转化为对他主体而言相对“可以读懂”的阐述,从而展示“算法系统为何作出如此决策?方法为何?”,也即利用算法的“可解释性(Interpretability)”特征。同时,外卖配送平台之算法的自我学习性质,使其与传统的基于明确因果规则(例如决策树、贝叶斯推理等算法逻辑)的判断类算法不同,复杂与不可测性(即其“黑箱性”特征)使其归为需要进行解释的算法模型一类,也即外卖配送平台之算法需要解释、应当解释。这种做法在我国亦有法律雏形的规范规制,例如《互联网信息服务算法推荐管理规定》第12条鼓励企业优化算法,提升算法透明度、增强可解释性。既有规范倡导性的属性特征,也反过来佐证与说明了严格限制性规范之于算法黑箱问题解决领域的不契合性,更多应用倡导性或一般约束性规则予以规制,以规范冗余设置对冲守法行为趋向加码。

在何以构建、构建何算法解释制度的诘问下,学界普遍就算法解释制度构建展开理论争鸣,具体聚焦于“事前解释”与“事后解释”之可能性、必要性与合理性讨论,产生了认为事后解释具有局限性而主张以事前告知为算法解释治理路径、因涉及商业秘密保护而不应采用事前方法而应聚焦于事后解释、兼采事前解释与事后解释之制度等差异性观点。回归外卖配送平台算法的行业特性,本文认为,算法解释制度的体系化构造应当包含平台方的“主动性解释”与“回应性解释”两类,以“促”达算法“透明化”目标。

具体而言,其一,规范应指引外卖配送平台方就平台算法进行“主动性解释”。“主动性解释”与“事前解释”的意涵相似,意在要求平台方主动地履行与算法解释相关的重要行为内容。一是,鼓励平台方向主管机关公开源代码,从而让主管机关的技术审核人员能从专业性视角,就代码是否具有“原始的歧视性”、是否技术错误或技术违法等从外部进行审核和监督,为算法运算的合理性基础作“双重保障”。二是,鼓励平台方向配送员作算法披露与说明。但由于外卖配送员群体多并非“专业技术人员”,向其披露未加叙事语言易读性转化的源代码或技术性解释并无意义。平台方应就涉及骑手重要利益影响可能的算法原理与要点作出解读性说明。例如,对设置了安全分计算机制下低分骑手将会被暂时限制接单的平台,平台方无需甚至无必要告诉骑手算法判断各项会导致扣分的“不安全”事项是否具有之逻辑。但是平台方可以提醒骑手安全分所涉及的考核项目以及其权重,以让骑手知悉配送过程中应当注意的主要安全事项。无形中也让骑手为避免扣分而导致无单可接的情形发生,从而注意不违反所列安全事项,用“利益”促使其关切。

其二,规范应指引外卖配送平台方就平台算法进行“回应性解释”。相对应的,“回应性解释”与“事后解释”的意涵相近,均意在要求当算法自动化决策对相对人产生影响时,受影响者向算法运维者提出请求而应予因应的解释制度。也即赋予了相对人(即用户,在外卖配送平台包含配送员群体)以私法上的救济权。这一解释模式运用于外卖配送平台对骑手的解释之操作逻辑为,规范应当指引平台方设置“解释反馈”接口,当配送员申请解释时识别是否为“算法解释范畴”之内的事项,而后对受到算法影响的问题以专员对接,作出专项解答。同时,由于算法的波及性,部分配送员会就自我待遇与他人待遇之差别性产生疑惑,而要求进行算法解释。在这一维度上,在解释之回答阐述造成差别的原因时,很容易造成他人个人数据的信息权益侵犯。为此,仅就核心变量导致算法作出如此决策的逻辑作出“因果推导说明”之反事实解释,能够回答解释项的“如果情况不同(What if things had been different)”问题或反事实问题,其不识别性特征能够很好地适用于这一场景。举例而言,在等级评价机制算法中,配送员A疑惑为何与其工作时长、工作单数相近的配送员B之等级高其如此之多,从而造成配送酬劳收益差异巨大,而向平台方申请就“为何造成如此之大等级差异”问题的算法解释。平台如发现主要原因在于,平台对参与配送工作超5年的老员工有升级提速奖励,B加入平台骑手已达6年,而A仅为3年。那么对A的解释将会为“加入平台骑手超5年的员工将享受升级提速,您暂未达到享受福利标准”,而有别于若向B解释其等级为何如此之高时的“您已工作达6年,满足员工升级提速标准”阐述方式。

结语

在外卖配送行业中,出于算法的自我指涉特性,“算法初始代码设置”与“算法运行管理”两大维度一旦出现轻微瑕疵,其“级联性”将会逐渐地放大错误,扩大影响。从为解决这些问题,可以从两大维度切入,以分析其产生的肇始之因与前期预兆。进一步而言,错误可被持续层叠不消的本质,一是在于一旦在代码设置时不予规范而注入了错误意志后,算法运行难以自外界作出纠偏性评价;二是算法运行过程中的技术类规范目前尚付阙如,已有的相关规范又由于其模糊性而无法为运维设置符合规范的“范围性边界”。因此,规范冗余设置的重要性便显现出来。

同时,跳出本文的议题之外,正如《关于维护新就业形态劳动者劳动保障权益的指导意见》《关于落实网络餐饮平台责任切实维护外卖送餐员权益的指导意见》《关于为稳定就业提供私法服务和保障的意见》等文件的规制导向,劳动关系认定纠纷、职业伤害保险的试点性尝试、规范性文件上升为法律层级的“约束力需求”等,也皆是涉及外卖配送员群体的迫切性待应对问题。故而,对外卖配送员的权益保护之探索的维度应当更为广阔、全面且深入。

任赖锬 朱雨琪|算法自我指涉与规范冗余机制的阐释与面对

文奕佳 王琳|基因增强后代对自主的损害——基于第二人称视角的分析

杨涵轲 蔡红|人体细胞基因编辑技术伦理问题的法律规制探讨——以英国为例

杨建民|非法植入基因编辑、克隆胚胎罪的法益确定与立法反思

苏杨成|论基因信息的刑法保护

刘璟锟|司法大数据的涉生育辅助纠纷研究——以规范人类辅助生殖技术发展为视角

陈文君|生物科技犯罪的实践检视与适用方向

上海市法学会官网

http://www.sls.org.cn

特别声明:本文经上观新闻客户端的“上观号”入驻单位授权发布,仅代表该入驻单位观点,“上观新闻”仅为信息发布平台,如您认为发布内容侵犯您的相关权益,请联系删除!