摘要:中国的科技伦理治理不能单纯跟随西方的伦理标准,要探索建立与中国脑科学水平相适配的伦理治理方案。

脑机科技如何向善?智库跨界求解问道

拓展人类的认知能力,治疗神经疾患中的疑难杂症,协助用户实现完美的元宇宙体验,脑机接口正展现出令人炫目的应用前景。但伴随而起的也有忧虑之声。比如,以脑机接口为代表的神经技术,对大脑完整性、个人身份、个体能动性等人类基本权利构成了潜在的威胁,不恰当的商业应用更可能引发伦理问题。科技需要向善发展。作为尖端科技的脑机接口,更需要综合和全面的哲学前瞻。为此,一场跨界的学术对话于9月21-22日在上海社会科学院举行。来自科技研发、医学临床、产业规划、法学法务、科技治理、哲学伦理等不同领域的50余位专家,为脑机科技的向善发展集思广益。此次“脑机接口与哲学:跨学科的对话”研讨会由上海社会科学院哲学研究所、上海市精神卫生中心、天桥脑科学研究院联合主办。会议围绕脑机接口与伦理治理、脑机接口的认知机制、脑机接口的伦理疑难、脑机接口的法律挑战等关键问题展开了跨学科对话。

探索脑机科技的中国伦理治理方案

脑机接口是“中国脑计划”(即科技部科技创新2030重大项目“脑科学与类脑研究”)的重要组成部分。项目总召集人蒲慕明院士,在会议致辞中指出,近年来我国在脑科学方面已取得了很多开创性进展,这促使我们必须主动探讨相应的前沿伦理问题。中国的科技伦理治理不能单纯跟随西方的伦理标准和管理办法,我们应探索建立与中国脑科学水平相适配的伦理治理方案。这需要各领域专家的通力合作,来完成这一创新性的工作。

医学临床是脑机接口的重要应用场景,会议联合主办方之一上海精神卫生中心赵敏院长在致辞中指出,新兴技术的发展和应用离不开伦理。近年来,上海精神卫生中心正致力于在难治性精神疾病的治疗中引入DBS(深脑刺激)等脑机接口干预手段。与之相匹配,精卫中心专门发布了《精神疾病脑机接口研究伦理治理多学科的专家共识》。这是国内首个相关领域内的伦理共识,积极践行了“科技向善、伦理先行”原则。

人格边界与人机融合

上海社会科学院哲学研究所计海庆研究员认为,脑机接口在观念上预设了一种取消身体地位的个人存在,而身体在主流观念中被赋予了极为关键的形而上学意义,是人格的边界所在。但现今针对脑机接口展开的人格同一性研究中,并未给予这种“人格边界的解构效应”及其哲学意义以充分的揭示。“人格边界”从人与相异于自身的事物的角度、从外沿方面来理解人的存在,例如人是区分于客体世界的主体,是自己而不是他人才是行为责任的最终诉诸对象。从上述解释差异性的“人格边界”概念来分析脑机接口的挑战,才能解释人机融合状态下的伦理问题。

中国科技大学科技哲学系张贵红副教授和同济大学人文学院金晨博士,重点考察了脑机接口用户主体性的改变。在传统的工具使用模式下,例如骑自行车,虽然工具扩展了人的力量,但人和工具仍是相互独立的,并不会影响人的自我认知。但在脑机接口构成的人机交互中,人对工具达成了跨越身体的意念控制,这种延展效应可能会引发自我改变,形成一种新的人机混合的主体。

人机协同与算法偏见

脑机接口值得引起特别的伦理关注,根本原因还在于它对人的认知和行动、对人机关系进行的再塑造。浙江大学哲学学院李忠伟教授认为,脑机用户具有的是人机协同的表征,是神经活动和芯片预处理共同作用的结果。脑机协同表征的功能并不完全由自然选择决定,它也受到实验中人为定义的影响。在内容上,脑机表征并不完全响应来自真实世界的反馈,其中包含了埋藏于芯片中算法的世界观产生的影响。

中国科技大学科技哲学系王高峰副教授,对脑机接口引发的人类行动的新问题做了梳理。他提出,脑机用户可能产生对个人自主的怀疑,即对自己是否参与了认识活动、以及对自身的认知是否自主生成等产生疑惑。其次,对接口输入信息的预处理,也可能包含了用户并不认同的算法偏见,从而进一步侵蚀自主感。其三、脑机接口输入的统一的格式化数据可能抹杀个性化经验的生成。最后,自主感的动摇将造成用户行为责任归咎上的模糊难辨。由此,增强脑机系统信息处理的可解释性,提高系统对使用者的适应性是研发必须关注的要点。

脑机助人,伦理助推,科技向善

上海交通大学计算机科学与工程系吕宝粮教授认为,脑机科技有望改善国内精神领域医疗资源不足的现状,辅助精神疾病的基层诊断和治疗。浙江大学哲学学院柯晓宇研究员认为,如果情感脑机接口可以帮助病人从无理性的精神状态恢复理性判断能力,例如治疗重度抑郁症病人,那么脑机调控对于情绪责任的建立是有帮助的。

上海交通大学科学史与科学文化研究院刘铮副教授指出了脑机用户的行动具有的根本特点,即身体作用的弱化和减退。人们的感知不再是传统意义上通过身体参与到世界中,而是渐渐地转化为大脑直接对技术终端进行感知。这值得引起脑机接口设计者的关注。

上海社会科学院哲学研究所副所长成素梅教授在总结本次会议时指出,人工智能和脑机接口技术的发展,正在引发一场科技革命。人与环境的关系将因此被“逆转”,从人去适应环境,转变为环境来迎合人。这将导致人类知识体系的重构。此次会议的成果在于形成了“脑机助人,伦理助推,科技向善”的跨学科专家共识。