论坛现场。(主办方供图)
封面新闻记者 边雪 张峥 谭羽清 马晓玉
当全世界在为AI撼动人类社会而狂欢时,站在AI技术前沿的“最强大脑”们,已经开始警惕起AI变革背后的滥用、威胁与挑战了。
10月26日,顶尖科学家论坛永久会址外下起大雨,会场内,2024世界顶尖科学家智能科学大会,座无虚席。
众多知名学者、科技从业者、高校学生如期而至,以期对“人工智能(AI)在技术快速发展背景下,将如何影响社会”有更深刻的了解。
“我早上七点半就出门来赶来论坛了,比上学起得早。”会场间隙,上海某中学学生吴萌(化名)告诉封面新闻记者,因为平常对AI相关产品和技术发展就很感兴趣,所以趁着周末想来听听人工智能行业最顶尖的科学家,是怎么看待AI发展的。
AI发展将怎样影响人类社会?在中国科学院院士、北京科学智能研究院院长、北京大学国际机器学习研究中心主任鄂维南的提问下,来自国内外的人工智能领域顶尖科学家,围绕AI发展的伦理责任、全球合作和技术监管等多层次话题展开了一场“头脑风暴”,并就如何推动AI的伦理使用及可持续发展,确保科技进步与社会福祉之间的平衡进行讨论。
人工智能在解决还是放大社会问题?
“AI正在重塑劳动市场,改变人们的工作方式和生产力。”2010年诺贝尔经济学奖获得者、伦敦政治经济学院(LSE)经济学钦定教授克里斯托弗·皮萨里德斯(Christopher PISSARIDES)指出,劳动力市场上,我们十分关心人工智能给工作带来的变化,以及人们看待工作、绩效、生产力的方式,“AI的发展将对工作性质产生深远影响,尤其是在职场满意度和生产效率方面。”
如何使AI既能够提高生产力,又能为劳动者带来工作乐趣,是一个重要的社会议题。克里斯托弗强调,AI的引入带来了双重挑战:既要提升员工的工作成就感,又要防止技术取代人类工作带来的不良后果。
“AI是一种社会技术系统,许多AI的决策不可避免地涉及社会其他学科的问题。”2024世界顶尖科学家协会奖“智能科学或数学奖”得主、康奈尔大学计算机科学和信息科学讲席教授乔恩·克莱因伯格(Jon KLEINBERG)指出,AI技术在某种程度上能够放大现有的社会问题,甚至成为对这些问题的“诊断工具”,帮助人们以更精确的方式认识和应对复杂的社会问题。克莱因伯格认为,AI的风险和机遇并存,决策者需要平衡长远的社会影响与当前的技术风险。
作为一个方兴未艾的领域,AI与其他技术领域一样,也需要持续不断地监测和事后纠错。这也与克莱因伯格本次因“在算法公平性领域发挥的智识领导力”的获奖理由不谋而合。
“AI发展的短期和长期的问题都不容忽视,尤其是在目前复杂多变的技术和政治环境下,必须防止AI技术被不良意图利用。”乔恩直言,AI技术的发展,既有可能提供更精确的分析工具,也可能引发社会不公,因此AI的应用应该时刻以人为本,关注社会的整体福祉。
论坛现场。(封面新闻记者边雪 拍摄)
AI治理与监管将何去何从?
“全球AI治理需要一个高效的框架,但治理并不等同于单一的监管。”先进计算与关键软件(信创)海河实验室主任、中国新一代人工智能发展战略研究院执行院长龚克表示,监管的目标是防止负面影响,而治理的更广泛目标是促进AI技术对人类和地球的正面贡献。
“前几天,一位14岁少年不幸成为人工智能发展的牺牲品,这个少年因沉迷于人工智能聊天机器人而自杀,而推出这款聊天机器人的公司,也被其母亲认为要对孩子的死负主要责任。”龚克表示,如今世界上有几百个由政府、国际组织,或是知名国际会议发表的治理框架或者宣言,可它们并不完善,在协调和执行上存在不小的问题。
“AI的发展必须要安全、可靠、值得信赖。”龚克直言,未来,需要建立一个全面的治理体系,既能管理风险,也能支持AI的创新发展,以确保AI技术的发展符合人类社会的长远利益。
论坛上,各位科学家还针对不同国家在AI监管方面的路径选择及其优缺点进行了讨论,分析了欧洲、美国和中国的不同策略:欧洲的高标准技术监管模式虽然可以确保安全性,但可能对AI创新造成一定的阻碍;美国采取更为灵活的监管模式,可能导致责任划分模糊的风险。封面新闻记者注意到,与会者普遍认为,AI治理应该兼顾技术标准和伦理限制,平衡安全与创新需求。
AI向善离不开全球合作
“目前是定义人工通用智能(AGI)和人工超级智能(ASI)的最佳时机。”清华大学计算机系副系主任唐杰教授在讨论中提到,明确这些概念,有助于建立符合安全性和伦理需求的技术框架。他进一步指出,AI技术应在教育、工程和技术培训领域广泛推广,为社会注入创新动力的同时,确保技术发展与社会需求相吻合。
2015年图灵奖得主、斯坦福大学电子工程系名誉教授马丁·赫尔曼(Martin HELLMAN),则更关注科技发展在国家竞争与全球合作中的角色。他指出,科学技术的迅速传播使得一国的科技成果往往被其他国家快速复制,国际间的合作显得尤为重要。“然而当前的全球形势是,各国普遍将科技主导地位视为政治和经济优势的重要标志,导致竞争愈发激烈。”对此,赫尔曼呼吁各国在AI等新兴科技领域中寻求合作,以避免潜在的全球性冲突。
“核武器的发展是重要教训,AI的发展各国更应吸取类似的教训。”赫尔曼还认为,如果各国能在科技领域携手合作,不仅可以推动人类的共同进步,还可以为后代创造一个安全、和谐的未来。