摘要：在与AI初创公司Character.AI的聊天机器人长时间对话后，竟然开枪自杀、不幸身亡。
本月，在2024年诺贝尔奖各大奖项揭晓之后，这个周末在中国上海临港新片区进行的2024世界顶尖科学家论坛，可谓诺奖或诺奖级科学家“密度”最高的一次盛会。从包括11位诺贝尔奖得主在内的50余位海外顶尖科学家，到40余位中国两院院士及资深科学家，这些“最强大脑”再度聚首。他们的头脑与人工智能相比，是否“脑力”更胜？AI又在他们的脑海中掀起了怎样的风暴？
顶科圆桌分享。
人无远虑，必有近忧。而在顶尖科学家脑中，对于AI，唯有“近忧”，方能行远。
【过半诺奖关乎AI值得祝贺】
今年的诺贝尔奖三大自然科学奖——生理学或医学奖、物理学奖、化学奖，共产生7位获奖人。有人说，这次诺奖得主其实就分两类，一类是搞生物的，另一类是搞智能的。尤其是物理和化学奖，几乎都与AI有关。
而在26日的世界顶尖科学家智能科学大会上，中国新一代人工智能发展战略研究院执行院长、先进计算与关键软件海河实验室主任龚克表示，此次7位新晋诺奖的得主中，其实与人工智能相关的科学家超过半数，也值得科学界对此表示祝贺。
鄂维南（左一）主持。
这一大势也佐证着“AI for Science（AI4S）”，即“人工智能驱动的科学研究”方兴未艾。作为中国科学院院士，北京科学智能研究院理事长、北京大学国际机器学习研究中心主任鄂维南，与海内外同行分享自己最新研究成果。“我拿的学位基本都是数学，”十年前，这位应用数学家真正“转行”研究大数据算法，发现机器学习方法恰好能够帮助解决过去在科学计算和计算科学中遇到的很多困难，从而坚定走上“AI for Science”的研究方向。
对他而言，比如通过深度学习解决蛋白质结构问题和第一性原理精度的分子动力学方法，AI可以大大提升这些方面的能力。他认为，“AI for Science”是中国科技创新历程中前所未有的契机，应当充分利用这一历史机遇，积极构建全球化的AI4S开源社区，精心构筑AI4S学术生态。
【AI把关不当引发少年自杀】
在生态链的最上游，AI正在“理化生”甚至“史地政”领域开疆拓土；而在生态链的最下游，AI应用尤其是B2C的端口，还有太多令科学家忧虑甚至焦虑的事儿。
面对国内外业界专家，龚克抛出一则“翻车”的新闻引发众议。美国佛罗里达州一位14岁少年，在与AI初创公司Character.AI的聊天机器人长时间对话后，竟然开枪自杀、不幸身亡。他的母亲最近正式对Character.AI提起诉讼，指控AI企业对儿子之死负有责任，称其收集青少年用户的数据来训练模型，设计“令人上瘾”的功能增加用户参与粘性。
解放日报·上观新闻记者了解到，今夏，按月独立访问量排行，Character.AI仅次于ChatGPT。日前，被告方发表致歉声明，针对未成年人的模型进行修改河更新，降低他们接触敏感性或暗示性内容的可能性。
斯发基斯报告。
对于可能成真的“翻车”，智能科学家对AI“把关人”的可信性和可行性不无担心。“近期，有无人驾驶汽车项目官宣完成了100亿英里的自动化驾驶。”身为图灵奖得主，国际嵌入式系统研究中心Verimag实验室名誉研究主任、南方科技大学斯发基斯可信自主系统研究院院长约瑟夫·斯发基斯直言，这实际上只是仿真模拟，并不是人们理解的真实路况下的“大路考”。他判断“我们的汽车还远没有达到任何情况下都能完全自动驾驶的状态”，由于环境的复杂性、汽车的动态性，汽车遇到的实时问题比飞机更多更难。“尽管我们一直在取得进展并且速度不慢，但短期内建立真正的自主系统可能性很低。”
龚克发言。
【AI治理多个“缺门”待补齐】
与斯发基斯所言“国际上对自动驾驶车辆尚未实施严格认证规则”的审慎态度一样，龚克也直言，由国家政府、区域组织、国际组织以及领先的人工智能企业发布的AI原则框架数据，在最近一个阶段可能就达数百个。“但这些数据是零散的，至今没有一个框架是真正全球性的、丰富全面的。”作为一个充满代表性、协调性和整合性的问题，这一直被联合国互联网治理政策层和管理层所关注。
为人类永续发展制定AI治理框架，这正是当天科学家们在顶科论坛智能科学大会上共议的主题。
案例讨论会。
对此，龚克称，首先缺乏全球公认的参考框架，以解决伦理、法律、技术和政策问题；其次现有规章制度大多来自全球北方，缺乏全球南方缺乏参与；再次，多个关键利益相关方的群体之间缺乏积极协作，其中存在技术不兼容；最后，伦理共识缺失的风险对创新产生不利影响，并削弱公众对人工智能系统的信任。“多方参与对话，科学界肩负责任，这就是为什么我们聚集在此讨论这一重要话题。”
身为2024世界顶尖科学家协会奖“智能科学或数学奖”的新得主，康奈尔大学计算机科学和信息科学讲席教授乔恩·克莱因伯格也表示，“计算技术正日益成为我们社会运作和日常生活核心”的当下，计算机科学家不仅需要“确保我们所搭建的算法、选择的设计能造福人类”，也需要“与经济学、社会学、行为科学、法学和政策研究等领域深入合作”，希望“在关键时刻引发更多关注，激发我们全力以赴，运用创造力来应对这些问题”。
