9月5日,在2024 Inclusion·外滩大会的“以善治促‘善智’,让AI更负责任”见解论坛上,中国工程院院士吴世忠表示,AI全球治理不仅会影响全球科技力量格局演变,而且会成为主导未来国际安全和稳定的重要变量。他谈到,面对复杂的战略性、颠覆性科技变革带来的挑战,人类在核控、疾控中的经验和教训可为AI全球治理提供有益的启示。
吴世忠院士在回顾全球核控的历史基础上,认为AI的治理与全球核控有相似之处,即在目的上都是为了全球安全和人类福祉;在方式上都可采用多边合作和规则制定;在措施上都需要建立互信和透明措施;在优先项上都强化科技伦理,落实监督机制。但两者也存在着很大的区别,包括技术性质和复杂性不同,法律规范完备性不同,技术发展和创新性不同,利益相关方也存在差异。
他认为,80多年的核控经验对于当前AI全球治理具有现实的借鉴意义,包括增加国际合作和签署多边协议,提升透明度建立信任建设,完善风险管控和应急措施,加强技术控制和监管。与此同时,我们也要吸取核控中协议失效,技术失控,发展与安全失调,自律机制失灵等教训。
吴世忠院士在分析全球疾控的发展历程中谈到,AI治理与疾控同样存在诸多相同之处,比如得益于全球合作及国际组织的参与,科学技术的支撑,透明度和信任措施的建立,以及公众的参与和跨国合作等。但是AI治理与疾控也存在差异,包括目标与重点不同,时间紧迫性不一样,社会接受度有差别,法律监管制度有差异,资源分配也不相同。
他认为,疾控的经验值得AI治理借鉴,包括加强快速响应与灵活应对,增进全球合作与协调机制,完善信息共享与数据协作,提升信任和透明度,强化社会各方广泛参与等。但同时也要警惕信息误导和谣言传播,资源分配失衡,跨学科研究不够,公众参与和教育不足等教训。
吴世忠院士表示,核控和疾控是近一百年来人类共同应对复杂性全球问题的有益尝试,所形成的联合国领导下的共建共享治理体系和工作机制对当前AI全球治理具有重要借鉴意义。实力与能力是参与全球治理的基础,共识与合作是参与全球治理的关键。当前正值AI全球治理规则建立的初期,建议积极落实《全球人工智能治理倡议》,进一步细化AI全球治理的中国方案,统筹治理资源,积极对接AI全球治理前沿,兼顾“多边”“多方”,调动多行为体力量赋能治理进程。同时,强化国内AI技术的研发和推广应用,为参与AI全球治理提供有力支撑。