2023年11月3日

OpenAI CEO首场中国演讲推进AGI安全治理需要国际科技界展开合作

作者 admin

经济观察网 记者 钱玉娟 正在世界各地进行旋风式访问的“ChatGPT之父”、人工智能公司OpenAI的CEO萨姆·阿尔特曼(Sam Altman),6月10日首次“云”上参与了在中国举行的行业峰会“2023北京智源大会”。北京智源大会是由智源研究院(全称:北京智源人工智能研究院)主办的年度国际性人工智能领域的专业交流活动,定位于“AI内行盛会”,今年已经是第五届。

五年前,智源研究院在科技部和北京市的支持下,联合北京人工智能领域的优势单位共建而成。因汇集了张宏江、黄铁军等国际顶尖人工智能学者,智源研究院聚焦核心技术与原始创新,旨在推动人工智能领域发展政策、学术思想、理论基础、顶尖人才与产业生态的五大源头创新。

萨姆·阿尔特曼在名为“AI安全与对齐”的分论坛中进行了主题演讲,在穿越五大洲近20个国家,与多国、开发者及学生们展开交流、讨论后,他发现,世界的注意力都集中在解决AI的安全问题上。

除了给OpenAI优化工具等方面工作提出宝贵意见,萨姆·阿尔特曼希望,在亲眼目睹了通用人工智能(Artificial General Intelligence, AGI)发展带来的变革,人类的想象力被迅速拓展后,防范风险,“推进AGI安全治理,是我们寻找共同立场的最重要领域之一。”

萨姆·阿尔特曼举例称,像根除小儿麻痹和天花等疾病,以及减少全球气候变化等风险,大国之间经常在关键医学和科学领域展开合作,以实现共同目标。在他看来,AGI安全治理同样需要国际合作,尤其在AI开发和安全部署方面,需要建立包容的国际标准,使所有国家对AGI发展抱以一个统一且平等的准则;同时,在可验证的方式下,全球范围内建立起对AGI安全开发的信任。

作为首场中国演讲,萨姆·阿尔特曼特意援引《道德经》中的“千里之行,始于足下”,以呼吁国际科技界能迈出建设性的第一步,合作推动AGI安全。与此同时,他也提及,要深入地思考,如何尊重和保护知识产权,推动并引导与安全研究有关的投资。

谈及OpenAI当前的重点内容,“如何训练优化模型,以使AI系统成为人类有益且安全的助手。”萨姆·阿尔特曼演讲后还与智源研究院理事长张宏江进行了对话,他谈到,过去的六个月时间里,人们愈发重视AGI风险和机遇,OpenAI在让人们享受技术变革带来的益处同时,也在努力减轻风险,但“全球合作始终是困难的”。

萨姆·阿尔特曼强调,OpenAI在依托技术消除全球合作障碍的同时,还试图为AGI治理系统沟构建一个框架和安全标准。他认为,AI安全确实需要技术的参与,但更为关键的是,“要保持一致的价值观。”为此,OpenAI要设计出一个公平、包容又具有代表性的系统,“我们需要构建安全的分类器和检测器,以监测符合用户规范的情况。”

中国、美国和欧洲是推动人工智能和创新的三个主要力量,当张宏江问及国际合作对于解决AI需求和决策具备怎样的优势时,萨姆·阿尔特曼表示,AI安全需要受益于不同国家和不同背景下的用户偏好,因此需要融合不同的观念来实现这一目标。

聚焦中国,萨姆·阿尔特曼认为,这里拥有世界上一些最优秀的AI系统,也从根本上使研究人员在解决AI系统问题时面临困难,他希望未来中美两国间的AI技术研究人员能一起为AI安全做出贡献。

对谈中,张宏江疑问,未来OpenAI的GPT源代否重新开放,萨姆·阿尔特曼并未直接回答。但他对开源模型的发展以及开源这一路径的正确性予以认可,只是伴随模型变得越来越大,他强调,“确保正确性变得昂贵,开源一切可能不是最优路径。”