OpenAI 创始人 Sam Altman 的环球之旅已经进行到第四周，在此期间，他已经去到五个大洲的近 20 个国家，与学生、开发人员和国家元首会面。今天，北京时间上午 9 点 20 分，Sam 以视频连线的方式现身于中国北京举办的 2023 智源人工智能大会，发布了演讲，并接受了院士张宏江的访谈对话。
演讲依然围绕近期他所呼吁的 AI 安全问题的关注。Sam 指出，当下，AI 正以极快的速度发展并扩展人类想象的画布。在此过程中，潜在红利与危机是并存的。随着日益强大的 AI 系统的出现，全球合作的赌注从未如此之大。考虑到 AI 未来所带来的问题（如医疗、农业领域的应用）之严峻性，从当下开始重视、推进 AI 安全是刻不容缓的。
Sam 特别提到，大国之间分歧常有，但在重要的大事上，还是需要协调与合作，寻找共同利益点。他特别引用了老子《道德经》中的话：千里之行，始于足下。他认为，当下可以迈出的最有建设性的一步，是国际科技界间的通力合作，特别是推动建立提高 AI 安全技术进步方面的透明度和知识共享的机制。
值得注意的是，此前在周游列国时，在 AI 安全和治理方面，Sam 的主要观点是：目前 AI 系统还没有强大到威胁社会安全的地步，因此不必对正在研究的 AI 系统进行严格监管，这无疑在减缓创新。此次在中国的演讲，Sam 的演讲未曾涉及监管的讨论。但他提出，人们的确需要为迎接超出想象强大的 AI 系统进行监管和安全上的讨论。
极客公园全程观看了这场演讲，以下内容经整理编辑后发布。
精彩摘要：
当下人工智能革命影响如此之大的原因，不仅在于其影响的规模，也是其进展的速度。这同时带来红利和风险。
AI 带来的潜在红利是巨大的。但我们必须共同管理风险，才能达到用其提升生产力和生活水平的目的。
随着日益强大的 AI 系统的出现，全球合作的赌注从未如此之大。大国意见分歧在历史上常有，但在一些重要的大事上，必须进行合作和协调。推进 AGI 安全是我们需要找到共同利益点的最重要的领域之一。
对齐仍然是一个未解决的问题。想象一下，未来的 AGI 系统或许具有 10 万行二进制代码，人类监管人员不太可能发现这样的模型是否在做一些邪恶的事情。
GPT-4 花了八个月的时间完成对齐方面的工作。但相关的研究还在升级，主要分为扩展性和可解释性两方面。
演讲全文：
每次我访问中国，我遇到的技术人才都能使我惊奇和振奋。正如你前面提到的，我现在正处于环世界之旅的第四个星期。我已经去了在五个大洲的近 20 个国家，与学生、开发人员和国家元首会面。这次旅行对我是一种激励。我们看到了世界各地的人们都已经在使用 AI 技术，以令人难以置信的方式改变生活。我们也收到了来自用户的宝贵反馈，告诉我们如何能使这些工具变得更好。
