请考虑把这里的信息转给中国大陆的亲友
转发就是最大的作为-刘瑜
https://mp.weixin.qq.com/s/Kwyk2L62LeHoiG-q0gEeEw
我们与AI将走向何方
今天，我将继续为大家带来a16z“AI Revolution”活动的深入解读。今天探讨的是OpenAI首席技术官Mira Murati的主题演讲——“我们的未来之路”。作为OpenAI的首席技术官，Mira Murati监督了GPT-4和ChatGPT的开发和发布。在这里，她向Martin Casado讲述了ChatGPT发布背后的故事——以及它对AI和人机互动未来的启示。
出生于阿尔巴尼亚，共产主义的衰落为她在数学和科学上埋下了兴趣的种子。
从理论到实践，她的职业路径从理论数学转向机械工程，最终在特斯拉参与Model X项目。
AI的吸引力引领她从自动驾驶技术转向增强现实和虚拟现实领域，最终加入OpenAI寻求通用人工智能（AGI）的探索。
数学、物理学和AI
数学和物理学的深度思考培养了Mira解决问题的能力，为她在AI领域的探索提供了基础。
数学的理论空间和问题解决的规律，对解决AI领域的系统和工程问题具有重要意义。
数学和物理学背景为领域内的领袖提供了独特的视角，帮助他们在计算机科学和AI领域做出贡献。
自然语言界面
ChatGPT的API展示了通过自然语言与AI模型的交互，为编程提供了新的可能。
Mira认为自然语言界面使编程变得不那么抽象，也使非专业人士更容易接近这项技术。
ChatGPT的发布，不仅展示了自然语言交互的可能性，还揭示了未来人机交互可能的发展方向，如通过自然语言与AI系统合作，重定义与数字信息的交互方式。
OpenAI的发展路线
ChatGPT的创造是从5年前的安全AI系统思考开始，其目标是使AI系统与人类价值观一致并获得人类反馈。
通过人类反馈的强化学习，使AI更有可能做出正确的事情，降低做出不期望行为的可能性。
通过GPT-3的API发布，将安全研究实用化，探索将AI安全系统集成到现实世界的可能性。
从WebGPT项目演变为ChatGPT，认识到对话的重要性，它允许用户提问，纠正和表达不确定性。
在ChatGPT开发的同时，已经在培育GPT-4，将重心放在GPT-4的对齐和安全性上。
通过将ChatGPT交给研究人员，获取实时反馈，使GPT-4更对齐，更安全，更稳健。
规模法则
目前没有证据表明模型扩展将不会得到更好、更强大的模型，但是否能走向AGI仍有待探讨。
随着模型的进一步扩展，可能需要新的突破以从更大的模型中获得更多好处。
AGI被定义为能够自主完成大部分智力工作的计算机系统，但目前的技术还处于较低的实习生水平。
当前的挑战在于提高系统的可靠性，确保系统能够可靠地执行期望的任务。
即使新能力的可靠性不高，也需要关注这些新能力的发展，以便为未来的可能性做好准备。
一种模型来统治所有吗？
通用模型的出现可能会类似于CPU的发展，整合不同功能，构成特定的经济体。
不同的需求可能会催生多种模型，而非仅有一种统治所有的模型，使得设计空间碎片化。
用户可能需要针对特定用例的模型，OpenAI提供的API能够满足从小型到前沿模型的不同需求。
通过平台，用户可以带来自己的数据，定制模型，同时也可以在模型之外的层面定义产品。
接下来的5-10年
基础模型将从仅仅处理文本，拓展到处理图像和视频等多种模态，以更全面地理解世界。
通过引入人类反馈的强化学习，使模型更可靠地执行用户的请求。
会加入浏览功能，使模型能够获取新鲜信息和引用信息，以解决幻觉问题。
在产品层面，将模型集成为可与人协作的平台和代理集合，以便用户可以在其上构建。
随着模型变得更强大，超级对齐将是一个巨大的技术挑战，需投入大量的工作以确保模型的意图与人类一致。
明天，我将继续为大家带来a16z“AI Revolution”活动的深入解读。明天我们将探讨的是Roblox联合创始人兼首席执行官David Baszucki主题演讲——“AI升级游戏与虚拟世界”。敬请关注！
参考：
https://a16z.com/where-we-go-from-here/
