国华的世界

这是国华对读过的书, 看过的电视/电影, 听过的音乐, 访游过的地方, 经历过的事物, 和时事的感想或点评.
个人资料
国华P (热门博主)
  • 博客访问:
正文

奥特曼命运翻转的五天

(2024-01-15 17:24:15) 下一个

OpenAI首席执行官萨姆·奥特曼(Sam Altman 下图 TIME)因领导OpenAI成功开发出ChatGPT聊天机器人而成为几乎家喻户晓的科技明星。去年11月16日在旧金山召开的亚太经济合作组织(Apec)峰会上奥特曼发言暗示了人工智能世界的另一个重大发展:“在OpenAI的历史上,我已经四次来到这个房间,最近一次是在过去几周 -- 我们可说是吹开了无知的面纱,将创新的疆界继续向前推进,能做到这一点是我一生的职业荣誉。” 由于他领导着OpenAI这样一家公司,奥特曼的这番话引发无限遐想。可就在第二天 -- 2023年11月17日,OpenAI董事会宣布已解雇这位38岁的员工,原因是他未能“在与成员的沟通中始终如一地坦诚”。

奥特曼在Apec峰会发言下台后收到了OpenAI首席科学家、董事会成员萨斯基弗(Ilya Sutskever 下图1 Eightify)发来的短信,要他在第二天中午参加公司的谷歌会议(Google Meet)。根据OpenAI主席兼总裁布罗克曼(Greg Brockman 下图2 OGM)在X(前推特)上的发帖,在Google Meet会上,萨斯基弗告知奥特曼他被解除OpenAI首席执行官职务。OpenAI首席技术官穆拉蒂(Mira Murati 下图3 THINKWITHNICHE)被任命为临时首席执行官。而布罗克曼则是在奥特曼被解除OpenAI首席执行官职务几分钟后,才收到参加Google Meet会议的权限并实际参会。布罗克曼也在会上被告知他被董事会除名,但可以继续留在公司。布罗克曼选择了辞职。

当OpenAI这家人工智能初创公司的首席科学家萨斯基弗(Ilya Sutskever)在Google Meet会议宣布解除他的CEO职务时,奥特曼最初的反应或许是抗争。但他马上意识到萨斯基弗不是独自一人,他身后有三名OpenAI公司独立董事的支持。几个月来,萨斯基弗和这三位独董一直认为奥特曼不诚实,因而不应继续领导一家推动人工智能竞赛的公司。于是,在前一天(2023年11月16日)下午的一次电话会议上,(这4名)董事会成员投票决定将奥特曼逐出OpenAI。自然,奥特曼对被自己参与创办的初创公司解雇感到震惊,他问萨斯基弗:“我还能帮公司做些什么吗?”董事会成员敦促他支持一位临时首席执行官。他向他们保证他会合作。但几个小时后,奥特曼改变了主意,不但拒绝与解雇他的董事会合作,更向OpenAI的董事会宣战。

可能的闹掰原因

其实,奥特曼的下台是OpenAI多年来酝酿的紧张局势的高潮。本轮冲突的根源很有可能是萨斯基弗与奥特曼等人的理念分歧所致。萨斯基弗曾在接受媒体采访时透露,在ChatGPT成功之后,自己成立了新团队专注于“超级排列比对”(Superalignment) 项目,致力于建立一套控制技术,用于保障未来超越人类智能的“超级人工智能”,相当于是一套“针对超级人工智能的安全程序”(下图 OpenAI)。这或许正是OpenAI创立者以及人工智能探索者的理念。此前,OpenAI曾在各种场合传递自己的使命 -- 构建对每个人都安全和有益的AGI(通用人工智能)。AGI的基本理念就是,有一天人工智能工具将能够在执行任务时做得与目前的人类一样好,甚至更好。AGI会颠覆我们做事情的方式:工作、金钱、教育 -- 当机器可以代替人做事的时候,所有这一切都将改变。AGI是一种强大到不可思议的工具 -- 至少迟早会是。

尽管首席科学家已经做出了职业生涯的最大转变,但奥特曼在此前接受采访中,并未对“控制与监管人工智能”表达足够的重视。他认为AI是“一个工具而不是生物”,甚至提出“人工智能还没到需要监管的时刻”。2023年9月,奥特曼会见了中东的投资者,讨论了(投资)一个人工智能芯片项目。有知情人士表示,董事会担心他没有与董事会分享所有的事情。2023年11月份的OpenAI大会过后,ChatGPT又推出了多个更新升级,尤其是GPT Store,这一OpenAI搭建商业化生态的重要标志。奥特曼似乎越来越关注名誉和财富,他做出了主要目的是追逐利润的商业决定,而非坚持OpenAI作为负责任的非营利组织的原则。

这使得局势愈发紧张,那些对人工智能的力量感到震惊的人与那些将该技术视为一生中只有一次的提高声望和发财致富机会的人更加对立。随着分歧的加深,OpenAI董事会内持相异观点的成员相互攻击。董事会的争吵,最终导致2023年11月17日的摊牌。这里需要指出的是,2023年11月下旬OpenAI的这出闹剧不过是其历史的延续。因为打从创立伊始,OpenAI内部便充满了碰撞。毕竟,参与者都是站在科技最前沿的somebody(大人物)。

位于旧金山的OpenAI科学实验室是2015年由埃隆·马斯克、奥特曼、萨斯基弗(Sutskever)和其他九人创建(下图 slideshare)。它的目标是建立人工智能系统,造福全人类。与大多数科技初创公司不同,该公司是作为一家非营利组织成立的,其董事会负责确保其完成这一使命。董事会里都是些信奉不同工智能哲学、彼此又互不买账的人 -- 如马斯克(和萨斯基弗)等对人工智能带来危险感到马担心的一派。马斯克因观点不受待见而于2018年怒气冲冲地离开了OpenAI。另一派的代表即是奥特曼,他们更关注这项技术的潜在好处(商业利益)。

时为创业孵化器Y Combinator总裁的奥特曼因其在硅谷拥有的广泛人脉,于2019年成为OpenAI的首席执行官。2023年早些时候,OpenAI的董事会成员从9人减少到6人。其中三人 -- 奥特曼、萨斯基弗和OpenAI总裁布罗克曼(Greg Brockman) -- 是该实验室的创始人。董事会的其他三名成员分别是

乔治城大学安全与新兴技术中心战略主任托纳(Helen Toner 下图 CELEBSWEEK),同时是一个认为人工智能有一天会摧毁人类的团体成员;

德安杰洛(Adam D'Angelo 下图 Yo!Success)为问答网站Quora首席执行官,长期从事人工智能领域的工作;

兰德公司(Rand Corp.)兼职科学家麦考利(Tasha McCauley 下图 DODBUZZ)曾研究技术、人工智能政策和治理问题,并在奇点大学(Singularity University)任教,奇点大学深信机器终将不受创造者控制。这些董事会成员担心,人工智能可能比人类更聪明。

山姆的反击

奥特曼被解职的消息在硅谷引发了轩然大波,并促使众多OpenAI的投资人推动他返回OpenAI恢复自己的CEO职务。11月17日,当奥特曼被解雇的消息传出时,一条“山姆出局了”的短信出现在一个由100多名硅谷公司首席执行官组成的私人WhatsApp群组中,其中包括Meta的马克·扎克伯格和Dropbox的休斯顿(Drew Houston)。这个帖子立刻引发了很多问题:山姆到底怎么了?

OpenAI最大的投资者微软也提出了同样的问题。当奥特曼被解雇时,微软首席技术官斯科特(Kevin Scott)接到了OpenAI首席技术官穆拉蒂(Mira Murati)的电话。她(穆拉蒂)告诉他(斯科特),几分钟后,OpenAI的董事就会对外宣布解雇奥特曼的决定,穆拉蒂本人则被任命为临时首席执行官。斯科特立即将这一消息电话告知正在华盛顿州微软总部开会的微软首席执行官萨蒂亚·纳德拉(Satya Nadella 下图 Startup Talky)。三位知情人士表示,微软首席执行官纳德拉听到消息后很震惊,立即给OpenAI首席技术官穆拉蒂打了电话。纳德拉(Satya Nadella)表示,在宣布这一消息之前,OpenAI董事会并未与微软联系。微软对这场闹剧感到关切,因为公司已向OpenAI承诺130亿美元的投资,是该公司的最大投资者并要参与确保护其投资成功的事务。纳德拉随后又致电OpenAI首席独立董事德安杰洛(D'Angelo)。纳德拉问道,奥特曼做了什么出格邪恶的事吗,让董事会如此大动肝火地采取突然行动?“没有吧,”德安杰洛回答说。但德安杰洛不着边际的答复让纳德拉仍然感到困惑。

与此同时,许多硅谷高管和投资者也动员起来支持奥特曼,她/他们聚集在奥特曼位于旧金山价值2700万美元的豪宅中进行反击,通过社交媒体进行游说,并在私人短信中表达了他们的不满。当然,风暴的中心人物还是38岁的千万富翁奥特曼这位刚被解职的OpenAI公司CEO。他并未闲着,他在OpenAI的大部分前同事也在与他共同行动。

局面翻转

在奥特曼被OpenAI开后不久,爱彼迎(Airbnb)的首席执行官切斯基(Brian Chesky)联系了他。切斯基问奥特曼他能做些什么来帮助他,并问奥特曼OpenAI董事会解雇他的原因。奥特曼回答说他自己也是一头雾水。

同一时间段,OpenAI的员工要求懂事会提供解聘奥特曼的详细原因。当天(2023年11月17日)下午,董事会召开了一个电话,共有15名公司高管参加,他们全挤在位于旧金山的OpenAI总部会议室。董事会成员在会上表示,奥特曼向董事会撒谎,但由于法律原因,他们无法提供详细情况。与会的公司首席战略官Jason Kwon(韩裔 下图 newsunzip)指责董事会的决定违反了其使命:“允许公司倒闭不是你的职责。” 随后Jason Kwon在一份备忘录中告诉员工,正在努力让奥特曼和其他辞职的同事回来,其中包括三名高级研究人员Jakub Pachocki、Aleksander Mådry和Szymon Sidor。Kwon写道:“我们仍在努力达成一项决议,我们仍持乐观态度。…… 我们所说的决心,是指让Sam、Greg、Jakub、Szymon、Aleksander和其他同事回来。”

2023年11月18日,奥特曼发布了一张自己在OpenAI旧金山总部内拿着客人通行证的照片,上面写着“我第一次也是最后一次戴这种通行证”(下图 Instagram)。OpenAI的高管们坚持要求董事会当晚辞职,否则他们将全部离职。高管们的支持,加上Airbnb首席执行官切斯基和硅谷投资人康威(Ron Conway)的鼓励,给了奥特曼重返OpenAI的信心,并放弃了创建一家新AI公司的想法。于奥特曼开始fight(斗争),决心收回他认为属于自己的东西(职务)。

这时的OpenAI任命了三天内的第三位首席执行官 -- 谢尔(Emmett Shear)这位视频游戏流媒体平台Twitch的前CEO。OpenAI剩下的四名董事会成员是在与公司高管谈判失败后,宣布了对谢尔的任命。微软首席执行官纳德拉旋即宣布,微软已聘请奥特曼和布罗克曼领导一个“新的高级人工智能研究团队”。后来纳德拉在媒体采访中补充说,他对两人都留在OpenAI持开放态度。考虑微软对OpenAI的海量投资,纳德拉的话意味着未来奥特曼无论如何都将继续对OpenAI发挥领导作用。2023年11月20日星期一凌晨4点30分,四名独董之一的德安杰洛(D’Angelo)被一位OpenAI员工电话吵醒。这位员工说,如果他(德安杰洛)不退出董事会,公司就会倒闭。德安杰洛意识到,在过去的几个小时里,情况变得更糟了。这天(11月20日)上午,OpenAI 770名员工中包括首席技术官穆拉蒂在内的绝大多数都签署了一封致董事会的信,威胁要集体辞职,除非董事会恢复奥特曼和布罗克曼的职务。该信还要求董事会在恢复奥特曼和布罗克曼职务后必须立即辞职。信中说:“我们无法为那些对我们的使命和员工缺乏能力、判断力和关怀的人工作。也无法与他们共事。” 这些员工表示他们可能会追随奥特曼前往微软。出人意料的是,董事会成员、与奥特曼持对立观点的萨斯基弗也签署了这封信。

显然,奥特曼离回归越来越近了。OpenAI负责全球事务的副总裁Anna Makanju告诉员工,正在进行“激烈的讨论”来解决这场危机。彭博社报道称,穆拉蒂在Slack平台上向员工发送了一条信息,称“仍在努力……”

预示人工智能发展的结局  

这时只有四名成员的OpenAI董事会除了妥协别无选择 – 恢复奥特曼在OpenAI的首席执行官职务。但董事会也得有可以制约奥特曼的成员,尤其他在这次折腾中大获全胜。于是董事会提出了人选 -- 软件公司Salesforce的前联合首席执行官泰勒(Bret Taylor 下图上),并对其它董事会新成员人选持开放态度。2023年11月21日,德安杰洛就董事会新成员人选与奥特曼进行协商,推荐了哈佛大学教授、前财政部长劳伦斯·萨默斯(Lawrence Summer 下图左 moneycontrol)。奥特曼表示赞成。随后萨默斯分别与德安吉洛(Adam D'Angelo 下图右)、奥特曼和纳德拉等人进行了交谈,表达了他希望在新董事会扮演的角色。

经过紧张激烈的幕后协商勾兑,终于达成了协议。2023年11月21日周二晚上,OpenAI在加利福尼亚州宣布,董事会与公司高管已原则上达成协议,奥特曼官复原职但退出董事会,董事会改组 -- 由软件公司Salesforce的前联合首席执行官布泰勒、前财长萨默斯和德安杰洛三人担任主席。微软则以无投票权的观察员身份加入董事会。改组前的董事会成员 1. 乔治城大学安全与新兴技术中心战略主任托纳(Helen Toner);2. 兰德公司(Rand Corp.)兼职科学家麦考利(Tasha McCauley);和 3. OpenAI首席科学家萨斯基弗(Sutskever)退出董事会。

至此,这段历时5天的闹剧结束,奥特曼重返他应该在的地方:在人类新发现的前线。利益攸关方也在你争我夺的较量中,显示了谁是老大 -- 硅谷科技精英与财大气粗的企业 -- 并指出了可能的人工智能未来发展方向:商业利益。以下为牵涉此番OpenAI折腾的人物头像(下图12 CNN)。

首席科学家萨斯基弗

最后必须要简介在本次抓马中扮演关键角色之一的OpenAI首席科学家萨斯基弗(Ilya Sutskever 下图1 YouTube)。尊为全球知名人工智能科学家的萨斯基弗系俄罗斯犹太人后裔,5岁时随家庭移民至以色列。他在2002年前后考入加拿大的多伦多大学,2005年在多伦多大学获得理学(数学)学士学位,于2007年获得计算机科学(理学)硕士学位,于2013年获得计算机科学哲学博士学位。萨斯基弗的博导就是著名的人工智能教父、深度学习先驱杰弗里·辛顿(Geoffrey Hinton 下图2 JAGRANJosh)。期间的2012年11月至12月,萨斯基弗曾在斯坦福大学/谷歌吴恩达(Andrew Ng 下图3 NEWWORL)下面做了大约两个月的博士后。然后,他回到多伦多大学,加入了辛顿的新研究公司DNNResearch,这是辛顿研究小组的子公司。2013年3月,谷歌收购了DNNResearch,萨斯基弗随之进入谷歌担任谷歌大脑的研究科学家。OpenAI成立之初的2015年,马斯克偷偷从谷歌挖走了萨斯基弗,并因此得罪了谷歌联合创始人拉里·佩奇,宣布与马斯克绝交,自此两人不再有私人往来。

下图为AI大牛合影(iNEWS)。

参考资料 

Michle, T. Metz, C. Isaac, M. and Weise, K. (2023). Inside the crisis over the future of artificial intelligence. New York Times. 链接  https://www.nytimes.com/2023/12/09/technology/openai-altman-inside-crisis.html

Milmo, D. (2023).  Sacking, revolt, return: how crisis at OpenAI over Sam Altman unfolded. The Guardian. 链接  https://www.theguardian.com/technology/2023/nov/25/how-crisis-openai-sam-altman-unfolded

Tarantola, A. & Holt, K. (2023). What is going on with OpenAI and Sam Altman? engadget. 链接 https://www.engadget.com/what-is-going-on-with-openai-and-sam-altman-215725312.html

Wiki. (2024). Ilya Sutskever. 链接 https://en.wikipedia.org/wiki/Ilya_Sutskever

[ 打印 ]
阅读 ()评论 (0)
评论
目前还没有任何评论
登录后才可评论.