Sam Altman即使复位,OpenAI的问题还是难以解决

2023-11-19 18:36:25 字數 3954 閱讀 8299

出品|虎嗅esg组。

作者|袁加息。

头图|左边两位是被视为“内斗双方”的sam altman和ilya sutskever。**来自:视觉中国。

本文是#esg进步观察#系列第060篇文章。

本次观察关键词:公司治理、ai安全。

sam altman卸任openai首席执行官、并且退出董事会的事,仍在迅速发酵中。

当地时间11月18日(周六)晚,据外媒援引多位知情人士消息,openai投资者正在向董事会施压,要求sam altman重新担任ceo。而董事会正在与sam讨论此事。

似乎人们还抱着一种希望:如果sam能回到ceo的位置上来,那么或许可以当整件事没有发生过,openai可以收拾分歧,继续前进。

但从此次分歧的本质——也就是openai董事会层面的冲突——来看,sam无论是去是留,openai很可能在这次危机中都不会“软着陆”了。重大的公司治理结构调整已经在所难免。

openai“奇葩”的治理结构?

在目前国内的很多文章中,分析者往往不能理解openai的董事会和公司治理为什么会这样。于是把它斥为“奇葩”。

而openai的治理结构之“奇葩”,根源在于它是一个非营利组织。它的六位董事不把“对股东负责”视为首要职责,于是也不把盈利和股东回报看作最终目标。(所以股东、乃至微软的施压,在原则上对openai董事会没有强制性。)

用openai的官方说法:“每位董事必须尽职推动本非营利组织(指openai)的使命——造福全人类的、安全的通用人工智能。……本非营利组织的首要获益人是全人类,而不是openai的投资者

换句话说,openai的董事会,是凭借对很抽象的“人类福祉”的判断,来掌舵openai的。本次sam altman的出局,主流的猜测是因为其他董事会成员认为他背离了openai创立的初衷,过于激进地推动公司的全球影响力和gpt的商业化。

如果真的这样,那么矛盾内核,是“人类福祉”和“ai商业化”之间的矛盾。

在openai特殊的治理结构中,商业化是受非营利的主体宰制的。出于融资和增长方面的考量,母组织(即openai, inc.)在2023年创立了子公司openai lp。这个“lp公司”承担了融资和给员工发放股权激励的功能。

图:openai的治理结构。其中中间那个框(holding company for openai nonprofit+employees+investors)就是openai lp。| openai官网。

在lp公司创立时和创立之后,openai曾多次明示投资者:公司的总原则永远要放在第一位,即便遵守公司原则会有损投资者利益。“投资openai global, llc是一项高风险的投资”,“投资者可能损失所有的资本,得不到任何回报”。

openai还提到,“怀着捐献的精神去投资openai global, llc或许更为明智”。因为如果失败,可能血本无归;而如果成功,在“后通用人工智能”时代,金钱也会变得没有意义

只是很多人没有想到,投资openai的风险会以sam被解职这种方式爆发。

董事会何以为“人类福祉”代言?

sam回不回得来,其实都解决不了一个更根源的问题:谁能判断组织行为是否符合“人类福祉”?

openai的6位董事,除了被解职的sam altman,以及随即辞职的董事长兼总裁greg brockman,其余的董事是首席科学家、联合创始人ilya sutskever,以及三位独立董事。sam是被4:2票走的。

根据外媒援引知情人士称,ilya sutskever一直对sam激进的融资和商业化动作表示不满,认为他背离了openai的初衷。同时ilya sutskever因为是被称为“ai教父”的geoffrey hinton的学生,很多人因此猜测他继承了老师对ai风险的极度警惕。

此外,三位独董包括adam d’angelo、helen toner、tasha mccauley。

其中,adam d'angelo是有“外国知乎”之称的quora的ceo。d'angelo自己也在做一款名为poe的大模型服务,并且不太对外发表关于ai安全的想法。

第二位独董tasha mccauley在新技术创业领域的经历较为丰富。她曾经参与创立了一家机器人公司和一家地理信息技术公司。同时,mccauley也在两个社会组织中任职,两个组织的工作分别与社区治理和ai伦理有关。

第三位独董helen toner(下图中右边那位)的专业领域是所有独董中最专注于ai安全的。她是乔治城大学安全与新兴技术中心的核心人物,在openai董事会中大量承担ai安全和影响力评估的工作。

图:右边是在一场会议中发言的helen toner。| 视觉中国。

总体上,关于ai安全,openai的董事会肯定有自己的专业判断,但另一方面在外界看来,他们的权威性并不是一目了然的。所以将sam altman解职,到底是出于对openai创建初衷和人类福祉的坚守?还有由于一些人猜测的“公司管理层内斗”?这就很难界定。

归根结底,任何三五个人都难以令人信服地判断“服务人类福祉的ai”应该怎么做。

sam是去是留,openai都回不到之前了。

截至本文发稿,“能否请回sam altman”仍然没有定论。但是无论sam回不回来,openai很可能都回不到从前了。

当地时间周日凌晨00:47分,sam altman发推说:“我这么地爱openai的团队”。似乎在叹息事情的无可挽回。

紧跟着sam altman、greg brockman两位创始人的离开,openai的三名核心研究人员随即辞职,这三人是公司的研究总监jakub pachocki,一个评估ai潜在风险的团队的负责人aleksander madry,以及从公司创始时期就加入的研究员szymon sidor。

sam altman的离职将导致公司团队的**。sam代表着这个非营利机构中的商业化分支,否定了sam,相当于否定了openai为商业化做出种种治理结构设计,以及对于股东、员工的回报。

而他被开除一天后就又发生了“月下追韩信”的戏码,或许表明董事会低估了自己掌控局面的能力。

而即便让sam altman复位,也是不可能把局面简单“恢复原状”的。把他辞掉的董事会是不是需要改组?乃至于,openai用一个六人董事会来保证“造福全人类”,这个治理结构本身是不是有效,也是成问题的。如果openai仍然坚持做一个非营利组织,那么就迫切需要找到同时“维持初衷”和“维持运转”的治理方案。而如今,我们依然搞不明白,openai的精神内核在谁身上,它是不是已经拼不回去了。

可能吃瓜群众们多数是期待sam altman回来的。但是,到底怎样一种治理结构才最有利于兼顾ai的安全性和ai的商业化?这个问题依然是没有答案的。

几个月前,sam曾经在面对彭博社的采访中意味深长地说到,“世界不应该相信我”。他接着说:“我认为董事会需要逐渐向全人类民主化。有许多方法可以实施这一点。我们认为这项技术,其益处,对它的访问权,以及对它的管理权应该属于全人类。如果这真的有效,那么这是一项非常强大的技术。你不应该只信任一个公司,更不应该只信任一个人。”

如今,这个充斥着理想主义的设想,居然到了迫在眉睫需要想办法实现的地步。

openai的危机从一个侧面显示出,为什么“ai安全”是一个如此重要的问题,被上升到国际政治和人类命运的层面。一家公司的治理结构如何精良,也解决不了背后那个大问题。哪怕它是个“非营利组织”。

感谢您的阅读。esg从业者或对此有兴趣的研究者、投资者,欢迎扫描下面***申**入我们社群。

正在改变与想要改变世界的人,都在 虎嗅app

复印机怎么使用复印

复印机是一种常见的办公设备,用于复制文件 和其他资料。以下是使用复印机复印文件的基本步骤 .打开复印机的盖子,将要复印的文件放在复印机上,注意文件要正面朝上放置。.在复印机上选择合适的纸张大小和倍率。一般来说,a纸是最常用的纸张大小,倍率可以根据需要进行调整。.确认复印机是否连接电源,并按下电源开关...

即拔即种后牙龈什么时候恢复

即拔即种后牙龈什么时候恢复,即拔即种植牙是一种快速修复牙齿缺失的方法,通过在拔除病损牙齿的同时立即种植牙槽骨龈环境良好的部位,来重建牙齿。在进行这项手术后,患者通常会关注牙龈的恢复情况。然而,牙龈的恢复过程是一个相对缓慢的过程,需要一定的时间才能恢复。首先,需要了解的是,牙龈在即拔即种植牙后会经历一...

即使都是食盐,“2721”和“5461”不只是数字不同,区别还很大

食盐,是每个家庭,每个人的必需品。如果少了它,不仅生活会变得乏味,任何食物也会失去其美味,这也是为什么盐能作为五味之首的原因。可如今越来越多的人,对食盐又爱又恨,人既离不开它,还要制止过量食盐对身体健康造成的伤害。如已经有大量研究证明,食盐食用过多会增加高血压 肠胃病 胃癌 肠癌 乳腺癌 前列腺癌 ...