Hinton联合前OpenAI员工反对OpenAI从非营利组织转为营利性公司

近日，诺奖得主&加拿大多伦多大学教授杰弗里·辛顿（Geoffrey Hinton）、Hugging Face 首席伦理科学家玛格丽特·米切尔（Margaret Mitchell）和美国加州大学伯克利分校教授斯图尔特·拉塞尔（Stuart Russell）以及 10 名前 OpenAI 员工，在一封提交给美国加利福尼亚州和特拉华州总检察长的联名信中，敦促美国当局阻止 OpenAI 从非营利组织转变为公益公司（PBC，public benefit corporation，一种兼顾营利与公益的商业模式）。他们在反对这一举措的同时，表达了与马斯克相同的担忧，目前马斯克正通过法律诉讼努力阻止这一转变。

由于 OpenAI 的总部和注册地分别位于美国加利福尼亚州和特拉华州，因此这两个州的司法部长有权对此决定进行监管，并有责任确保此次转换符合公众利益且价格合理。

OpenAI 成立于 2015 年，是一家非营利组织，其成立动机源于对营利性公司可能在开发与公共利益不完全一致的情况下开发出 AGI 的担忧。OpenAI 的财务结构颇为复杂，2019 年它成立了一家营利性子公司，为投资者设定了回报上限，并赋予其非营利性董事会对于营利性子公司的完全控制权。OpenAI 此前曾警告称，AGI 将带来“滥用、重大事故和社会动荡的严重风险”。2023 年 5 月，OpenAI CEO 山姆·奥特曼（Sam Altman）签署一份声明并警告称，“降低 AI 导致灭绝的风险应成为全球首要任务，（这一任务的重要性）与流行病和核战争等其他社会层面的风险并列。”而根据此次 OpenAI 拟议的变更明细来看，非营利性董事会将在营利性实体中持有股份并拥有一定的投票权。按照计划，OpenAI 拟在 2025 年年底前转变为营利性实体。若不进行转变，OpenAI 可能会失去软银大约 300 亿美元的投资以及投资者在之前几轮中的额外投资，并且可能难以筹集到计算基础设施、模型训练和人员配置所需的巨额资金。尽管目前 OpenAI 估值已达 3000 亿美元，但其辩称在谷歌和 Meta 等竞争对手正投资数千亿美元开发这项技术之际，其投资者“需要传统股权和更少的结构性定制”来承诺进一步投资。

此次联名信认为，OpenAI 拟议的重组将会把 AGI 开发控制权转移给一家以利润为驱动力的公司，这与 OpenAI 的创始使命相悖。要知道，OpenAI 的创始使命是确保 AGI 造福全人类，而非实现“任何个人的私利”。

据了解，参与签署联名信的 Stuart Russell 表示：“如果 OpenAI 放弃对其营利性子公司的控制权，这不仅明显违背了其宣称的慈善宗旨……而且还会大大增加其 CEO 所描述的‘我们所有人都将陷入黑暗’的可能性。”而参与签署联名信的 Hinton 也表示：“我希望（OpenAI）能执行这一（原始）使命，而不是为投资者谋利。” 联名信签署者们写道：“拟议的重组威胁到了所有这些保障措施，因此应予以制止。”

信中指出，OpenAI 的结构旨在平衡市场力量与其使命，而拟议的变革将放弃这些措施，转而屈从于财务压力。签署者们反对将运营控制权从非营利实体转移给公益公司的计划，并指出这一转变将使股东利益优先于公共安全。 信件签署者之一的前 OpenAI 员工佩奇·赫德利（Page Hedley）表示：“竞争不是 OpenAI 的使命。从各方面来看，它在筹资方面已经取得了非凡的成功。”

签署者们还质疑了 OpenAI 重组的理由。此前，OpenAI 指出为了保持与其他资金充裕的 AI 公司的竞争力，因此其表示需要简化资本结构。但是，此次联名信对此提出异议，指出 OpenAI 的竞争对手并不像其目前的非营利结构那样受到信托责任的约束，以至于需要优先考虑公共福利。

联名信写道：“OpenAI 指出，投资者利益服从于使命是需要解决的问题，但这恰恰是在不破坏使命的情况下无法改变的。”OpenAI 还声称，此次重组将使该非营利组织成为“历史上资源最丰富的非营利组织之一”。然而，这封联名信认为 OpenAI 只应该获得其在营利性部门所持股份的公平市场价值。

联名信还强调，OpenAI 的非营利组织结构并非象征性的，而是一种具有法律约束力的机制。联名信进一步批评了在新架构下关于谁将控制 AGI 技术，并质疑了 OpenAI 的最大投资者微软是否可以获取该技术的透明度。签署者们还担心，OpenAI 章程中的“停止并协助”条款将不再具有可执行性，该条款要求如果其他与安全相关的 AGI 项目率先实现 AGI，OpenAI 必须支持这些项目。

联名信认为，OpenAI 的重组“将以牺牲公众利益为代价，使 OpenAI 的股东受益”，这将影响 AGI 的开发方式、从中获利的人以及最终控制它的人。签署者们还表示，关键在于“OpenAI 是投入时间和资源来确保其 AI 系统对人类安全且有益，还是为了竞争和财务收益而鲁莽地一往直前”。

事实上，对于OpenAI 的担忧并不限于这封联名信。此前，12 名前 OpenAI 员工提交了一封支持埃隆·马斯克（Elon Musk）起诉 OpenAI 的信件，信中重复了许多相同的批评意见。文件指控 OpenAI 一边利用其非营利组织的身份吸引以安全为研发导向的研究人员，一边在内部为商业转型做准备。

另据悉，本次联名信还得到了美国哈佛大学、美国加州大学洛杉矶分校和美国哥伦比亚大学的研究人员的支持。而这封信将起到怎么样的作用，或许不久之后即将揭晓。

参考资料：

联名信https://notforprivategain.org/#names