OpenAI“政变”后新动向：Ilya Sutskever离职创业，主攻安全型超级智能

当地时间6月19日， OpenAI 前联合创始人伊利亚·苏茨克维（Ilya Sutskever ）正式宣布，其成立的新 AI 初创公司 Safe Superintelligence（以下简称为 SSI）。

他对媒体表示，这是一家将优先考虑安全性而非“商业压力”的公司。

苏茨克维是一名俄罗斯以色列裔加拿大计算机科学家，除了联合创始人身份，此前他在 OpenAI 还担任首席科学家。

图丨SSI 联合创始人伊利亚·苏茨克维（Ilya Sutskever）（来源：MIT Technology Review）

苏茨克维在今年5月离开了 OpenAI，在过去几个月，“苏茨克维去了哪里”的问题已成为人工智能领域备受讨论的热门话题之一。

此前，苏茨克维曾参与2023年董事会罢免 CEO 山姆·奥特曼（Sam Altman）的行动，甚至在其中发挥核心作用。

尽管之后他改变立场，帮助策划奥特曼的回归行动，并曾在之后公开表示对自己在此事中扮演的角色感到后悔。

他曾在社交媒体上写道：“我对参与董事会的行动深感遗憾，我从未想过要伤害 OpenAI，并热爱我们共同建立的一切，我将尽一切努力让公司重新团结起来。”

但自此之后，苏茨克维就不再发声，直到2024年5月正式离职。在离职时他只透露，会在适当的时机公布他的下一个项目。

除了苏茨克维，SSI 公司的联合创始人还包括在 OpenAI 前技术人员丹尼尔·利维（Daniel Levy）以及苹果前 AI 负责人兼 Cue 公司联合创始人丹尼尔·格罗斯（Daniel Gross）。

格罗斯是一位人工智能投资者兼企业家，他曾担任奥特曼此前经营的硅谷初创企业孵化器 Y Combinator 合伙人。

此外，格罗斯还拥有 GitHub、Instacart 等公司的股份，其投资的 AI 公司包括 Perplexity.ai、Character.ai 和 CoreWeave 等。

图丨苏茨克维宣布成立 SSI 公司（来源：X）

目前，在 SSI 的官网只发布了成立该公司的初衷，SSI 创始人通过公告表示，这是一家“只专注于一个重点、一个目标和一个产品”的初创公司，目标是“创建一个安全而强大的 AI 系统”。

公告中还指出了 OpenAI、谷歌、微软、Anthropic 等公司的 AI 团队经常面临外部压力，而 SSI 公司的商业模式则意味着其安全、保障和进步短期内都不受商业压力的影响。

尤其是“单一关注”，可使其避免“受到成本开销管理或产品周期等因素的干扰”，从而脚踏实地扩大公司规模。

苏茨克维在媒体采访中提到，“SSI 的首款产品将是一款安全的超级智能，在此之前公司不会做任何其他事情。SSI 将完全免受外部压力，不必处理庞大而复杂的产品，也不必陷入激烈的竞争。”

公告还写道，构建安全超级智能是这个时代最重要的技术问题。该公司“将安全性和能力作为技术问题，并通过革命性的工程和科学突破来解决”。

图丨SSI 公司创始初衷公告（来源：SSI 官网）

长期以来，苏茨克维一直是 AI 安全领域的倡导者之一。事实上，在 SSI 中的许多工作也是他在 OpenAI 期间工作内容的延续。

当时，苏茨克维是 OpenAI 超级对齐团队的一员，负责设计控制强大的 AI 系统新方法。

不过，随着他的离职，超级对齐团队也随之解散，该举动也曾遭到当时是负责人之一的 AI 研究员简恩·莱克（Jan Leike）的严厉批判。

2023年，莱克与苏茨克维曾共同撰写了一篇博客文章。根据他们当时的预测，未来十年内可能出现智力超越人类的 AI，并强调这种 AI 可能不一定是友好的，必须开始研究控制和限制 AI 的方法。

在苏茨克维从 OpenAI 离职后不久，莱克也宣布辞职，理由是 OpenAI 为了呈现抓人眼球的产品，允许安全流程让步。

此外，OpenAI 政策研究员格雷琴·克鲁格（Gretchen Krueger）在宣布离职时，也指出了该公司的安全问题。

成立于2015年的 OpenAI 公司，当时的使命与 SSI 是类似的，它是一家非营利性研究实验室，旨在创造造福人类的超级智能 AI。

尽管奥特曼一直坚持称这依旧是 OpenAI 的指导原则，但在他的领导下， OpenAI 已成为一家快速增长的企业。

事实上，这并不是 OpenAI 的离职员工首次创立关注更安全 AI 的初创公司。

在2021年，OpenAI 公司前人工智能安全主管达里奥·阿莫迪（Dario Amodei）宣布成立初创公司 Anthropic。该公司已从亚马逊筹资40亿美元，并从风险投资者筹集了数亿美元，公司估值超180亿美元。

参考资料：

https://ssi.inc/

https://www.anthropic.com/

https://www.manager-magazin.de/unternehmen/tech/ilya-sutskever-openai-mitbegruender-verlaesst-das-unternehmen-a-3664b9ec-868f-44cd-8edc-2aba63803a0b

https://www.cnbc.com/2024/06/19/openai-co-founder-ilya-sutskever-announces-safe-superintelligence.html

https://www.bloomberg.com/news/articles/2024-06-19/openai-co-founder-plans-new-ai-focused-research-lab

https://www.ft.com/content/68cb9b1f-c3bb-4a90-a8b6-17b7e3ecd234

https://www.theverge.com/2024/6/19/24181870/openai-former-chief-scientist-ilya-sutskever-ssi-safe-superintelligence

https://www.firstpost.com/tech/openai-co-founder-ilya-sutskever-launches-new-firm-focused-on-developing-a-safe-super-ai-13784192.html

运营/排版：何晨龙

01/ 澄清170多年学术争论：北大团队获得六角冰表面原子级分辨图像，刷新对于冰表面的传统认知

02/ 科学家研发种子筛选AI模型，预测准确性超过90%，实现高效数字化的抗病品种筛选

03/ 两百多年的物理效应迎新进展：中美联合团队发现低温莱顿弗罗斯特效应，在130℃下观察到液体悬浮

04/ 科学家研发数字非福斯特电路，功率处理能力提高3个数量级，能用于远距离声通讯或无线通信

05/ 清华团队远赴云南养蚊子，借此发现新型抗病毒细菌，为蚊媒传染病防控提供有力方案