ChatGPT开发商OpenAI的联合创办人兼前首席科学家苏特克韦尔（Ilya Sutskever）周三在X平台发文，宣布他创办了一家新的人工智能公司Safe Superintelligence，旨在通过纯研究机构创建一个安全强大的AI体系，短期内无意销售AI产品或服务。
去年11月，OpenAI首席执行官奥特曼戏剧性被解雇后又回锅，苏特克韦尔扮演了关键角色，他在5月离开OpenAI，此后外界都在问，他去哪儿了。创办新公司显示，苏特克韦尔试图继续自己的工作，不受OpenAI、Google和Anthropic等竞争对手的干扰。
他受访时说：「这家公司很特别，第一项产品将是安全的超智能（superintelligence），在此之前不做任何其他事情。它将完全不受外界压力的影响，不必处理庞大而复杂的产品，也不必陷入竞争激烈的老鼠赛跑。」
正如公司名称所强调的，苏特克韦尔将AI安全性放在首位。重点当然是去鉴别是什么让一个AI系统比另一个更安全，或者说，究竟是否安全。苏特克韦尔目前对此含糊其辞，但他说，新公司将尝试经由AI系统里的工程突破，而非仰赖临时防护措施来实现安全。
苏特克韦尔还有两位联合创办人。其中一位是投资人、前苹果公司AI主管格罗斯（Daniel Gross），另一位是前OpenAI研究人员李维（Daniel Levy），他曾与苏特克韦尔并肩工作，在训练大型AI模型方面有良好的声誉。
李维说他的愿景与苏特克韦尔完全相同，「一个小而精干的破解团队，每个人都专注于安全的超智能（safe superintelligence）这个单一目标。」
新公司将在加州帕罗奥图和以色列特拉维夫设办事处。苏特克韦尔和格罗斯都成长于以色列。
Safe Superintelligence在某种程度上是回溯OpenAI最初的概念：一个试图创建通用人工智能的研究机构，在许多任务上可以有不相上下、甚至是超越人类的表现，但随着愈来愈需要筹集巨资购买算力，OpenAI的结构发生了变化，导致该公司微软创建紧密合作，并推出能创造营收的产品。所有主要的AI公司都面临同样的问题，随着AI模型的规模疯狂扩大，它们需要为不断扩大的运算需求支付费用。
这些现实问题题让Safe Superintelligence成为投资人的一场豪赌，他们押注苏特克韦尔的团队能取得突破，从而在竞争对手之间占据优势。这些投资人砸钱时，不指望能创造出能获利的热销产品。Safe Superintelligence想实现的目标是否可能，也还不清楚。
该公司名字里的「超智能」（superintelligence）是AI领域的行话，与大多数大型科技公司正在研发人类水准的AI相比，这是另一级别的系统。对于超智能能否实现，或者如何构建这种智能，业内还没有达成共识。
尽管如此，鉴于创办团队的声誉以及人们对该领域的浓厚兴趣，Safe Superintelligence在融资方面可能不会遇到太大的困难。苏特克韦尔拒绝透露Safe Superintelligence的金主是谁以及他已经筹集了多少资金。格罗斯则说：「在我们面临的所有问题中，筹集资金不是其中之一。」
