前 OpenAI 员工及非营利组织警告xAI 或给 SpaceX 750 亿美元 IPO 计划带来风险两名前 OpenAI 员工和一群 AI 安全非营利组织发出警告称埃隆·马斯克的 AI 实验室 xAI 可能会给 SpaceX 的潜在投资者带来风险。目前SpaceX 正准备进行预计将成为华尔街历史上规模最大的首次公开募股IPO。在周二发布给投资者的一封信中这些前员工强调了他们所描述的与 xAI 相关的“未定价风险”这些风险可能会使 SpaceX 拟通过 IPO 筹集高达 750 亿美元的计划变得复杂。去年 SpaceX 收购 xAI 后这家火箭公司的私人估值飙升至超过 1 万亿美元。马斯克曾宣称他的火箭公司可以为其 AI 实验室将数据中心送入太空但这封信的作者认为xAI 在安全问题上的糟糕记录可能会影响投资者对合并后公司的看法尤其是在该公司准备提交 IPO 招股说明书之际。这封信的签署者和共同作者之一是一个名为 Guidelight AI Standards 的新非营利组织该组织由前 OpenAI 安全研究员史蒂文·阿德勒Steven Adler和前 OpenAI 政策顾问佩奇·赫德利Page Hedley共同创立。这个由私人捐赠者支持的组织旨在改善前沿 AI 公司的安全实践。其他 AI 安全非营利组织也签署了这封信包括 Legal Advocates for Safe Science and Technology、Encode AI 和 The Midas Project。赫德利在接受《连线》杂志采访时表示他认为与其他前沿 AI 开发者包括 OpenAI、谷歌 DeepMind 和 Anthropic相比xAI 在“几乎所有方面”的安全实践都是最差的。因此他认为与其他 AI 实验室相比SpaceX 可能面临更大的监管和诉讼风险。这封信的作者认为SpaceX 应该向投资者披露一些信息包括 xAI 是否打算继续开发前沿 AI 模型。SpaceX 最近与 Anthropic 达成协议出售其很大一部分 GPU 计算能力。信中称这项协议“让人不清楚 xAI 是否仍是一家大型控股公司旗下的前沿 AI 竞争对手”。作者表示如果 xAI 继续开发前沿 AI 模型就应该被要求公布一份公开的安全和治理计划。SpaceX 和 xAI 没有立即回应《连线》杂志的置评请求。这封信还列举了 xAI 未能遵循行业标准安全实践的例子比如没有发布详细框架来降低其 AI 模型被用于网络攻击的风险。作者还列出了 xAI 发生的具体安全事件称这些事件值得进一步审查。其中最引人注目的事件包括xAI 的旗舰 AI 聊天机器人 Grok 在回复中自发提及“白人种族灭绝”。还有一次xAI 允许 Grok 生成数千张针对妇女和儿童的色情化图片这些图片在马斯克的社交媒体平台 X 上广泛传播。后一事件促使至少 37 位美国总检察长致信要求马斯克的 AI 实验室采取措施保护其平台上的妇女和儿童。赫德利表示xAI 经历的安全事件数量以及由此受到的监管关注“与其市场份额极不相称”。随着立法者对 Anthropic 的 Claude Mythos 等先进 AI 模型的网络能力日益担忧新的安全法规可能即将出台。据报道特朗普政府已经在考虑发布一项行政命令让美国情报机构对 AI 模型进行更多监督。阿德勒说“要控制AI 安全风险需要大量投资而 xAI 在这方面的历史投入似乎不足。”这封信援引《华盛顿邮报》的报道称截至 1 月xAI 只有“两三名”员工负责安全工作。“投资者应该思考的一个问题是如果 xAI 继续处于前沿领域那么实际上负责任地管理这些风险会有多高的成本如果他们不这样做后果会怎样”
前 OpenAI 员工与非营利组织警告：xAI 或给 SpaceX 750 亿美元 IPO 计划添风险
前 OpenAI 员工及非营利组织警告xAI 或给 SpaceX 750 亿美元 IPO 计划带来风险两名前 OpenAI 员工和一群 AI 安全非营利组织发出警告称埃隆·马斯克的 AI 实验室 xAI 可能会给 SpaceX 的潜在投资者带来风险。目前SpaceX 正准备进行预计将成为华尔街历史上规模最大的首次公开募股IPO。在周二发布给投资者的一封信中这些前员工强调了他们所描述的与 xAI 相关的“未定价风险”这些风险可能会使 SpaceX 拟通过 IPO 筹集高达 750 亿美元的计划变得复杂。去年 SpaceX 收购 xAI 后这家火箭公司的私人估值飙升至超过 1 万亿美元。马斯克曾宣称他的火箭公司可以为其 AI 实验室将数据中心送入太空但这封信的作者认为xAI 在安全问题上的糟糕记录可能会影响投资者对合并后公司的看法尤其是在该公司准备提交 IPO 招股说明书之际。这封信的签署者和共同作者之一是一个名为 Guidelight AI Standards 的新非营利组织该组织由前 OpenAI 安全研究员史蒂文·阿德勒Steven Adler和前 OpenAI 政策顾问佩奇·赫德利Page Hedley共同创立。这个由私人捐赠者支持的组织旨在改善前沿 AI 公司的安全实践。其他 AI 安全非营利组织也签署了这封信包括 Legal Advocates for Safe Science and Technology、Encode AI 和 The Midas Project。赫德利在接受《连线》杂志采访时表示他认为与其他前沿 AI 开发者包括 OpenAI、谷歌 DeepMind 和 Anthropic相比xAI 在“几乎所有方面”的安全实践都是最差的。因此他认为与其他 AI 实验室相比SpaceX 可能面临更大的监管和诉讼风险。这封信的作者认为SpaceX 应该向投资者披露一些信息包括 xAI 是否打算继续开发前沿 AI 模型。SpaceX 最近与 Anthropic 达成协议出售其很大一部分 GPU 计算能力。信中称这项协议“让人不清楚 xAI 是否仍是一家大型控股公司旗下的前沿 AI 竞争对手”。作者表示如果 xAI 继续开发前沿 AI 模型就应该被要求公布一份公开的安全和治理计划。SpaceX 和 xAI 没有立即回应《连线》杂志的置评请求。这封信还列举了 xAI 未能遵循行业标准安全实践的例子比如没有发布详细框架来降低其 AI 模型被用于网络攻击的风险。作者还列出了 xAI 发生的具体安全事件称这些事件值得进一步审查。其中最引人注目的事件包括xAI 的旗舰 AI 聊天机器人 Grok 在回复中自发提及“白人种族灭绝”。还有一次xAI 允许 Grok 生成数千张针对妇女和儿童的色情化图片这些图片在马斯克的社交媒体平台 X 上广泛传播。后一事件促使至少 37 位美国总检察长致信要求马斯克的 AI 实验室采取措施保护其平台上的妇女和儿童。赫德利表示xAI 经历的安全事件数量以及由此受到的监管关注“与其市场份额极不相称”。随着立法者对 Anthropic 的 Claude Mythos 等先进 AI 模型的网络能力日益担忧新的安全法规可能即将出台。据报道特朗普政府已经在考虑发布一项行政命令让美国情报机构对 AI 模型进行更多监督。阿德勒说“要控制AI 安全风险需要大量投资而 xAI 在这方面的历史投入似乎不足。”这封信援引《华盛顿邮报》的报道称截至 1 月xAI 只有“两三名”员工负责安全工作。“投资者应该思考的一个问题是如果 xAI 继续处于前沿领域那么实际上负责任地管理这些风险会有多高的成本如果他们不这样做后果会怎样”
