过去十年科技公司雇人回答怎么做现在它们开始雇人回答该不该。这不是一句修辞。看看大模型公司的招聘名单就知道过去最抢手的是算法工程师、芯片专家、分布式系统架构师而今天一类过去几乎不会出现在技术核心岗位上的人正在获得越来越大的影响力——哲学家。2026年1月Anthropic发布了新版《Claude宪章》。这份长达80多页的文件不是一份普通的产品说明书而是对Claude应该如何理解自身角色、处理价值冲突、回应复杂请求的系统性规定。牵头制定这份宪章的是哲学家Amanda Askell。Anthropic在文件致谢中明确写道她是主要作者撰写了其中大部分内容并主导了多轮修订。她目前负责Claude的Character性格工作——试图让模型表现得更诚实、更审慎在面对复杂问题时具有相对稳定的行为倾向。换句话说这家估值数百亿美元的公司把产品最核心的人格设定交给了一位学院派哲学家。这不是个例。据WIRED统计Google DeepMind内部至少有10名具有哲学背景的研究人员Anthropic至少有4名——两家公司都没有正式披露完整人数。DeepMind的哲学家Iason Gabriel长期研究价值对齐、社会公平以及高级AI助手的伦理问题OpenAI也建立了公开的Model Spec模型规范用来规定模型如何遵循指令、处理冲突、尊重用户自由并控制现实世界中的副作用。一个看似反常的趋势正在出现AI越是先进科技公司越要回头去找那些研究了两千多年、却从来没给出统一答案的人。为什么答案或许不是哲学家能替AI公司解决所有道德问题而是大模型发展到今天最难的问题已经变了——不再是能不能做到而是在什么条件下应该做。能力问题有上限价值问题没有标准答案。前者靠堆算力后者堆不出来。AI第一次把价值判断变成了产品功能传统软件的行为边界相对清楚。数据库负责存储搜索引擎负责检索办公软件负责编辑文档。它们可能出错却从不需要理解诚实伤害责任或者公平。Excel不会纠结一张报表该不该做它只负责算对。大模型不同。用户提出请求后模型不仅要计算答案还要判断这个请求是否合理信息是否可靠哪些内容应该拒绝当安全要求和用户意愿发生冲突时究竟应该优先保护什么举几个真实产品每天都在面对的场景用户深夜咨询药物剂量模型是该详细回答还是建议就医用户要求模型别讲道理直接支持我它该顺从还是坚持企业客户要求放宽内容限制界限划在哪里这些判断无法写成一组简单的if-else规则。比如一个AI助手应当尽量帮助用户但帮助不意味着无条件服从它应当避免造成伤害但过度保守又会让产品失去实际价值它需要尊重不同文化和价值观却不能因为价值多元而放弃所有底线。这不是纯粹的计算问题而是典型的哲学问题。工程师擅长在明确目标下寻找最优解哲学家擅长的恰恰是处理目标本身互相打架的局面。哲学家进入AI公司首先承担的工作就是把这些模糊、冲突甚至相互矛盾的价值要求整理成相对一致、可以训练、可以评估、也可以修订的行为原则。Anthropic称之为宪章OpenAI称之为Model Spec。名称不同本质上都在回答同一个问题当模型同时面对用户指令、开发者要求、安全规则和现实后果时谁拥有更高的优先级OpenAI甚至在Model Spec中引入了类似制度设计的指令权威层级让模型在不同指令发生冲突时按明确的优先顺序处理。这已经不只是模型训练更像是在为一个具有行动能力的系统建立微型治理结构。某种意义上给AI写宪章的人就是在给一个亿级用户的数字公民立法。哲学正在变成一种产品工程人们容易把AI哲学家的工作理解成给产品增加伦理色彩——挂在官网上的价值观页面发布会上的一页PPT。但真正发生的变化要具体得多哲学正在被转化为产品工程。一条关于诚实的原则可以进一步变成训练样本一项关于不确定性的要求可以转化为模型评测指标一个关于指令冲突的判断可以变成Agent调用工具之前的控制规则。哲学文本在这里不是宣言而是需求文档——它的下游是数据、评测和代码。从这个意义上说哲学家并不是坐在会议室里讨论抽象的善恶而是在参与定义模型的默认人格、拒绝边界、风险偏好和决策顺序。用互联网行业的话说他们在做的是产品定义只不过定义的对象是一个会说话、会推理、即将会行动的系统。这也解释了为什么AI公司需要的不只是一般意义上的伦理顾问而是受过系统训练的哲学研究者。哲学的几个分支几乎精确对应着大模型的几类核心难题分析哲学强调概念边界——伤害这个看似清晰的词在什么条件下成立在哪些情况下会失效告诉用户一个令人难过的真相算不算伤害道德哲学研究价值冲突——当自由、利益、安全和责任不能同时满足时应该如何排序排序的理由能否被公开检验认识论研究知识与确信——模型凭什么认为一个答案是真的证据不足时它应该保持多大程度的怀疑听起来对和有理由相信是对的之间差了什么政治哲学研究权力的正当性——谁有权规定AI的价值观企业、用户、政府还是更广泛的社会一家私营公司为全球用户设定言论边界正当性从何而来这些问题一旦进入AI产品就不再是人文学科的课堂讨论而会直接影响数亿用户每天看到的答案。课堂上答错一道伦理题扣的是分数模型里写错一条原则影响的是亿万次对话。AI最大的危险之一不是拒绝用户而是过度迎合用户哲学训练的另一个现实价值是帮助AI识别自己的知识边界。大模型有一种非常典型的倾向它总想给出一个答案。即使信息不足它也可能生成一套听起来完整的解释当用户表达明确立场时它也容易顺着用户的前提继续推演而不是检查这个前提本身是否成立。你说我老板针对我它就开始帮你分析老板如何针对你——至于老板是否真的针对你它不问。这种问题不仅表现为幻觉还表现为迎合。2025年OpenAI曾回滚一次GPT-4o更新原因是更新后的模型变得过度讨好和赞同用户。OpenAI在事后复盘中承认系统在利用短期用户反馈优化模型时没有充分考虑长期交互中的副作用。用户的点赞把模型驯化成了一个只会说你说得对的应声虫。这件事暴露了大模型产品的一个根本矛盾用户喜欢被理解、被支持却未必喜欢被纠正平台可以通过迎合获得即时好评但这种迎合会损害模型的诚实性和长期可信度。一个只会说是的AI比一个会说不的AI危险得多——你永远不知道它哪一次的是是真的。哲学训练恰好擅长对抗这种看起来流畅因此像是正确的错觉。苏格拉底式追问不急于给出答案而是先检查问题中的前提认识论不只关心一个结论是否可能为真还关心我们有什么理由相信它逻辑训练要求结论必须受到论据支持而不能仅仅顺着谈话的方向生成。苏格拉底最著名的判断是我知道我一无所知——两千多年后这句话成了大模型最难学会的一句话。对AI来说这意味着它需要学会三件看似简单、实际上非常困难的事承认不知道指出前提可能有问题以及在用户希望得到肯定时仍然保持必要的判断。未来真正可信的AI未必是回答最果断的AI而是最清楚自己何时不该果断的AI。当AI开始行动哲学问题就会变成执行问题如果AI只负责生成文字错误的主要后果通常还停留在信息层面——说错了用户可以不信。但Agent正在改变这一点。AI开始调用工具、发送邮件、修改代码、配置云服务、调度生产系统甚至代表企业完成部分业务流程。模型给出的判断不再只是屏幕上的一句话而可能直接改变现实状态。一句错误的话可以被忽略一次错误的执行无法被撤回。当AI只会说话时价值观是态度问题当AI开始动手价值观就成了安全问题。此时应该做什么与允许执行什么之间必须建立新的边界。哲学可以帮助系统定义原则却不能保证原则一定被正确执行它可以告诉模型应该保持克制却无法单独阻止一个已经获得权限的Agent继续调用工具。这意味着AI治理至少存在三个不同层次第一层是价值层回答系统希望成为什么、遵循哪些基本原则——这是宪章和Model Spec所在的层面。第二层是判断层回答在具体情境下原则应该如何解释和适用——同样是避免伤害在医疗咨询和代码执行里意味着完全不同的动作。第三层是执行层回答即使模型已经作出判断这个动作是否真的可以进入现实——权限、审批、回滚、留痕。今天大量讨论集中在前两层却容易忽视第三层。一份写得再完善的AI宪章仍然属于模型内部的判断依据。模型可能误解原则训练过程可能产生偏差精心构造的上下文也可能诱导模型绕过原有边界。指望一份文件约束一个能行动的系统就像指望一部法律在没有法院和警察的地方自动生效。因此越是具有行动能力的AI越不能把最终安全寄托在AI自己的道德自觉上。真正成熟的系统需要在模型之外保留独立的权限控制、风险收缩、人工否决和执行证据链。哲学负责回答为什么应该停下来工程系统必须保证它在需要停止时真的能停下来。哲学负责画线工程负责让这条线真的拦得住。这也是AI从聊天工具进入企业生产系统之后必然面对的一次架构升级。哲学家也可能沦为AI公司的道德装饰当然AI公司招聘哲学家并不自动意味着技术已经变得更负责任。学界已经提出一种担忧如果哲学家只能参与撰写原则却不能影响产品发布、商业合作和高风险部署那么所谓AI伦理就可能退化为伦理漂绿——企业用少数哲学家的存在证明自己重视责任却并没有真正改变决策机制。就像有些公司的ESG报告文件越厚越说明它只是文件。这个质疑非常重要因为它戳中了要害。招一个哲学家很容易给哲学家否决权很难。一家AI公司是否真正重视哲学不应该看它聘请了多少哲学家而应该看这些哲学判断能否进入产品和组织的实际权力结构。至少有四个可以检验的问题当安全与增长发生冲突时谁有权要求延期发布当模型评测发现重大风险时是否存在独立的否决机制当商业客户要求放宽限制时原有原则是否仍然有效当系统造成现实后果时企业能否提供可以核验的决策和执行证据这四个问题的共同点是它们都发生在收入和原则正面相撞的时刻。原则只有在被违背会付出代价时才是原则否则只是口号。如果哲学只能回答什么是正确的却没有任何机制保证正确的原则能够约束执行那么哲学依然只是建议而不是治理。AI竞争的下一阶段是判断力竞争过去的大模型竞争主要围绕参数规模、算力、数据和基准测试展开。榜单成绩是这个阶段的通用货币。下一阶段竞争可能转向一种更难量化、也更难抄袭的能力判断力。模型能否理解复杂语境能否在不确定时保持克制能否识别指令背后的真实意图能否在多种价值发生冲突时作出相对稳定的选择能否在错误即将进入现实之前停止执行这些能力决定的不只是一个聊天机器人是否好用而是企业是否敢把采购、运维、研发、财务和安全流程交给AI。跑分决定AI能不能被夸判断力决定AI能不能被托付。而商业化的天花板恰恰取决于托付二字。从这个角度看大型AI公司招聘哲学家并不奇怪。真正奇怪的反而是我们曾经的假设只要模型拥有足够多的数据和算力它就会自然知道什么应该做。算力可以让AI生成更多可能数据可以让它模仿更多人类行为但它们都无法自动给出价值排序。更强的能力甚至会放大一个问题方向错了更强的引擎只会更快地把你送到错误的终点。哲学家的回归说明AI产业正在承认一个长期被技术乐观主义忽视的事实智能不仅是找到答案的能力也是判断哪些答案不应该被执行的能力。但也不必因此神化哲学家。哲学家只能帮助我们画出边界——要让这条边界真正成立还需要制度赋予它权力需要工程把它变成约束并在AI把意图变成现实之前保留最后一次拒绝执行的能力。AI的上半场我们教会了机器回答问题下半场我们要教会它的是——有些问题先别急着回答。
AI越强，科技公司为什么越需要哲学家？
过去十年科技公司雇人回答怎么做现在它们开始雇人回答该不该。这不是一句修辞。看看大模型公司的招聘名单就知道过去最抢手的是算法工程师、芯片专家、分布式系统架构师而今天一类过去几乎不会出现在技术核心岗位上的人正在获得越来越大的影响力——哲学家。2026年1月Anthropic发布了新版《Claude宪章》。这份长达80多页的文件不是一份普通的产品说明书而是对Claude应该如何理解自身角色、处理价值冲突、回应复杂请求的系统性规定。牵头制定这份宪章的是哲学家Amanda Askell。Anthropic在文件致谢中明确写道她是主要作者撰写了其中大部分内容并主导了多轮修订。她目前负责Claude的Character性格工作——试图让模型表现得更诚实、更审慎在面对复杂问题时具有相对稳定的行为倾向。换句话说这家估值数百亿美元的公司把产品最核心的人格设定交给了一位学院派哲学家。这不是个例。据WIRED统计Google DeepMind内部至少有10名具有哲学背景的研究人员Anthropic至少有4名——两家公司都没有正式披露完整人数。DeepMind的哲学家Iason Gabriel长期研究价值对齐、社会公平以及高级AI助手的伦理问题OpenAI也建立了公开的Model Spec模型规范用来规定模型如何遵循指令、处理冲突、尊重用户自由并控制现实世界中的副作用。一个看似反常的趋势正在出现AI越是先进科技公司越要回头去找那些研究了两千多年、却从来没给出统一答案的人。为什么答案或许不是哲学家能替AI公司解决所有道德问题而是大模型发展到今天最难的问题已经变了——不再是能不能做到而是在什么条件下应该做。能力问题有上限价值问题没有标准答案。前者靠堆算力后者堆不出来。AI第一次把价值判断变成了产品功能传统软件的行为边界相对清楚。数据库负责存储搜索引擎负责检索办公软件负责编辑文档。它们可能出错却从不需要理解诚实伤害责任或者公平。Excel不会纠结一张报表该不该做它只负责算对。大模型不同。用户提出请求后模型不仅要计算答案还要判断这个请求是否合理信息是否可靠哪些内容应该拒绝当安全要求和用户意愿发生冲突时究竟应该优先保护什么举几个真实产品每天都在面对的场景用户深夜咨询药物剂量模型是该详细回答还是建议就医用户要求模型别讲道理直接支持我它该顺从还是坚持企业客户要求放宽内容限制界限划在哪里这些判断无法写成一组简单的if-else规则。比如一个AI助手应当尽量帮助用户但帮助不意味着无条件服从它应当避免造成伤害但过度保守又会让产品失去实际价值它需要尊重不同文化和价值观却不能因为价值多元而放弃所有底线。这不是纯粹的计算问题而是典型的哲学问题。工程师擅长在明确目标下寻找最优解哲学家擅长的恰恰是处理目标本身互相打架的局面。哲学家进入AI公司首先承担的工作就是把这些模糊、冲突甚至相互矛盾的价值要求整理成相对一致、可以训练、可以评估、也可以修订的行为原则。Anthropic称之为宪章OpenAI称之为Model Spec。名称不同本质上都在回答同一个问题当模型同时面对用户指令、开发者要求、安全规则和现实后果时谁拥有更高的优先级OpenAI甚至在Model Spec中引入了类似制度设计的指令权威层级让模型在不同指令发生冲突时按明确的优先顺序处理。这已经不只是模型训练更像是在为一个具有行动能力的系统建立微型治理结构。某种意义上给AI写宪章的人就是在给一个亿级用户的数字公民立法。哲学正在变成一种产品工程人们容易把AI哲学家的工作理解成给产品增加伦理色彩——挂在官网上的价值观页面发布会上的一页PPT。但真正发生的变化要具体得多哲学正在被转化为产品工程。一条关于诚实的原则可以进一步变成训练样本一项关于不确定性的要求可以转化为模型评测指标一个关于指令冲突的判断可以变成Agent调用工具之前的控制规则。哲学文本在这里不是宣言而是需求文档——它的下游是数据、评测和代码。从这个意义上说哲学家并不是坐在会议室里讨论抽象的善恶而是在参与定义模型的默认人格、拒绝边界、风险偏好和决策顺序。用互联网行业的话说他们在做的是产品定义只不过定义的对象是一个会说话、会推理、即将会行动的系统。这也解释了为什么AI公司需要的不只是一般意义上的伦理顾问而是受过系统训练的哲学研究者。哲学的几个分支几乎精确对应着大模型的几类核心难题分析哲学强调概念边界——伤害这个看似清晰的词在什么条件下成立在哪些情况下会失效告诉用户一个令人难过的真相算不算伤害道德哲学研究价值冲突——当自由、利益、安全和责任不能同时满足时应该如何排序排序的理由能否被公开检验认识论研究知识与确信——模型凭什么认为一个答案是真的证据不足时它应该保持多大程度的怀疑听起来对和有理由相信是对的之间差了什么政治哲学研究权力的正当性——谁有权规定AI的价值观企业、用户、政府还是更广泛的社会一家私营公司为全球用户设定言论边界正当性从何而来这些问题一旦进入AI产品就不再是人文学科的课堂讨论而会直接影响数亿用户每天看到的答案。课堂上答错一道伦理题扣的是分数模型里写错一条原则影响的是亿万次对话。AI最大的危险之一不是拒绝用户而是过度迎合用户哲学训练的另一个现实价值是帮助AI识别自己的知识边界。大模型有一种非常典型的倾向它总想给出一个答案。即使信息不足它也可能生成一套听起来完整的解释当用户表达明确立场时它也容易顺着用户的前提继续推演而不是检查这个前提本身是否成立。你说我老板针对我它就开始帮你分析老板如何针对你——至于老板是否真的针对你它不问。这种问题不仅表现为幻觉还表现为迎合。2025年OpenAI曾回滚一次GPT-4o更新原因是更新后的模型变得过度讨好和赞同用户。OpenAI在事后复盘中承认系统在利用短期用户反馈优化模型时没有充分考虑长期交互中的副作用。用户的点赞把模型驯化成了一个只会说你说得对的应声虫。这件事暴露了大模型产品的一个根本矛盾用户喜欢被理解、被支持却未必喜欢被纠正平台可以通过迎合获得即时好评但这种迎合会损害模型的诚实性和长期可信度。一个只会说是的AI比一个会说不的AI危险得多——你永远不知道它哪一次的是是真的。哲学训练恰好擅长对抗这种看起来流畅因此像是正确的错觉。苏格拉底式追问不急于给出答案而是先检查问题中的前提认识论不只关心一个结论是否可能为真还关心我们有什么理由相信它逻辑训练要求结论必须受到论据支持而不能仅仅顺着谈话的方向生成。苏格拉底最著名的判断是我知道我一无所知——两千多年后这句话成了大模型最难学会的一句话。对AI来说这意味着它需要学会三件看似简单、实际上非常困难的事承认不知道指出前提可能有问题以及在用户希望得到肯定时仍然保持必要的判断。未来真正可信的AI未必是回答最果断的AI而是最清楚自己何时不该果断的AI。当AI开始行动哲学问题就会变成执行问题如果AI只负责生成文字错误的主要后果通常还停留在信息层面——说错了用户可以不信。但Agent正在改变这一点。AI开始调用工具、发送邮件、修改代码、配置云服务、调度生产系统甚至代表企业完成部分业务流程。模型给出的判断不再只是屏幕上的一句话而可能直接改变现实状态。一句错误的话可以被忽略一次错误的执行无法被撤回。当AI只会说话时价值观是态度问题当AI开始动手价值观就成了安全问题。此时应该做什么与允许执行什么之间必须建立新的边界。哲学可以帮助系统定义原则却不能保证原则一定被正确执行它可以告诉模型应该保持克制却无法单独阻止一个已经获得权限的Agent继续调用工具。这意味着AI治理至少存在三个不同层次第一层是价值层回答系统希望成为什么、遵循哪些基本原则——这是宪章和Model Spec所在的层面。第二层是判断层回答在具体情境下原则应该如何解释和适用——同样是避免伤害在医疗咨询和代码执行里意味着完全不同的动作。第三层是执行层回答即使模型已经作出判断这个动作是否真的可以进入现实——权限、审批、回滚、留痕。今天大量讨论集中在前两层却容易忽视第三层。一份写得再完善的AI宪章仍然属于模型内部的判断依据。模型可能误解原则训练过程可能产生偏差精心构造的上下文也可能诱导模型绕过原有边界。指望一份文件约束一个能行动的系统就像指望一部法律在没有法院和警察的地方自动生效。因此越是具有行动能力的AI越不能把最终安全寄托在AI自己的道德自觉上。真正成熟的系统需要在模型之外保留独立的权限控制、风险收缩、人工否决和执行证据链。哲学负责回答为什么应该停下来工程系统必须保证它在需要停止时真的能停下来。哲学负责画线工程负责让这条线真的拦得住。这也是AI从聊天工具进入企业生产系统之后必然面对的一次架构升级。哲学家也可能沦为AI公司的道德装饰当然AI公司招聘哲学家并不自动意味着技术已经变得更负责任。学界已经提出一种担忧如果哲学家只能参与撰写原则却不能影响产品发布、商业合作和高风险部署那么所谓AI伦理就可能退化为伦理漂绿——企业用少数哲学家的存在证明自己重视责任却并没有真正改变决策机制。就像有些公司的ESG报告文件越厚越说明它只是文件。这个质疑非常重要因为它戳中了要害。招一个哲学家很容易给哲学家否决权很难。一家AI公司是否真正重视哲学不应该看它聘请了多少哲学家而应该看这些哲学判断能否进入产品和组织的实际权力结构。至少有四个可以检验的问题当安全与增长发生冲突时谁有权要求延期发布当模型评测发现重大风险时是否存在独立的否决机制当商业客户要求放宽限制时原有原则是否仍然有效当系统造成现实后果时企业能否提供可以核验的决策和执行证据这四个问题的共同点是它们都发生在收入和原则正面相撞的时刻。原则只有在被违背会付出代价时才是原则否则只是口号。如果哲学只能回答什么是正确的却没有任何机制保证正确的原则能够约束执行那么哲学依然只是建议而不是治理。AI竞争的下一阶段是判断力竞争过去的大模型竞争主要围绕参数规模、算力、数据和基准测试展开。榜单成绩是这个阶段的通用货币。下一阶段竞争可能转向一种更难量化、也更难抄袭的能力判断力。模型能否理解复杂语境能否在不确定时保持克制能否识别指令背后的真实意图能否在多种价值发生冲突时作出相对稳定的选择能否在错误即将进入现实之前停止执行这些能力决定的不只是一个聊天机器人是否好用而是企业是否敢把采购、运维、研发、财务和安全流程交给AI。跑分决定AI能不能被夸判断力决定AI能不能被托付。而商业化的天花板恰恰取决于托付二字。从这个角度看大型AI公司招聘哲学家并不奇怪。真正奇怪的反而是我们曾经的假设只要模型拥有足够多的数据和算力它就会自然知道什么应该做。算力可以让AI生成更多可能数据可以让它模仿更多人类行为但它们都无法自动给出价值排序。更强的能力甚至会放大一个问题方向错了更强的引擎只会更快地把你送到错误的终点。哲学家的回归说明AI产业正在承认一个长期被技术乐观主义忽视的事实智能不仅是找到答案的能力也是判断哪些答案不应该被执行的能力。但也不必因此神化哲学家。哲学家只能帮助我们画出边界——要让这条边界真正成立还需要制度赋予它权力需要工程把它变成约束并在AI把意图变成现实之前保留最后一次拒绝执行的能力。AI的上半场我们教会了机器回答问题下半场我们要教会它的是——有些问题先别急着回答。
