Paul Graham 经典随笔回看

Dario 在这期访谈中给出了他对 powerful AI 何时到来的清晰时间表 —— 大约在 2027 年前后,我们就将见到能完成博士级科研工作的 AI 系统。他强调,这不是 AGI 的定义之争,而是一个实用主义的判断:当 AI 能持续地、可靠地完成需要多年博士训练才能完成的任务时,世界已经被改变。关于安全,他给出了一个反直觉的结论 —— 安全研究并不是等 AI 强了再做的事,而是必须在过程中持续做。Anthropic 的整个组织设计,从 Claude 的 RLHF 到 Constitutional AI,都是这个思路的产物。商业模式上,Anthropic 走的是 API-first 而非应用层的路线。这是一个相对克制的选择:把消费者应用层留给生态,自己专注做最底层的智能体能力供给。