未来工作:AI 不替代,而是放大

这期播客的主角是 Anthropic 的 CEO Dario Amodei。他给出的核心判断是：能在博士级科研任务上全面超越人类的 AI 系统，大约 2027 年前后就会到来。这不是在争论 AGI 的定义，而是一个实用主义的预测——当 AI 能持续完成需要多年博士训练才能搞定的事情时，世界就已经被改变了。

Dario 反复强调一个反直觉的观点：安全研究不是等 AI 变强了再去做的事，而是必须贯穿始终。Anthropic 的整个组织设计，从 Claude 的 RLHF 到 Constitutional AI，都是这个思路的产物。他甚至认为，真正的瓶颈不在芯片和算力——虽然它们是物理限制，但在 2027 年之前不会成为硬约束——真正的瓶颈在数据、算法和组织能力。Anthropic 的赌注是：对齐研究必须和模型规模的扩展同步进行，不能先做大再修修补补。

在商业模式上，Anthropic 走的是 API-first 路线，而不是直接做消费者应用。这是一个相对克制的选择：把应用层留给生态，自己专注做最底层的智能体能力供给。Dario 认为，这么做既能避免和客户竞争，也能更专注于安全与对齐的核心问题。他并不追求在 AGI 竞赛中拿第一，而是追求在安全曲线上领先。

当然，这个判断也有它的局限。比如，他给出的时间表依赖于当前 scaling laws 的延续，但万一模型扩展遇到新的瓶颈呢？再比如，他对出口管制的看法是“给 alignment 研究争取时间”，但政策本身可能带来意想不到的副作用。不过，Dario 的逻辑是一贯的：技术发展不可阻挡，关键是如何在过程中植入安全基因。

总的来说，这期内容给了一个清晰的路线图：未来 5 年，AI 将从工具变成能独立完成科研工作的协作者。Dario 的立场不是悲观也不是盲目乐观，而是务实——承认风险，但相信通过持续的对齐研究，我们可以让 AI 成为放大人类能力的杠杆，而不是替代人类的威胁。