对人工智能领域杰出人物 Ilya Sutskever 的采访,深入探讨了该行业从“扩展时代”到“研究时代”的关键转变。他认为,虽然扩展算力、数据和参数推动了过去的进步,但收益递减和数据限制现在需要根本性的突破。Sutskever 批判性地考察了当前人工智能模型的“锯齿性”,即令人印象深刻的基准性能与令人惊讶的现实世界失败并存。他将此归因于过于狭隘的强化学习 (RL) 环境,这些环境针对特定评估进行优化,而不是培养稳健的、类人般的泛化能力。Sutskever 对比了人类学习的高效和人工智能学习所需的样本量远大于人类,认为人类利用了进化编码的“价值函数”或“情感”,为决策提供关键的内部指导和反馈。当前的人工智能范式在很大程度上缺乏这种能力。讨论还涵盖了安全超智能公司 (SSI) 的战略方法,包括“直接构建”超智能的潜力,以及公认的增量部署对社会适应和学习的价值。最终,Sutskever 提倡人工智能开发的核心目标:构建与所有有感知能力的生命的福祉稳健对齐的超智能,并以植根于美、简洁和受大脑启发的原则的“美学”为指导。









