AI研究进入新阶段：从规模扩张到泛化与对齐

在本期节目中，伊利亚·苏斯克韦尔与达瓦克什·帕特尔讨论了AI领域从规模扩张向研究深化的转变。他们指出，当前AI模型虽然在特定任务上表现优异，但泛化能力仍存在明显不足。苏斯克韦尔认为，这种差距可能源于强化学习（RL）训练过程中对评估的过度关注，导致模型在实际应用中表现不佳。他以编程竞赛选手的类比说明，预训练虽然提供了大量数据，但缺乏对价值函数的直接建模，使得模型难以在复杂现实场景中做出合理判断。此外，他们还探讨了AI对经济的影响、情感与价值函数的关系，以及如何确保通用人工智能（AGI）的顺利发展。苏斯克韦尔强调，人类的情感和价值判断是进化过程中硬编码的，而AI目前仍需通过更精细的训练方法来实现类似能力。