一份关于未来十年人工智能发展态势的分析报告

该报告是一份关于未来十年人工智能发展态势的分析报告，撰写于2024年6月，由Leopold Aschenbrenner完成。报告主要聚焦于人工智能（AI）尤其是通用人工智能（AGI）的快速发展及其对社会、经济乃至国家安全的影响。以下是报告中的关键知识点摘要：

1. 计算能力的巨额投资：过去一年里，讨论焦点从十亿美元级别的计算集群迅速转向百亿美元乃至万亿美元级别的集群。美国大企业正准备投入数万亿美元，用于前所未有的工业实力动员，预计到本年代末，美国电力产量将增长数十个百分点，大量GPU将在从宾夕法尼亚州的页岩气田到内华达州的太阳能农场中运行。
2. AGI竞赛的开始：报告指出，正在构建能够思考和推理的机器，预估到2025/26年，这些机器的智能将超过大学毕业生，到本年代末，它们将比人类更聪明，实现真正意义上的超智能。这将伴随着半个世纪以来未见的国家安全力量的释放，并可能引发与中国的全面竞争或冲突。
3. AI能力的突破：
   • 模型协作：通过不同模型间的协作（如一个制定计划、另一个提出解决方案、另一个进行批判等），在解决特定问题上展现出显著效果。
   • 工具使用：AI如Chat-GPT开始能够使用网络浏览器、运行代码等，预示着AI使用工具能力的初步阶段。
   • 上下文长度：模型的上下文处理能力从GPT-3的2k令牌提升到GPT-4的32k令牌，再到Gemini 1.5 Pro的100万+令牌，极大提高了效率和应用范围。
   • 后训练改进：GPT-4经过后训练改进，其推理能力显著增强，比如在MATH和GPQA等评估上的得分大幅提升。
4. 算法效率与自动AI研究者：
   • 报告强调算法进步的重要性，认为过去十年中算法效率大约以每年0.5个数量级的速度增长，并且通过“解绑”（unhobbling）模型可以实现额外的大幅算法增益。
   • 预测数百万自动化AI研究员（工作速度可能是人类的10到100倍）能在一年内完成人类十年的算法进展，相当于一年内实现5个数量级以上的进步。
   • 自动化AI研究员的优势包括：阅读所有ML论文、深度思考所有实验、并行学习、积累千年经验、编写和优化代码、快速复制与协作，以及不断进化出更智能的模型。
5. 未来的展望：报告描绘了一个AI不仅在规模上，也在功能和智能上远超现有水平的未来，其中自动化AI研究者将带来革命性的科研加速，可能改变人类社会的方方面面，包括工作模式、技术发展速度和国际竞争格局。

该报告是对即将到来的AI革命的前瞻分析，强调了技术进步的速度、规模以及其对全球经济和国家安全的潜在影响。

下载：