人工智能（AI）与生物安全风险之间的演变

本研报探讨了人工智能（AI）与生物安全风险之间的演变关系，分析了当前生物安全风险的现状、AI技术的能力、阈值和干预措施。

• AI技术可能带来的生物恐怖主义风险
• 美国生物安全的历史和现状
• AI如何改变现有的生物安全风险
• 需要关注的AI技术能力
• 当前的干预措施

1. 当前生物安全风险的现状

• 历史背景：历史上，美国和其他国家在生物安全方面存在诸多问题，包括苏联的大规模生物武器计划。
  
• 现状评估：尽管近年来生物安全事件较少，但专家们对非国家行为者制造生物武器的可能性表示担忧。
• 技术进步：生物技术（如基因编辑、基因测序和DNA合成工具）的发展带来了新的风险和挑战。

2. AI技术的能力

• 新能力：AI技术在生物学中的应用潜力巨大，可以帮助优化生物武器的精确性和效果。
• 技术挑战：尽管AI技术在生物学中有巨大潜力，但仍面临许多技术难题，如确保AI系统的安全性。
• 复杂系统整合：AI工具整合到复杂的生物系统中可能会带来新的安全风险，特别是自动化实验室的潜在风险。
• 发展条件：AI和生物技术的快速发展需要谨慎的监管和管理。

3. 需要关注的AI技术能力

• 基础模型的有效性：监控基础模型在支持高级生物实验中的表现。
• 云实验室和实验室自动化的进展：监控这些技术如何减少实验所需的隐性知识。
• 双重用途研究的进展：监控AI在研究宿主对传染病遗传易感性方面的双重用途研究。
• 病毒病原体精确工程的进展：监控AI在病毒病原体精确工程方面的双重用途研究。

4. 当前的干预措施

• 加强筛查机制：进一步加强对云实验室和其他基因合成提供商的筛查。
• 定期评估：定期对通用模型的生物武器能力进行全面评估。
• 投资技术安全机制：投资于能够遏制基础模型滥用的新技术。
• 更新政府投资：优先考虑生物防御系统的灵活性和敏捷性。
• 长期考虑：如果潜在的灾难性生物设计工具出现，考虑实施许可制度。

本研报详细分析了AI技术与生物安全风险之间的关系，指出了当前生物安全风险的现状和AI技术的潜在影响。报告提出了多项干预措施，以减轻AI技术可能带来的生物安全风险。通过监控关键技术和采取适当的预防措施，可以更好地应对未来的生物威胁。

原文下载：