美国战略与国际研究中心报告政府使用深度伪造技术的影响

本研报探讨了政府使用深度伪造（deepfakes）技术的影响及其在不同情境下的应用。作者通过五个假设性场景，分析了政府在使用深度伪造时需要考虑的关键问题，并提出了相应的政策建议。

• 深度伪造技术的潜在风险和长期影响
• 政府在使用深度伪造时应遵循的原则和程序
• 各利益相关者在决策过程中的角色和责任

深度伪造技术的潜在风险

1. 信任损失：深度伪造可能导致公众对媒体和新闻来源的不信任，从而被敌对势力利用，制造分裂和混乱。
2. 政府信誉下降：一旦政府被指控使用虚假信息作为政策工具，其声明的可信度将长期受损。
3. 对手的“谎言红利”：对手可以利用虚假信息掩盖真实的腐败或滥用行为。

政府使用深度伪造的原则和程序

1. 有效性：评估深度伪造是否能有效实现预期目标，是否有其他非欺骗性方法。
2. 受众范围：确定深度伪造的目标受众，是否能够控制其传播范围。
3. 潜在伤害：评估深度伪造对无辜平民的可能伤害。
4. 法律影响：考虑使用深度伪造是否违反国际法。
5. 目标对象：确定深度伪造的目标对象，是否涉及国家有影响力的人物。
6. 目标：明确深度伪造的目的，是否为保护国民免受即时伤害、报复性回应或教育公众。
7. 可追溯性：评估深度伪造被追踪到原始创建国家的可能性及其潜在后果。

各利益相关者的角色和责任

1. 决策机构：建议成立一个由白宫领导的跨机构工作组（deepfake equities commission, DEC），负责评估深度伪造的使用案例。
2. 专家意见：在决策过程中，应包括来自国防部、司法部、国务院、财政部和国家情报总监的代表，以及民间社会的代表。
3. 总统批准：任何深度伪造的使用建议应由总统批准，以确保其符合国家的长期利益。

深度伪造技术具有巨大的潜力，但其使用必须谨慎，并遵循明确的原则和程序。政府应建立一个跨机构的决策机制，确保在使用深度伪造时充分考虑其短期和长期影响，并在必要时获得最高层的批准。