新开源平台提高人工智能性能、降低运行成本和能源消耗
随着人工智能技术的快速发展，其在各行各业中的应用变得越来越广泛。然而，随之而来的高昂成本和能源消耗问题一直是限制人工智能发展的重要因素。为了解决这些问题，研究人员进行了深入的研究和创新，最终开发出了新型开源平台。这个平台不仅降低了运行人工智能模型的成本和能源消耗，而且在提高性能方面也取得了显著成果。
康奈尔大学的研究人员发布了一个名为Cascade的新开源平台，可以以降低成本和能源消耗的方式运行人工智能模型，同时显著提高性能。
Cascade的设计适用于智能交通路口、医学诊断、使用增强现实进行设备维修、数字农业、智能电网和制造过程中的自动产品检查等场景，这些场景中人工智能模型必须在几分之一秒内做出反应。
随着人工智能的兴起，许多公司渴望利用新功能，但担心相关的计算成本以及与人工智能公司共享私人数据或将敏感信息发送到云端的风险。此外，当今的人工智能模型速度很慢，限制了它们在必须来回传输数据或模型控制自动化系统的环境中的使用。
Cascade结合了几项创新技术，以解决与人工智能相关的成本和数据隐私问题。
Cascade采用边缘计算的方法，将计算和数据存储放置在数据源附近，以保护敏感信息。该平台的“零拷贝”边缘计算设计最大限度地减少了数据移动，使得人工智能模型在响应事件时无需等待获取数据，从而实现更快的响应。
Cascade的使用非常简单，大多数程序无需对人工智能软件进行任何更改。
Cascade的效果令人印象深刻，大多数程序比基于云端应用程序运行速度提高了2到10倍，一些计算机视觉任务的速度提高了20倍甚至更多。较大的人工智能模型获益最多。
通过开源发布Cascade，康奈尔大学的研究团队希望其他研究人员能够探索Cascade的可能用途，使人工智能应用更加普遍可用。
Cascade 的开发资金来自空军研究实验室、国家科学基金会、挪威科学基金会、微软、NVIDIA、思科和西门子。
