生成AI背后的安全隐患，人工智能蠕虫来袭
公司正在将生成式人工智能 （AI） 融入他们的产品中，如 ChatGPT 和 DALL-E，它与各个领域的整合凸显了其变革潜力，但使用生成式人工智能存在风险。
最近的研究探讨了针对生成性人工智能驱动模型的潜在威胁，如对话中毒和越狱攻击。其中一项研究介绍了Morris II，这是一种旨在利用生成性人工智能生态系统的“蠕虫”，展示了它传播和策划恶意活动的能力。
研究人员以臭名昭著的1988年莫里斯蠕虫命名了莫里斯II蠕虫。蠕虫是一种通过在计算机网络中独立传播而运行的恶意软件，通常不需要任何用户交互。蠕虫利用操作系统、网络协议或应用程序中的弱点来复制自己，并自主地从一台计算机传播到另一台计算机。蠕虫造成了巨大的破坏，导致了巨大的经济损失。
这项新研究确定了易受攻击的生成性人工智能应用程序，并展示了Morris II操纵这些应用程序的能力，强调了在不断发展的人工智能环境中理解和减少安全风险的重要性。
Morris II可以通过生成性人工智能传播自己，欺骗系统，发送垃圾邮件，散布谎言，或获取人们的个人信息。蠕虫通过向生成的人工智能模型中注入恶意提示来复制自己，然后传播到生态系统中的其他代理。
研究表明，这种蠕虫可能会影响两种类型的人工智能应用程序。首先是依赖GenAI服务产生的结果才能正常运行的应用程序。这些应用程序很容易被称为“应用程序流引导GenAI蠕虫”的恶意软件操纵或重定向。第二种是利用RAG（生成模型的递归聚合）来增强其GenAI查询的应用程序。这些特定的应用程序有被称为“基于RAG的GenAI蠕虫”的恶意软件攻击的风险。
研究人员表示，虽然他们希望这项研究的发现能防止GenAI蠕虫出现，但他们相信GenAI蠕虫将在未来几年出现在真正的产品中，并将引发重大和不希望的结果。
版权声明：除特殊说明外，本站所有文章均为 字节点击 原创内容，采用 BY-NC-SA 知识共享协议。原文链接：https://byteclicks.com/56633.html 转载时请以链接形式标明本文地址。转载本站内容不得用于任何商业目的。本站转载内容版权归原作者所有，文章内容仅代表作者独立观点，不代表字节点击立场。报道中出现的商标、图像版权及专利和其他版权所有的信息属于其合法持有人，只供传递信息之用，非商务用途。如有侵权，请联系 gavin@byteclicks.com。我们将协调给予处理。
