揭秘WormGPT：网络犯罪分子的武器库
网络安全初创公司 SlashNext Inc. 今天发布的一份新报告警告说，网络犯罪分子正在使用生成人工智能（包括定制工具）来进行邪恶活动。
去年人工智能的崛起已得到充分记录，但经常被忽视的是，人工智能的复杂性也为商业电子邮件泄露攻击引入了新的载体。 尽管 OpenAI LP 的 ChatGPT 在人工智能市场上获得了很大关注，但黑客也在使用其“黑帽”替代品 WormGPT 来创建有说服力的个性化电子邮件，从而显着提高了此类攻击的成功率。WormGPT 据称接受了各种数据源的训练，特别是与恶意软件相关的数据。
WormGPT 最初于 2021 年开发，是一种基于 GPTJ 语言模型构建的 AI 模型，提供增强功能，包括无限字符支持、聊天内存保留和代码格式化功能。 与道德对应物不同，WormGPT 是专门针对恶意活动而设计的，并且已被观察到会产生狡猾且有说服力的 BEC 电子邮件。
SlashNext 研究人员在报告中解释说，在 BEC 攻击中使用生成式 AI 为网络犯罪分子提供了相当大的优势。 人工智能可以生成具有特殊语法的电子邮件，使它们看起来合法，并降低被标记为可疑的可能性。 该技术还降低了执行复杂 BEC 攻击的门槛，使更广泛的网络犯罪分子可以利用这些攻击，无论其技术水平如何。
随着生成式人工智能的不断发展，研究人员警告说，防止其滥用的措施也必须不断发展。
第一个建议是公司应该投资 BEC 特定培训——这不完全是一个新建议，但 SlashNext 研究人员还建议培训应包括人工智能在增强这些威胁方面可以发挥的作用。 其次，组织应加强电子邮件验证措施，包括在电子邮件冒充内部高管或供应商时提供警报的系统，以及标记包含与 BEC 攻击相关的特定术语的消息的关键字检测软件。
软件安全初创公司 Vulcan Cyber Ltd. 的高级技术工程师 Mike Parkin 告诉 SiliconANGLE，网络犯罪团伙走这条路并不奇怪。
总而言之，它与 ChatGPT 类似，但没有道德界限或限制。该实验强调了像 WormGPT 这样的生成式人工智能技术所带来的重大威胁，即使是在新手网络犯罪分子手中也是如此。
