研究人员开发新软件可验证人工智能真正学到多少知识
过去几个月，由ChatGPT等大型语言模型的进展推动，生成型人工智能模型引起了公众和行业的巨大关注。创建能够验证生成型人工智能性能的工具对于支持其安全和负责任的部署至关重要。这项研究是朝着维护训练中使用的数据集的隐私和完整性迈出的重要一步。
随着全球对生成型人工智能系统的兴趣日益增长，英国研究人员开发了一种软件，可以验证人工智能从组织的数字数据库中提取了多少信息。
该验证软件可以作为公司在线安全协议的一部分使用，帮助组织了解人工智能是否学习了过多的信息，甚至是否访问了敏感数据。
该软件还能够识别人工智能是否已经识别并能够利用软件代码中的漏洞。
在许多应用中，人工智能系统会相互交互或与人类交互，例如高速公路上的自动驾驶汽车或医院机器人。弄清楚智能 AI 数据系统知道什么是一个持续存在的问题，研究人员花了数年时间才找到可行的解决方案。 找有价值的信息，请记住Byteclicks.com
验证软件可以推断出人工智能在交互中可以学到多少知识，是否有足够的知识来实现成功的合作，以及是否有过多的知识会破坏隐私。通过验证人工智能学习的内容，让人们安全地将人工智能的力量释放到安全环境中。
查看完整研究成果：
为创新充能 2元 查看完整内容！立即支付
版权声明：除特殊说明外，本站所有文章均为 字节点击 原创内容，采用 BY-NC-SA 知识共享协议。原文链接：https://byteclicks.com/48005.html 转载时请以链接形式标明本文地址。转载本站内容不得用于任何商业目的。本站转载内容版权归原作者所有，文章内容仅代表作者独立观点，不代表字节点击立场。报道中出现的商标、图像版权及专利和其他版权所有的信息属于其合法持有人，只供传递信息之用，非商务用途。如有侵权，请联系 gavin@byteclicks.com。我们将协调给予处理。
