MIT研究团队揭示了AI聊天机器人内部工作原理的新发现
麻省理工学院的研究团队揭示了AI聊天机器人内部工作原理的新发现。他们发现,像ChatGPT这样的人工智能系统实际上使用简单的数学方程式 —— 线性函数来检索和处理存储的信息。这项研究揭示了一个令人惊讶的事实:尽管AI聊天机器人的操作看起来非常复杂,但它们的某些功能实际上是基于非常基础的数学原理的。
研究人员通过探索AI如何记忆和调用与特定主题相关的信息(例如,“迈尔斯·戴维斯会演奏小号”)来进行了这项研究。他们发现AI使用特定的线性方程式来回答关于不同类型信息的问题。通过对多种事实进行测试,研究人员发现这种方法在 60% 的情况下能够正确工作,表明 AI 在很多情况下以一种简单方式编码和检索信息。
然而,并非所有的信息都能用这种简单的线性方式来处理,这表明AI模型也采用了更复杂的方法来处理某些类型的数据。为了帮助理解和改进AI系统的工作机制,研究团队还开发了一种名为 “attribute lenses” 的工具,它能够以视觉方式展示特定信息在AI模型的哪些层中被存储。
这项研究不仅为我们提供了关于AI聊天机器人工作原理的新见解,而且还为提高它们的准确性开辟了新途径。