知识库

System 是一个免费、开放、鲜活的公共资源，旨在解释世界上的任何事物与其他事物之间的关系。这是一个世界系统的知识库。

谷歌已经发布了一种预训练语言模型的新方法，Google的REALM是一种基于知识库的增强语言模型。该方法使用知识检索机制进行增强语言模型，该机制可以从外部Wikipedia语料库中查找现有知识。这使得经过训练的语言模型的输出生成基于事实的信息更加丰富。它使用屏蔽语言建模转换器进行培训，并学会从数百万个Wiki文档中检索参与。