AIGC宇宙 AIGC宇宙

大模型检索增强生成之向量数据库的问题

作者:DFires
2024-12-23 11:31
作为技术人员我想大家或多或少应该都接触过数据库技术,数据库技术的历史可以说是由来已久了;但数据库的发展也是一路曲折,特别是随着互联网体量的快速增加,对数据库的要求也变得越来越多。 而且为了适应各种不同的业务场景,数据库系统也是紧跟潮流发展出多种类型的数据库;比如说传统的关系型数据库,缓存数据库,以及大数据处理的数据库;直到今天的向量数据库。 关系型和缓存数据库就不用说了,今天我们就来聊聊向量数据库系统。

作为技术人员我想大家或多或少应该都接触过数据库技术,数据库技术的历史可以说是由来已久了;但数据库的发展也是一路曲折,特别是随着互联网体量的快速增加,对数据库的要求也变得越来越多。

而且为了适应各种不同的业务场景,数据库系统也是紧跟潮流发展出多种类型的数据库;比如说传统的关系型数据库,缓存数据库,以及大数据处理的数据库;直到今天的向量数据库。

关系型和缓存数据库就不用说了,今天我们就来聊聊向量数据库系统。

向量数据库向量数据库

向量数据库,顾名思义就是以向量结构为主体的数据库;同样具备传统数据库的CRUD等功能。

但是,因为是以向量为主,而不是以传统的字符匹配为主;因此,向量数据库在使用的过程中就面临着很多之前没遇到的问题。

现如今向量数据库主要应用于与人工智能特别是大模型相关的技术领域,比如RAG技术,就是严重依赖于向量数据库。当然,向量数据库的应用场景远不止RAG一家,比如还有推荐系统,图像识别等多种不同的领域。

向量数据库相对于传统数据库的优点在于,其可以通过对不同模态数据的向量化,计算数据之间的向量关系,以此来描述不同数据之间的“语义”相关性。

也就是说,向量数据库主要描述的不是字符之间的确定关系,而是从语义的角度来描述数据关系。而计算这种关系的算法叫做相似度计算,具体的有欧式距离,余弦相似度等算法。

图片图片

因此,向量数据库有两个重点,一个是数据向量化;二是向量相似度计算。在大模型技术领域,数据向量化也叫做嵌入,需要使用专门的嵌入模型对数据进行向量化处理。

对向量数据库来说,数据向量化解决的是数据从那来的问题,而向量相似度计算解决的是相似度搜索问题,也就是数据该怎么使用的问题。

数据向量化,也就是嵌入模型需要加载数据,并对数据进行切分,分词等操作;最后再进行向量化处理,也就是把不同模态的数据统一转化成向量的格式。

至于相似度搜索问题,就是把你需要搜索的数据同样转化为向量格式,然后向量数据库引擎,把你的搜索向量与数据库中存在的向量进行匹配,这个就是相似度计算,也就做度量计算;比如欧式距离,余弦相似度,内积等。最后计算得到的结果就是搜索结果。

向量数据库的搜索问题与传统数据库的查询没有本质上的不同,区别就是传统数据库使用的是字符匹配的方式;而向量数据库使用的是相似度计算的方式。

但这里有一个问题就是,由于向量相似度需要大量的运算才能获得结果;因此,在面对大量向量数据时,搜索性能与搜索结果的准确性就需要做一个权衡。

还有一点就是,不同于传统的字符匹配的方式,一就是一,二就是二;向量相似度搜索是基于相似度计算得到的相似值;而不是绝对值,因此就存在搜索结果的不确定性。

比如说,在具体的实践过程中,在一个向量化的四大名著之西游记的向量数据库中;输入林黛玉进行检索竟然可以检索到相似数据;而这在具体的应用场景中是不可接受的。

图片图片

之所以能在西游记中搜索到与林黛玉有关的内容,原因就在于这个相似度计算;因为林黛玉是女的,西游记中也是女的;可能西游记和红楼梦中部分关于女性的描述,在向量层面是相似的,也就是相似度计算的值比较接近,最终才导致这种结果。

这就是向量相似度搜索的不确定性,但又很难完全避免;毕竟前面也说了,效率与准确率总要牺牲一个。

所以,基于向量数据库的检索结果,还需要在结果出来之后做一层到多层到数据筛选,才有可能完全获取想要的结果。

相关标签:

相关资讯

有望发力搜索领域,OpenAI 收购数据库分析公司 Rockset

当地时间 6 月 21 日,OpenAI 宣布完成了对数据库检索和分析公司 Rockset 的收购。公司将整合 Rockset 的技术和人员,强化各项产品的检索基础设施。OpenAI 在新闻稿中强调,AI 将有机会改变人们组织、利用自身数据的方式,这便是公司收购 Rockset 的原因。后者是一个提供“世界级”的数据索引、查询功能的实时分析数据库。据悉,Rockset 将使用户、开发人员和企业能够更好地利用自己的数据,并在使用 AI 产品和构建更智能的应用程序时访问实时信息。OpenAI 首席运营官 Brad Li
6/22/2024 9:33:34 AM
清源

1.8B参数,阿里云首个联合DNA、RNA、蛋白质的生物大模型,涵盖16.9W物种

编辑 | 萝卜皮不久之前,Google DeepMind 发布了 AlphaFold3,再次引发了人们对「AI 生命科学」的讨论。在学界,科学家的目标往往是先认识世界,然后在认识的基础上改造世界。但是在生命科学领域,人类对整个生命的理解与认识还如九牛一毛、冰山一角;建立对生命系统的多维度深刻认识是当前人类研究的重要一步,AI 是达成这一步的重要工具。近期,阿里云飞天实验室发布并开源了业界首个联合 DNA、RNA、蛋白质的生物大模型「LucaOne」。这是一种新型预训练基础模型,旨在综合学习遗传和蛋白质组语言,涵
6/4/2024 3:32:00 PM
ScienceAI

为大模型提供全新科学复杂问答基准与测评体系,UNSW、阿贡、芝加哥大学等多家机构联合推出SciQAG框架

编辑 | ScienceAI问答(QA)数据集在推动自然语言处理(NLP)研究发挥着至关重要的作用。高质量QA数据集不仅可以用于微调模型,也可以有效评估大语言模型(LLM)的能力,尤其是针对科学知识的理解和推理能力。尽管当前已有许多科学QA数据集,涵盖了医学、化学、生物等领域,但这些数据集仍存在一些不足。其一,数据形式较为单一,大多数为多项选择题(multiple-choice questions),它们易于进行评估,但限制了模型的答案选择范围,无法充分测试模型的科学问题解答能力。相比之下,开放式问答(openQA
7/24/2024 2:36:00 PM
ScienceAI
  • 1