手机浏览器扫描二维码访问
2.3检索增强生成技术
RAG(Retrieval-AugmentedGeneration)技术是一种结合了信息检索(Retrieval)和文本生
成(Generation)的自然语言处理(NLP)方法。核心思想是将传统的检索技术与现代的自然语言
生成技术相结合,以提高文本生成的准确性和相关性。它旨在通过从外部知识库中检索相关信息来
辅助大型语言模型(如GPT系列)生成更准确、可靠的回答。
在RAG技术中,整个过程主要分为三个步骤如图2.2所示:索引(Indexing)、检索
(Retrieval)和生成(Generation)。首先,索引步骤是将大量的文档或数据集合进行预处理,将
其分割成较小的块(chunk)并进行编码,然后存储在向量数据库中。这个过程的关键在于将非结
构化的文本数据转化为结构化的向量表示,以便于后续的检索和生成步骤。接下来是检索步骤,它
根据输入的查询或问题,从向量数据库中检索出与查询最相关的前k个chunk。这一步依赖于高效
的语义相似度计算方法,以确保检索到的chunk与查询具有高度的相关性。最后是生成步骤,它将
原始查询和检索到的chunk一起输入到预训练的Transformer模型(如GPT或BERT)中,生成最
终的答案或文本。这个模型结合了原始查询的语义信息和检索到的相关上下文,以生成准确、连贯
且相关的文本。
RAG的概念和初步实现是由DouweKiela、PatrickLewis和EthanPerez等人在2020年首次
提出的。他们在论文《Retrieval-augmentedgenerationforknowledge-intensivenlptasks》
中详细介绍了RAG的原理和应用,随后谷歌等搜索引擎公司已经开始探索如何将RAG技术应用到搜
索结果的生成中,以提高搜索结果的准确性和相关性。在医疗领域,RAG技术可以帮助医生快速检
索医学知识,生成准确的诊断建议和治疗方案。
2.4文本相似度计算
文本相似度计算是自然语言处理(NLP)领域的一个重要研究方向,它旨在衡量两个或多个文
本之间的相似程度。文本相似度计算的原理基于两个主要概念:共性和差异。共性指的是两个文本
之间共同拥有的信息或特征,而差异则是指它们之间的不同之处。当两个文本的共性越大、差异越
小,它们之间的相似度就越高。
文本相似度计算可以根据不同的分类标准进行分类。首先基于统计的方法分类,这种方法主要
关注文本中词语的出现频率和分布,通过统计信息来计算文本之间的相似度。常见的基于统计的方
法有余弦相似度、Jaccard相似度等。其次是基于语义的方法分类,这种方法试图理解文本的含义
和上下文,通过比较文本的语义信息来计算相似度。常见的基于语义的方法有基于词向量的方法
(如Word2Vec、GloVe等)和基于主题模型的方法(如LDA、PLSA等)。最后是基于机器学习的方
法分类,这种方法利用机器学习算法来训练模型,通过模型来预测文本之间的相似度。常见的基于
机器学习的方法有支持向量机(SVM)、神经网络等。
目前,在国内外,文本相似度计算已经取得了丰富的成果。国内方面,清华大学等机构的研究
者提出了基于深度学习的文本相似度计算方法,利用神经网络模型来捕捉文本的深层语义信息,实
现了较高的相似度计算精度。江苏师范大学的研究者提出了利用《新华字典》构建向量空间来做中
文文本语义相似度分析的方法,该方法在中文文本相似度计算方面取得了显着的效果。放眼国外,
异界:魔王降临 江与溪同归麒麟美人骨 我在无限流游戏里为所欲为 综影视:祖龙杀疯了,我负责躺赢 除了我,全家都穿越了 玄学大佬种田算命捉鬼 棒打鸳鸯的恶人主母,重生摆烂了 建立超级家族:从52年隐居开始 快穿:病美人仙君又拿白月光剧本 红楼之剑天外来 神奇宝贝:羁绊的旅途 凡人神算 这个影帝只想考证 末世:战姬指挥官 不当舔狗后,校花哭问为什么! 带着原神祈愿系统穿越到诡异世界 苟在修仙世界当反派 归零:云海梦境,山海有灵 我有个死要钱的系统 四合院之罪恶克星
关于林家有女整治家风种田宅斗大女主无金手指无cp脾气暴躁一言不合就咬人村中有四霸恶狗公羊大鹅和林三丫林瑶睁开眼就目睹了家徒四壁,那叫一个寒酸。再睁眼又目睹了泼妇骂街,得不想动嘴打一顿就好了。从此林家三丫性情大变一言不合就开撕。重男轻女的偏心祖母,心思深沉祖父,独木难支的后娘,软弱无能的亲爹。上有两个任人欺辱的姐姐,下有两个后娘生的弟妹,更有恶毒叔伯一窝好吃懒做筛子精,真真是极品凑了一堆。从此...
林风穿越到了一个诡异的世界,成了凌虚观的一名小道士。但这世界原本的规则早已破碎,破碎的仙道流落到各种生物手中,滋生出无数邪仙异教。林风在机缘巧合下,被疯子师父血肉附体,还换上了一颗恶鬼的心脏,变成一个半人半鬼的怪物。红月,血雨,尸林倒挂,白蜡油翻滚中人祭,万人朝拜的黄金树,连绵不断的尸垛,不死癫狂的难民,佛世净土中...
关于异能学校之遇上恋爱脑大佬选修课总是遇到女主被迫恋爱脑的魔修大佬vs表面小白实则腹黑爱玩的欧皇新生!简介一高考后准备报考的褚星禾,某天突然接到电话请问是褚星禾同学吗?这里是关山岭职业技术专修学院考生你好,这里是玄天宗职业技法大学招生办褚同学你好,这里是魔神机械设计学院招生办这不妥妥的诈骗电话吗?什么妖魔鬼怪的野鸡学校都打电话过来招生。听听这名字,褚星禾能信吗?当然不能!!!然而她还是被迫入学了。没人告诉她还有入学考试,怎么还有人上学带刀枪剑炮水晶球啊?这都算了!为什么入学考试是闯鬼屋?躲丧尸?跳大神越来越离谱了,得亏褚星禾从小见惯妖魔鬼怪,不然真得被创飞。简介二通识实践课就跟着魔修大佬一起选!结课巨快!为什么?他每个副本都得杀妻证道,主打就是一个大道无情!你进去老公还没喊出来,人就噶掉了!嘎嘎快。还有这种好事?褚星禾第一个冲了!然而她遇到的怎么不太一样?谁能来告诉她,为什么这个魔修大佬只会哭唧唧找老婆,甩都甩不开?...
关于万里追狼白龙,它不是龙,也不是马,它是一条白色的狗,是60年代华北地区某村的一条狗王。在那个狼灾泛滥的时代,白龙在主人福哥的照料下,历经坎坷,从一条小狗崽成长为一条勇猛的狗王,并和村里的狗一起担负起守卫村庄的责任。由此与村庄周围的狼群结仇,几番恶战,斗智斗勇。。。...
关于诸天带着随身空间到了四合院世界陈琦莫名穿越,来到一片湖心岛,发现拥有空间之后,并感应到世界种子,按其要求吸收物质供给小世界之种,然后就被排斥到四合院世界,开局城门口,因为衣服新颖而被误认为富家公子而被放行,进入城内遇到还在卖包子的未成年何雨柱,阻止了他被人骗,改变了他获得外号的命运,从而改变了主角的命运从其身上获得了气运,得到了一定的庇护避免了被四合院世界排斥而赶出世界。之后陈琦靠着何雨柱的帮助进入了四合院租了院子安定下来,靠着小世界的养殖种植能力,通过何大清介绍给丰泽园供应食材,之后开肉铺,接手杂货铺,开商行,买地,生意越做越大,于是很多事情很多人也纷至沓来,蝴蝶效应直接造成何大清成了丰泽园二厨,并再娶了。而陈琦只想收集这个世界的各种动植物然后去诸天寻找永生。持续的获取气运使得小世界内开始出现了生成中的四合院世界的信标传送门,完成之后就可以在离开这个世界之后就可以随时回到四合院世界。现在开启了荒野大镖客2救赎的第一幕第一个世界,四合院,第1章124章第二世界,荒野西部大镖客2125章第三世界,港综第四个世界待定。...
关于人在木叶生性纯良的我被系统逼上了邪路穿越火影世界,开局觉醒系统!呦,生性纯良的宿主呦!作为一个正常的男人,你怎么能眼睁睁的看着宇智波富岳那个混蛋老牛吃嫩草!一向宇智波美琴表白,俘获佳人芳心奖励S级忍术一门(随机)二生性纯良的宿主呦!只有愚蠢的人才会做选择,强夺一血奖励写轮眼三门忍术熟练度提升一级(随即)望着远处自己下属那纯真的神情,藤原哲也看着水中自己的倒影陷入了沉思。这一血,自己究竟是要,还是不要?...