猫眼电影
猫眼电影记者 邝某 报道首次登录送91元红包
大模型最广泛的应用如 ChatGPT、Deepseek、千问、豆包、Gemini 等通常会连接互联网进行检索增强生成(RAG)来产生用户问题的答案。随着多模态大模型(MLLMs)的崛起,大模型的主流技术之一 RAG 迅速向多模态发展,形成多模态检索增强生成(MM-RAG)这个新兴领域。ChatGPT、千问、豆包、Gemini 都开始允许用户提供文字、图片等多种模态的输入。
然而,目前对于 MM-RAG 的应用和研究都还处于非常初级的阶段,现有的 MM-RAG 研究以及综述论文主要聚焦于文本和图像等少数模态组合;音频、视频、代码、表格、知识图谱、3D 对象等多种模态的组合均可用于检索增强生成,却仅有很少的探索和研究。这使得研究者和开发者难以全面把握 MM-RAG 的技术脉络和广阔的应用空间。
来自华中科技大学、复旦大学、中国电信、美国伊利诺伊大学芝加哥分校的研究者们共同发布了一篇全面覆盖几乎所有模态作为输入和输出组合的MM-RAG综述来全面且系统化地阐述这个广阔的研究和应用空间。
论文标题:A Comprehensive Survey on Multimodal RAG: All Combinations of Modalities as Input and OutputTechRxiv: https://doi.org/10.36227/techrxiv.176341513.38473003/v2GitHub 项目主页: https://github.com/INTREBID/Awesome-MM-RAG
该论文的最大亮点在于其前所未有的广度:
它首次覆盖了几乎所有可能使用的模态组合作为输入和输出,包括文本、图像、音频、视频、代码、表格、知识图谱、3D 对象等。
通过这种全面的梳理,作者们首先揭示了 MM-RAG 领域中庞大的潜在输入 - 输出模态组合空间,并指出了其中尚未被充分探索的空白(如表 1 所示)。在作者提出的 54 种潜在组合中,目前只有 18 种组合存在已有研究(表 1 中绿色对勾的格子),许多极具应用价值的组合 —— 例如 “文本 + 视频作为输入,生成视频作为输出”—— 仍是一片亟待开拓的蓝海。
表 1:基于输入 - 输出模态组合的 MM-RAG 分类法
在此基础上,作者们构建了一个基于输入 - 输出模态组合的全新 MM-RAG 分类法,不仅系统性地组织了现有研究,还清晰展示了不同 MM-RAG 系统的核心技术组件(如表 2 所示),为后续研究提供了统一框架和方法参考。
表 2不同输入输出模态下多模态 RAG 的核心技术组件、任务和应用
四大关键阶段剖析 MM-RAG 工作流
基于这个新的分类法,该综述深入分析了MM-RAG系统的工作流程,并将其划分为四个关键阶段(如图 1 所示):
图 1 MM-RAG 的工作流
a)预检索 (Pre-retrieval): 数据组织和查询的准备工作。
b)检索 (Retrieval): 高效准确地从海量多模态知识库中找到相关信息。
c)增强 (Augmentation): 将检索到的多模态信息有效地融入到大模型中。
d)生成 (Generation): 根据输入和增强信息生成高质量的多模态输出。
论文详细总结了每个阶段的常用方法,并讨论了对于不同模态针对性的优化策略,为构建高性能的MM-RAG系统提供了实用的技术指导。
一站式指南:
训练、评估与应用前瞻
除了技术流程,该综述还提供了构建 MM-RAG 系统的一站式指南:
训练策略: 讨论了 MM-RAG 系统的训练方法,以最大化其检索和生成能力。评估方法: 总结了现有的MM-RAG 评估指标和 Benchmark,帮助研究者评估系统性能。应用与未来: 探讨了 MM-RAG 在多个领域的潜在应用,并指出了未来的重要研究方向。
作为首个覆盖所有常见输入 - 输出模态组合、并系统化解析了 MM-RAG 的工作流、组件、训练、评估等核心技术的综述,该论文不仅为研究者提供了索引式的知识入口,也为产业应用提供了全面的技术参考。论文作者还提供了持续更新的资源库,方便读者追踪最新进展。
时事1:美高梅官方网址是多少
12月23日,通甬高铁建设“黑科技”:智能造桥机助力特大桥合龙,赛意信息作为扎根制造业数智化转型领域的头部企业,坚持以“全栈信创能力”为根基,以持续自主研发创新为内核,凭借多样化的安全产品布局、全面的安全能力建设以及与主流自主创新组件的兼容性,构建覆盖基础硬件、核心软件到应用系统的全栈式自主可控国产替代解决方案,从芯片到操作系统,从中间件到数据库,赛意信息携手生态伙伴赋能企业提供全链条的国产化支持,提供从技术底层到业务应用的全方位安全保障。,玩真钱的手机斗地主。
12月23日,交通运输部:2026年将在全国高速公路服务区建设1万个以上充电枪,据史美伦近日在一期视频节目中自述,她于2001年到中国证监会任职时,内地市场仍在发展初期,一切还刚起步。正因如此,她着手引入各种有关上市公司的规定,例如设立独立董事制度——她深信市场要维持正常有序的制作,必须要具备良好的企业管治,而董事会成员多元化,便是良好企业管制的重要一环。,世界杯买球平台有哪些,e世博足球,必博客户端下载。
时事2:乐虎国际好玩吗?
12月23日,中国红十字会:全国有注册红十字志愿者近350万人,厦门证监局经查确认,圣元环保子公司认购的私募产品出现重大损失,公司知悉后未及时予以披露,直至12月26日才对外披露,违反了《上市公司信息披露管理办法》相关规定。,线上网投娱乐,365bet注册地址,kk体育平台是不是黑平台。
12月23日,世界羽联总决赛:中国台北组合小组赛落败,活动现场,书法家与AI春联机同台竞春;中央美院师生及留学生与PNDbotics人形机器人同台书“福”迎春;中央音乐学院的指挥机器人上场;威风凛凛的传统舞狮与灵动精巧的机器狗舞狮同台献艺……古老与现代激情碰撞,科技与艺术深度融合,为大家带来全新的体验与美好的祝福。,1388彩集团,bet体育手机app,hy3380海洋之神。
时事3:bbin盘口开户
12月23日,大雪节气云南昆明温暖如春,(2)分期限来看,供给端存单发行加权久期抬升至6.92月,各类银行长久期存单发行占比均抬升。,新宝gg开户,pg电子麻将胡了单机版,uc体育官网。
12月23日,菏泽鲁西新区:“土台子”唱活移风易俗,12月23日金融一线消息,国家金融监督管理总局厦门监管局发布批复,核准柯爱文厦门农村商业银行股份有限公司副行长的任职资格。,开运官网电脑登录,九卅娱乐登录平台,m6平台苹果下载。
时事4:玩二八杠的技巧
12月23日,多措并举打好“提振+扩大”消费组合拳 “真金白银”惠民生,俄方欢迎中方愿为通过政治外交途径解决乌克兰危机发挥建设性作用。,365注册,乐鱼电竞游戏,电子竞技赌赛。
12月23日,上海浦东国际机场23.92兆瓦光伏发电项目成功并网发电,复星医药(600196.SH,02196.HK)6月24日晚间公告,6月24日,公司控股子公司复星新药(即要约人暨合并方)与另一控股子公司复宏汉霖(即被合并方)订立《吸收合并协议》;同日,控股子公司复星新药、复星医药产业、复星实业共同订立《存续协议》。根据该等协议,复星新药拟以现金及/或换股方式收购并注销复宏汉霖其他现有股东持有的全部复宏汉霖股份(包括H股及非上市股份)并私有化复宏汉霖。,88游戏平台下载,七肖中特,365bet平台。
责编:科夫通
审核:李俊明
责编:马宝宝












