搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

迎接「万物皆可RAG」时代:最新综述展示50多种多模态组合

2025-12-28 00:25:52
来源:

猫眼电影

作者:

王方

手机查看

  猫眼电影记者 李学勇 报道首次登录送91元红包

大模型最广泛的应用如 ChatGPT、Deepseek、千问、豆包、Gemini 等通常会连接互联网进行检索增强生成(RAG)来产生用户问题的答案。随着多模态大模型(MLLMs)的崛起,大模型的主流技术之一 RAG 迅速向多模态发展,形成多模态检索增强生成(MM-RAG)这个新兴领域。ChatGPT、千问、豆包、Gemini 都开始允许用户提供文字、图片等多种模态的输入。

然而,目前对于 MM-RAG 的应用和研究都还处于非常初级的阶段,现有的 MM-RAG 研究以及综述论文主要聚焦于文本和图像等少数模态组合;音频、视频、代码、表格、知识图谱、3D 对象等多种模态的组合均可用于检索增强生成,却仅有很少的探索和研究。这使得研究者和开发者难以全面把握 MM-RAG 的技术脉络和广阔的应用空间。

来自华中科技大学、复旦大学、中国电信、美国伊利诺伊大学芝加哥分校的研究者们共同发布了一篇全面覆盖几乎所有模态作为输入和输出组合的MM-RAG综述来全面且系统化地阐述这个广阔的研究和应用空间。

论文标题:A Comprehensive Survey on Multimodal RAG: All Combinations of Modalities as Input and OutputTechRxiv: https://doi.org/10.36227/techrxiv.176341513.38473003/v2GitHub 项目主页: https://github.com/INTREBID/Awesome-MM-RAG

该论文的最大亮点在于其前所未有的广度:

它首次覆盖了几乎所有可能使用的模态组合作为输入和输出,包括文本、图像、音频、视频、代码、表格、知识图谱、3D 对象等。

通过这种全面的梳理,作者们首先揭示了 MM-RAG 领域中庞大的潜在输入 - 输出模态组合空间,并指出了其中尚未被充分探索的空白(如表 1 所示)。在作者提出的 54 种潜在组合中,目前只有 18 种组合存在已有研究(表 1 中绿色对勾的格子),许多极具应用价值的组合 —— 例如 “文本 + 视频作为输入,生成视频作为输出”—— 仍是一片亟待开拓的蓝海。

表 1:基于输入 - 输出模态组合的 MM-RAG 分类法

在此基础上,作者们构建了一个基于输入 - 输出模态组合的全新 MM-RAG 分类法,不仅系统性地组织了现有研究,还清晰展示了不同 MM-RAG 系统的核心技术组件(如表 2 所示),为后续研究提供了统一框架和方法参考。

表 2不同输入输出模态下多模态 RAG 的核心技术组件、任务和应用

四大关键阶段剖析 MM-RAG 工作流

基于这个新的分类法,该综述深入分析了MM-RAG系统的工作流程,并将其划分为四个关键阶段(如图 1 所示):

图 1 MM-RAG 的工作流

a)预检索 (Pre-retrieval): 数据组织和查询的准备工作。

b)检索 (Retrieval): 高效准确地从海量多模态知识库中找到相关信息。

c)增强 (Augmentation): 将检索到的多模态信息有效地融入到大模型中。

d)生成 (Generation): 根据输入和增强信息生成高质量的多模态输出。

论文详细总结了每个阶段的常用方法,并讨论了对于不同模态针对性的优化策略,为构建高性能的MM-RAG系统提供了实用的技术指导。

一站式指南:

训练、评估与应用前瞻

除了技术流程,该综述还提供了构建 MM-RAG 系统的一站式指南:

训练策略: 讨论了 MM-RAG 系统的训练方法,以最大化其检索和生成能力。评估方法: 总结了现有的MM-RAG 评估指标和 Benchmark,帮助研究者评估系统性能。应用与未来: 探讨了 MM-RAG 在多个领域的潜在应用,并指出了未来的重要研究方向。

作为首个覆盖所有常见输入 - 输出模态组合、并系统化解析了 MM-RAG 的工作流、组件、训练、评估等核心技术的综述,该论文不仅为研究者提供了索引式的知识入口,也为产业应用提供了全面的技术参考。论文作者还提供了持续更新的资源库,方便读者追踪最新进展。

 时事1:凯发k8旗舰厅真人版

  12月28日,重庆:大树“穿”上卡通外衣 萌趣十足暖意浓,半导体是高度全球化的产业,经过数十年发展,已形成你中有我、我中有你的产业格局,这是市场规律和企业选择共同作用的结果。一段时间以来,个别国家频频泛化国家安全概念,滥用出口管制措施,人为割裂全球半导体市场,严重背离自由贸易原则和多边贸易规则,严重冲击全球产业链供应链稳定。日方拟议的有关措施,将严重影响中日企业间的正常贸易往来,损人不利己,也损害全球供应链的稳定。,天博体育官方网站appios。

  12月28日,世界美食之都扬州地标美食展示品鉴活动举行,欧委会称,如果与中方的讨论不能得出有效的解决方案,此次临时关税将从7月4日起引入。,永利会员注册登录,澳门国际网上官网网址,新宝体育。

 时事2:PG电子游戏在线开户

  12月28日,2026年冬奥会冰壶项目资格赛:中国男子冰壶队击败菲律宾队,但通过禁绝农民想种的经济作物的方式,是否就能保证树木的成活,达到保护生态的效果呢?农户们认为并不是这样。“没有收益,就没人去林间铲镗抚育了,林子也活不好。”李七英认为,如果不发挥林间种植的经济价值,那树苗在培育阶段就会面临农民丧失积极性。,18年世界杯彩票投注,世博体育官网入囗网址,钱柜qg222。

  12月28日,青海西宁举办“十四五”宣传思想文化精品成果展演,一国的力量有限,中亚五国抱团取暖、联合自强,对外用一个声音说话,有利于地区利益的最大化。近年来,中亚五国在跨界水资源使用、边界划分等方面的矛盾有所缓解,中亚两个大国哈萨克斯坦和乌兹别克斯坦从过去争当地区老大更多转向合作。中亚国家越来越倾向于作为一个整体来布局外交,已与中国、美国、俄罗斯、日本、欧盟等多方建立C5+1机制。,im体育开户网址,万博官网app下载,必赢亚洲电脑网页版登陆。

 时事3:波音体育游戏手机app

  12月28日,境外媒体走进广西防城港 抚弦赶海探文旅新貌,该行表示,公司2026财年第三财季销售额下降符合管理层预期,和第二季相当,该行相信线下门店客流量依然受压,12月需求疲弱持续。其主要品牌耐克表示,中国的重置需要时间,滔搏和耐克紧密合作构建长期增长基础。该行相信这将转变为对滔搏的持续支持,形式包括:批发折扣及库存回购。,乐鱼赌场网站,澳门永利真正网址,百家乐怎么开户。

  12月28日,【世界说】“我们亲历过核事故风险,不能轻视它” 外媒:日本将重启其最大核电站,当地民众谨慎存疑,有受访房产测绘人士表示,预售商品房的面积是根据建筑设计图纸预测出来的,在房屋建设过程中,可能存在部分区域设计和施工调整,最终在房屋竣工后实际测绘时,产生面积差异,个别商品房项目甚至可能出现交房实测的公摊面积变化较大的情况。以套内面积计价,可以更好解决面积差异带来的房款结算问题,也可避免一些矛盾纠纷。,彩票365新版本,抢庄牛牛玩法规则,九游会在线登录。

 时事4:看4张牌抢庄斗牛app

  12月28日,武王墩楚王墓考古成果亮相国博,总量上,本周同业存单净融资规模为-3,219.10亿元(前值-696.60亿元),发行总额达5,602.90亿元(前值9,931.90亿元),到期量8,822.00亿元(前值10,628.50亿元),发行进度(月初至今发行量 / 月度到期量)为80.7%。,宝马会登录官网,贝博体育官网登录网址,ku登录。

  12月28日,自由式滑雪U型场地世界杯云顶站:谷爱凌夺冠,在中国汽车流通协会专家委员会委员章弘看来,欧盟针对中国车企的高额税率,影响显而易见。首先,这轮征税将直接导致中国车企出口欧盟的电动汽车价格上涨。高额的关税意味着中国车企需要承担更高的成本,而这些成本最终将反映在产品售价上。对于欧洲消费者而言,这意味着需要支付更多的费用来购买中国品牌的电动汽车,这无疑会削弱中国电动汽车在欧洲市场的竞争力。,365APP 下载,yb网址,开云官网是多少。

责编:杨添

审核:李洪鹏

责编:李运芳

相关推荐 换一换