猫眼电影记者 佘俊 报道首次登录送91元红包

大模型最广泛的应用如 ChatGPT、Deepseek、千问、豆包、Gemini 等通常会连接互联网进行检索增强生成（RAG）来产生用户问题的答案。随着多模态大模型（MLLMs）的崛起，大模型的主流技术之一 RAG 迅速向多模态发展，形成多模态检索增强生成（MM-RAG）这个新兴领域。ChatGPT、千问、豆包、Gemini 都开始允许用户提供文字、图片等多种模态的输入。

然而，目前对于 MM-RAG 的应用和研究都还处于非常初级的阶段，现有的 MM-RAG 研究以及综述论文主要聚焦于文本和图像等少数模态组合；音频、视频、代码、表格、知识图谱、3D 对象等多种模态的组合均可用于检索增强生成，却仅有很少的探索和研究。这使得研究者和开发者难以全面把握 MM-RAG 的技术脉络和广阔的应用空间。

来自华中科技大学、复旦大学、中国电信、美国伊利诺伊大学芝加哥分校的研究者们共同发布了一篇全面覆盖几乎所有模态作为输入和输出组合的MM-RAG综述来全面且系统化地阐述这个广阔的研究和应用空间。

论文标题：A Comprehensive Survey on Multimodal RAG: All Combinations of Modalities as Input and OutputTechRxiv: https://doi.org/10.36227/techrxiv.176341513.38473003/v2GitHub 项目主页: https://github.com/INTREBID/Awesome-MM-RAG

该论文的最大亮点在于其前所未有的广度：

它首次覆盖了几乎所有可能使用的模态组合作为输入和输出，包括文本、图像、音频、视频、代码、表格、知识图谱、3D 对象等。

通过这种全面的梳理，作者们首先揭示了 MM-RAG 领域中庞大的潜在输入 - 输出模态组合空间，并指出了其中尚未被充分探索的空白（如表 1 所示）。在作者提出的 54 种潜在组合中，目前只有 18 种组合存在已有研究（表 1 中绿色对勾的格子），许多极具应用价值的组合 —— 例如 “文本 + 视频作为输入，生成视频作为输出”—— 仍是一片亟待开拓的蓝海。

表 1：基于输入 - 输出模态组合的 MM-RAG 分类法

在此基础上，作者们构建了一个基于输入 - 输出模态组合的全新 MM-RAG 分类法，不仅系统性地组织了现有研究，还清晰展示了不同 MM-RAG 系统的核心技术组件（如表 2 所示），为后续研究提供了统一框架和方法参考。

表 2不同输入输出模态下多模态 RAG 的核心技术组件、任务和应用

四大关键阶段剖析 MM-RAG 工作流

基于这个新的分类法，该综述深入分析了MM-RAG系统的工作流程，并将其划分为四个关键阶段（如图 1 所示）：

图 1 MM-RAG 的工作流

a)预检索 (Pre-retrieval)： 数据组织和查询的准备工作。

b)检索 (Retrieval)： 高效准确地从海量多模态知识库中找到相关信息。

c)增强 (Augmentation)： 将检索到的多模态信息有效地融入到大模型中。

d)生成 (Generation)： 根据输入和增强信息生成高质量的多模态输出。

论文详细总结了每个阶段的常用方法，并讨论了对于不同模态针对性的优化策略，为构建高性能的MM-RAG系统提供了实用的技术指导。

一站式指南：

训练、评估与应用前瞻

除了技术流程，该综述还提供了构建 MM-RAG 系统的一站式指南：

训练策略： 讨论了 MM-RAG 系统的训练方法，以最大化其检索和生成能力。评估方法： 总结了现有的MM-RAG 评估指标和 Benchmark，帮助研究者评估系统性能。应用与未来： 探讨了 MM-RAG 在多个领域的潜在应用，并指出了未来的重要研究方向。

作为首个覆盖所有常见输入 - 输出模态组合、并系统化解析了 MM-RAG 的工作流、组件、训练、评估等核心技术的综述，该论文不仅为研究者提供了索引式的知识入口，也为产业应用提供了全面的技术参考。论文作者还提供了持续更新的资源库，方便读者追踪最新进展。

  时事1：彩票官方平台

  12月25日,中国商务部：推动安世（荷兰）尽快派员来华,根据第一财经4日报道，目前，肇庆市只是要求“按套内面积计价宣传和销售”，这并不代表公摊面积不需要付费。换言之，肇庆市并未实质性取消住房公摊面积。,金沙平台娱乐。

  12月25日,福州首家市内免税店将于12月18日开业,2021年10月，在接受组织谈话时，靳东矢口否认了与李某某等商人老板之间存在不正当经济利益关系，并多次表示其所讲属实，愿承担一切责任和后果。但几十天后，被采取留置措施的靳东便将自己的严重违纪违法事实和盘托出。因亲清不分，靳东最终倒在了不法商人的“糖衣炮弹”之下，成为金钱的俘虏，走向了腐化堕落。,百家乐必胜方法官网,世界杯在哪里买球好,亚洲彩票下载平台。

  时事2：永乐国际手机版登录

  12月25日,专访德意志银行香港特别行政区总经理：定制化金融服务需求强劲,曾文莉说，“要发展网球经济和其他体育经济，我们要思考一下，是否已将体育产业充分市场化，运动员的商业价值是否已充分释放，对体育产业、体育经济的杠杆作用是否已充分发挥。”她表示，“我们应该为明星运动员的商业活动营造更好的舆论环境、政策环境和制度环境。”,网络游戏斗牛牛,ag8体育平台,真钱网赌推荐游戏。

  12月25日,日本北海道根室半岛附近海域发生5.2级地震 多地有震感,五里河体育场多年前已经整体拆除，如今昔日体育场已经变成了住宅小区，而国足出线后特地给球员铸造的铜像，则被集体移至一公里左右的沈阳少年宫外面的草坪中。中泰之战前，还有不少媒体记者相约来到铜像前打卡留念。,金沙娱场手机版下载,西园棋牌,美高梅体育在线官方APP。

  时事3：贝博体育平台下载

  12月25日,李家超赴京述职：统筹发展与安全 确保香港长期繁荣稳定,最后结语，科技赋能融资租赁转型的时代已经到来。我希望融资租赁业务系统能成为连接资本、技术和市场的关键桥梁。,必赢亚洲官网网页版,威尼斯手机版下载,ag真人app游戏。

  12月25日,斯诺克英锦赛：丁俊晖、赵心童携手晋级16强,伊朗与沙特和解，将有利于地区一系列危机和矛盾的缓和，包括也门危机、叙利亚与地区国家的矛盾等等。美国不想看到一个和平的中东，因为它难以再乘乱谋利。,世界杯足球下注,京葡娱乐网,优德体育外围。

  时事4：体育足球怎么玩

  12月25日,香港特区政府已向大部分受灾居民派发1万港元应急补助金,在昨天的外交部记者会上，直新闻记者注意到，国内外媒体普遍关注莫迪连任后中印关系的走向。发言人毛宁表示，中方对此表示祝贺。她指出，一个健康稳定的中印关系符合双方共同利益，也有利于本地区乃至世界的和平与发展。“中方愿同印方一道努力，从两国和两国人民的根本利益出发，着眼大局，面向未来，推动两国关系沿着健康稳定的轨道向前发展。”,世界杯竞猜投注哪里买,有什么斗牛棋牌能赚钱,优博在线买球。

  12月25日,甘肃甘南营商环境三年行动“破题之策”,2月6日以来，土耳其连续发生强烈地震，造成重大人员伤亡和财产损失。据土耳其和叙利亚政府及救援方面8日最新消息，土耳其南部靠近叙利亚边境地区的强震已致两国超过11000人遇难。,六合皇通胜四字+另三字开奖日独家提供,2026年世界杯冠军投注,有AG捕鱼网的平台。