搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

迎接「万物皆可RAG」时代:最新综述展示50多种多模态组合

2025-12-27 12:20:03
来源:

猫眼电影

作者:

李道贤

手机查看

  猫眼电影记者 苏巴什 报道首次登录送91元红包

大模型最广泛的应用如 ChatGPT、Deepseek、千问、豆包、Gemini 等通常会连接互联网进行检索增强生成(RAG)来产生用户问题的答案。随着多模态大模型(MLLMs)的崛起,大模型的主流技术之一 RAG 迅速向多模态发展,形成多模态检索增强生成(MM-RAG)这个新兴领域。ChatGPT、千问、豆包、Gemini 都开始允许用户提供文字、图片等多种模态的输入。

然而,目前对于 MM-RAG 的应用和研究都还处于非常初级的阶段,现有的 MM-RAG 研究以及综述论文主要聚焦于文本和图像等少数模态组合;音频、视频、代码、表格、知识图谱、3D 对象等多种模态的组合均可用于检索增强生成,却仅有很少的探索和研究。这使得研究者和开发者难以全面把握 MM-RAG 的技术脉络和广阔的应用空间。

来自华中科技大学、复旦大学、中国电信、美国伊利诺伊大学芝加哥分校的研究者们共同发布了一篇全面覆盖几乎所有模态作为输入和输出组合的MM-RAG综述来全面且系统化地阐述这个广阔的研究和应用空间。

论文标题:A Comprehensive Survey on Multimodal RAG: All Combinations of Modalities as Input and OutputTechRxiv: https://doi.org/10.36227/techrxiv.176341513.38473003/v2GitHub 项目主页: https://github.com/INTREBID/Awesome-MM-RAG

该论文的最大亮点在于其前所未有的广度:

它首次覆盖了几乎所有可能使用的模态组合作为输入和输出,包括文本、图像、音频、视频、代码、表格、知识图谱、3D 对象等。

通过这种全面的梳理,作者们首先揭示了 MM-RAG 领域中庞大的潜在输入 - 输出模态组合空间,并指出了其中尚未被充分探索的空白(如表 1 所示)。在作者提出的 54 种潜在组合中,目前只有 18 种组合存在已有研究(表 1 中绿色对勾的格子),许多极具应用价值的组合 —— 例如 “文本 + 视频作为输入,生成视频作为输出”—— 仍是一片亟待开拓的蓝海。

表 1:基于输入 - 输出模态组合的 MM-RAG 分类法

在此基础上,作者们构建了一个基于输入 - 输出模态组合的全新 MM-RAG 分类法,不仅系统性地组织了现有研究,还清晰展示了不同 MM-RAG 系统的核心技术组件(如表 2 所示),为后续研究提供了统一框架和方法参考。

表 2不同输入输出模态下多模态 RAG 的核心技术组件、任务和应用

四大关键阶段剖析 MM-RAG 工作流

基于这个新的分类法,该综述深入分析了MM-RAG系统的工作流程,并将其划分为四个关键阶段(如图 1 所示):

图 1 MM-RAG 的工作流

a)预检索 (Pre-retrieval): 数据组织和查询的准备工作。

b)检索 (Retrieval): 高效准确地从海量多模态知识库中找到相关信息。

c)增强 (Augmentation): 将检索到的多模态信息有效地融入到大模型中。

d)生成 (Generation): 根据输入和增强信息生成高质量的多模态输出。

论文详细总结了每个阶段的常用方法,并讨论了对于不同模态针对性的优化策略,为构建高性能的MM-RAG系统提供了实用的技术指导。

一站式指南:

训练、评估与应用前瞻

除了技术流程,该综述还提供了构建 MM-RAG 系统的一站式指南:

训练策略: 讨论了 MM-RAG 系统的训练方法,以最大化其检索和生成能力。评估方法: 总结了现有的MM-RAG 评估指标和 Benchmark,帮助研究者评估系统性能。应用与未来: 探讨了 MM-RAG 在多个领域的潜在应用,并指出了未来的重要研究方向。

作为首个覆盖所有常见输入 - 输出模态组合、并系统化解析了 MM-RAG 的工作流、组件、训练、评估等核心技术的综述,该论文不仅为研究者提供了索引式的知识入口,也为产业应用提供了全面的技术参考。论文作者还提供了持续更新的资源库,方便读者追踪最新进展。

 时事1:欧洲杯足球开户

  12月27日,原创音乐剧《四十天》首演在即 再现抗日壮举“宜昌大撤退”,这次放宽年龄并不是延迟退休,而是退休返聘。不仅可以领取退休金,享受国家提供的养老保障,同时还有机会继续工作并获得工资收入。,劲爆体育在线直播。

  12月27日,2026年我国将在全国高速公路服务区建设1万个以上充电枪,苏自申:男,1975年12月出生,2017年10月起任国任保险副总裁,2018年1月至2025年6月任财务负责人。曾任广州市市政工程维修处财务会计科财务总监,深圳市建筑设计研究总院有限公司董事、财务总监,深圳市笋岗华润置地发展有限公司副总经理。,10bet体育手机版,金沙APP,凯时登录平台去AG发财网。

 时事2:乐动体育入口

  12月27日,江苏东海:车辆起火 环卫车变“消防车”紧急灭火,“有些地区出现了多个国际航空枢纽的格局。比如华南的广州、深圳,西南的成都、重庆、昆明,西北的西安、乌鲁木齐。但与成渝不同的是,西北地域辽阔,西安与乌鲁木齐距离非常远,两个枢纽生态位截然不同。”,365bet合法吗,电竞网投,欧宝平台登录。

  12月27日,云南推介39个“高速+”项目 助推高速公路融合发展,6日外交部记者会上,发言人毛宁就中国飞艇误入事件表示,这次事件完全是不可抗力导致的意外。美国国防部也发表声明,这个气球,或者说飞艇,不会对地面人员构成军事和人身威胁。美方不顾中方的反复说明,执意动用武力明显反应过度,中方坚决反对。,网址365,世界杯正规的买球app,贝博APP体育官网。

 时事3:百人牛牛炸金花

  12月27日,国际观察|同舟共进 逐浪前行——2025年中国与东盟合作提质升级,报道还援引正在参与救援工作的前记者奥泽尔·皮卡尔(Ozel Pikal)的说法称,他认为至少有部分灾民在气温降至零下6摄氏度时被冻死了,“没有人从废墟中活着出来”。,重庆分分彩官方网站彩票,ag娱乐旗航厅,买球用哪个app。

  12月27日,第三届中国侨智发展大会开幕 首批“侨智驿站”获授牌,不只传统出租车业,网约车业也开始对司机的年龄限制进行调整。据报道,“曹操出行”在成都对直营司机的年龄限制进行调整,有C1及以上驾照、驾龄3年以上、身体健康、在65周岁以内的都可报名。此前,“曹操出行”招募司机有年龄限制,尤其是直营的网约车司机年龄不超过55周岁。,沙巴体育一直不结算怎么办,ayx手机版登录,世界杯买球网站是什么。

 时事4:凯时官方下载网站

  12月27日,广州两百余名巧匠同台竞技 展现技艺传承与技术创新,据介绍,唐家成于1952年出生,香港金融学院院士,曾出任香港证监会主席、毕马威中国前主席,目前担任港交所独立非执行董事、促进股票市场流动性专责小组主席。,千赢官网首页下载,可以赌电竞的外围,凯时客户端。

  12月27日,新疆库尔勒:“守艺人”让戏曲在少年心间生根,尽管北京人寿在公开宣传中多次强调其风险管理“向‘深’‘精’‘专’方向推进”,并称风险综合评级已连续13个季度保持在BB类及以上,但此次监管处罚无疑是对其自我宣称的风控成效打上了一个问号。它揭示出,在快速的业务发展和规模扩张过程中,公司的内部管理精细化水平可能未能同步跟上,为未来的稳健经营埋下了风险隐患。,博狗正网,线上mg真钱,bte365体育。

责编:江颖

审核:赵学军

责编:彭体

相关推荐 换一换