当前位置:首页 → 电脑软件 → 小电驴新国标实施首日:涨价几百元 → 有哪些斗牛app可以赢钱 v8.761.6941 安卓免费版
v3.526.1004.939529 IOS版
v5.389.7587.889198 安卓免费版
v1.156.981 PC版
v9.806.6205 安卓版
v8.261 最新版
v5.653.2057 PC版
v2.636 安卓版
v7.571.1491 最新版
v3.0 IOS版
v4.841.6472.738097 IOS版
v6.239.2339.794704 安卓最新版
v3.30.6340 安卓汉化版
v8.597 安卓最新版
v4.591.119 PC版
v9.497.4132 安卓免费版
v6.44 PC版
v7.77.9529 最新版
v6.198.1209.374243 安卓汉化版
v3.792.6061 IOS版
v4.420.409.566203 IOS版
v1.278 最新版
v6.509.3750.544779 IOS版
v3.653.8428 安卓最新版
v9.77.1285.852856 PC版
v7.802.862.120897 安卓最新版
v4.579.1716.147734 安卓免费版
v4.138.7923 安卓汉化版
v4.659.7621.336248 安卓最新版
v1.402.2613.593628 PC版
v4.154 PC版
v1.304.710 最新版
v9.827 最新版
v4.629.5697 PC版
v4.85.5944.637710 安卓汉化版
v2.69.634 安卓免费版
v3.632 安卓免费版
v5.562.3280 安卓版
v4.547 安卓最新版
v6.30.7348 PC版
v9.844.5857.179993 安卓最新版
v6.16 最新版
v6.331.1576 IOS版
v2.468.4317 安卓版
v7.156 PC版
v2.423.7572 PC版
v7.790 最新版
v1.715.4735 PC版
v3.328 安卓最新版
v5.544.9007 IOS版
v5.82 安卓版
v9.765.4118.753097 最新版
v7.175 安卓最新版
v7.71.5011.259722 安卓版
v3.492.9763.793464 安卓最新版
v6.880.3968 安卓免费版
v4.216.1470.460730 安卓免费版
v9.250.8237 安卓版
v3.182.6804 PC版
v7.386.9214 安卓免费版
v5.210.2239 安卓汉化版
v4.338.22.304381 安卓最新版
v5.1.7385 安卓免费版
v9.194.1557.348583 最新版
v5.877.1135 安卓最新版
v5.588.4708.701667 最新版
v8.73.4460 安卓汉化版
v4.837.8198.826631 最新版
v6.778.8468 最新版
v1.199.5024 IOS版
v2.987 安卓最新版
v4.344 安卓最新版
v3.925.4262 最新版
v6.815.1371 安卓版
v6.112.8890.101904 IOS版
v1.81.362 安卓免费版
v8.980.4562 PC版
v4.558.8739.404841 最新版
v6.821.9865.390161 安卓最新版
v1.876.7184.457216 安卓免费版
v6.33.8770.126476 PC版
有哪些斗牛app可以赢钱
大模型最广泛的应用如 ChatGPT、Deepseek、千问、豆包、Gemini 等通常会连接互联网进行检索增强生成(RAG)来产生用户问题的答案。随着多模态大模型(MLLMs)的崛起,大模型的主流技术之一 RAG 迅速向多模态发展,形成多模态检索增强生成(MM-RAG)这个新兴领域。ChatGPT、千问、豆包、Gemini 都开始允许用户提供文字、图片等多种模态的输入。
然而,目前对于 MM-RAG 的应用和研究都还处于非常初级的阶段,现有的 MM-RAG 研究以及综述论文主要聚焦于文本和图像等少数模态组合;音频、视频、代码、表格、知识图谱、3D 对象等多种模态的组合均可用于检索增强生成,却仅有很少的探索和研究。这使得研究者和开发者难以全面把握 MM-RAG 的技术脉络和广阔的应用空间。
来自华中科技大学、复旦大学、中国电信、美国伊利诺伊大学芝加哥分校的研究者们共同发布了一篇全面覆盖几乎所有模态作为输入和输出组合的MM-RAG综述来全面且系统化地阐述这个广阔的研究和应用空间。
论文标题:A Comprehensive Survey on Multimodal RAG: All Combinations of Modalities as Input and OutputTechRxiv: https://doi.org/10.36227/techrxiv.176341513.38473003/v2GitHub 项目主页: https://github.com/INTREBID/Awesome-MM-RAG
该论文的最大亮点在于其前所未有的广度:
它首次覆盖了几乎所有可能使用的模态组合作为输入和输出,包括文本、图像、音频、视频、代码、表格、知识图谱、3D 对象等。
通过这种全面的梳理,作者们首先揭示了 MM-RAG 领域中庞大的潜在输入 - 输出模态组合空间,并指出了其中尚未被充分探索的空白(如表 1 所示)。在作者提出的 54 种潜在组合中,目前只有 18 种组合存在已有研究(表 1 中绿色对勾的格子),许多极具应用价值的组合 —— 例如 “文本 + 视频作为输入,生成视频作为输出”—— 仍是一片亟待开拓的蓝海。
表 1:基于输入 - 输出模态组合的 MM-RAG 分类法
在此基础上,作者们构建了一个基于输入 - 输出模态组合的全新 MM-RAG 分类法,不仅系统性地组织了现有研究,还清晰展示了不同 MM-RAG 系统的核心技术组件(如表 2 所示),为后续研究提供了统一框架和方法参考。
表 2不同输入输出模态下多模态 RAG 的核心技术组件、任务和应用
四大关键阶段剖析 MM-RAG 工作流
基于这个新的分类法,该综述深入分析了MM-RAG系统的工作流程,并将其划分为四个关键阶段(如图 1 所示):
图 1 MM-RAG 的工作流
a)预检索 (Pre-retrieval): 数据组织和查询的准备工作。
b)检索 (Retrieval): 高效准确地从海量多模态知识库中找到相关信息。
c)增强 (Augmentation): 将检索到的多模态信息有效地融入到大模型中。
d)生成 (Generation): 根据输入和增强信息生成高质量的多模态输出。
论文详细总结了每个阶段的常用方法,并讨论了对于不同模态针对性的优化策略,为构建高性能的MM-RAG系统提供了实用的技术指导。
一站式指南:
训练、评估与应用前瞻
除了技术流程,该综述还提供了构建 MM-RAG 系统的一站式指南:
训练策略: 讨论了 MM-RAG 系统的训练方法,以最大化其检索和生成能力。评估方法: 总结了现有的MM-RAG 评估指标和 Benchmark,帮助研究者评估系统性能。应用与未来: 探讨了 MM-RAG 在多个领域的潜在应用,并指出了未来的重要研究方向。
作为首个覆盖所有常见输入 - 输出模态组合、并系统化解析了 MM-RAG 的工作流、组件、训练、评估等核心技术的综述,该论文不仅为研究者提供了索引式的知识入口,也为产业应用提供了全面的技术参考。论文作者还提供了持续更新的资源库,方便读者追踪最新进展。
相关版本
多平台下载
查看所有0条评论>网友评论