我要投稿

一文彻底搞懂多模态 - 多模态推理

发布日期：2024-10-10 21:21:58 浏览次数： 2265

作者：架构师带你玩转AI

微信搜一搜，关注“架构师带你玩转AI”

多模态推理

多模态推理涉及至少两种不同的感知模态，最常见的是视觉和语言。这两种模态的信息可以是图片和文本、视频和语音等。多模态推理的目标是从不同模态的信息中获取更全面、更准确的理解和知识，以支持各种任务，包括视觉问答、视觉常识推理、视觉语言导航等。

接下来分两部分：知识图谱推理、多模态推理任务，一起来深入了解多模态应用：多模态推理。

多模态推理

一、知识图谱推理

什么是知识图谱（Knowledge Graph）？知识图谱是一种结构化的知识库，它以图的形式表示和存储现实世界中的实体、概念及其相互关系。这些实体可以是具体的人、地点、事物，也可以是抽象的概念或思想。

节点：代表现实世界中的实体（如人、地点、事物、概念等），每个实体通常由一个唯一的标识符表示。
边：表示这些实体之间的关系。

知识图谱的基本组成单位是“实体—关系—实体”三元组，以及实体及其相关属性—值对，实体间通过关系相互联结，构成网状的知识结构。

KG = （E，R，T），KG表示知识图谱、E表示实体集合、R表示关系集合、T表示知识三元组集合。

知识图谱

什么是知识图谱推理（Multimodal Reasoning with Knowledge Graph）？知识图谱推理是指基于知识图谱中的事实和关系，通过逻辑、规则、统计或机器学习等方法，从已知的信息中推断出新的信息或关系的过程。

知识图谱推理的目标是从有限的事实中推导出更多的知识，填补知识图谱中的空白或增强图谱的表达能力。

知识图谱推理

一、基于规则学习

：

通过挖掘图谱中的逻辑规则，利用规则匹配和推理来预测新的实体和关系。例如：重写逻辑（Rewriting Logic），将规则表示为重写规则，并通过递归应用重写规则来进行推理。

二、

基于路径排序：

利用图谱中实体间的路径特征进行排序学习，通过评估路径的可信度来推断实体间的关系。例如：路径排序算法（Path-Ranking Algorithm，PRA），采用随机行走和基于重启的推理机制，执行多个有界深度优先搜索过程来寻找关系路径。

三、

基于表示学习：

将实体和关系嵌入到低维向量空间，通过向量运算和相似性度量进行推理。例如：翻译距离模型（如TransE、TransH、TransR等），这些模型为知识图谱中的每个实体和关系学习一个向量表示，并通过向量间的运算关系来推断新的实体和关系。

四、基于神经网络学习

利用神经网络模型捕捉图谱中的结构信息，通过神经网络的前向传播进行推理预测。例如：基于图神经网络（GNN）的推理方法，如基于注意力机制的图卷积神经网络（Graph Attention Network，GAT），通过对实体之间的相似度进行加权，来推断实体之间的关系。

二、多模态推理任务

什么是多模态推理任务（Multi-Modal Reasoning Task）？多模态推理任务是指利用多种感知模态的信息进行综合分析和判断的过程。

多模态推理任务

一、

视觉问答（Visual Question Answering，VQA）

视觉问答指的是给机器一张图片和一个开放式的自然语言问题，要求机器输出自然语言答案。答案可以是短语、单词、(yes/no)或从几个可能的答案中选择正确答案。

VQA是一个典型的多模态问题，融合了计算机视觉（CV）与自然语言处理（NLP）的技术，计算机需要同时学会理解图像和文字。
为了回答某些复杂问题，计算机还需要了解常识，并基于常识进行推理（common-sense resoning）。

二、视觉常识推理（Visual Commonsense Reasoning，VCR）

视觉常识推理需要在理解文本的基础上结合图片信息，基于常识进行推理。给定一张图片、图中一系列有标签的bounding box，VCR实际上包含两个子任务：{Q->A}根据问题选择答案；{QA->R}根据问题和答案进行推理，解释为什么选择该答案。

VCR数据集由大量的“图片-问答”对组成，主要考察模型对跨模态的语义理解和常识推理能力。
预训练任务可能包括将BERT经典的MLM和NSP预训练任务扩展到多模态场景等。

三、视觉语言导航（Vision Language Navigation）

视觉语言导航是一种技术，它结合了计算机视觉、自然语言处理和自主学习三大核心技术，使智能体能够跟随自然语言指令进行导航。

智能体不仅能够理解指令，还能理解指令与视角中可以看见的图像信息。
智能体需要在环境中对自身所处状态进行调整和修复，最终做出对应的动作，以达到目标位置。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-06-11

AI提效99.5%！英国政府联手 Gemini，破解城市规划审批困局

2025-06-10

多模态 RAG VS 传统文本 RAG ，到底效果如何，从应用视角来测试下

2025-06-10

实战复盘 | 基于视觉模型的多模态 RAG 系统，我们踩过的坑与收获 (项目已开源)

2025-06-05

多模态模型在RagFlow中的应用

2025-06-04

清华首创多模态+知识图谱+RAG，问答精准度超 94%

2025-05-30

Deepseek 多模态来解析图片，结合上下文分析pdf文档

2025-05-28

Lovart再次证明：AI不是卖工具而是卖成果

2025-05-27

Dolphin-API：字节Dolphin多模态文档解析模型API化全攻略

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

深度体验 Lovart：这才是AI Design Agent！设计领域终于迎来了它们的「神」

2025-05-14

GPT-4o 生图实测：很强（附：20+场景示例 & 缺陷整理）

2025-03-26

一文搞懂多模态视觉大模型（CLIP和SAM）

2025-03-21

大模型赋能CAD图纸智能识别与集成实战指南

2025-04-27

ollama 大版本0.7 发布，新引擎支持多模态模型

2025-05-16

Veo 2正式登陆Google AI Studio了——实在太疯狂了！

2025-05-08

3D 小白亲测：用 Trae + Blender MCP 从零开始 AI 建模（附踩坑指南）

2025-04-28

Midjourney V7全面测评：50组多风格提示词实测，是否还有领先优势?

2025-04-05

看见设计的未来：Lovart 全球首个设计 Agent 体验

2025-05-13

全球首款设计Agent，Lovart在海外大火，马斯克亲自点赞

2025-05-15

大家都在问

本地AI对话神奇，ChatWise到底有什么用？

2025-05-26

什么是基于知识图谱的多模态推理？

2025-05-13

AI数字人领域重大突破：告别拼凑式合成，阿里OmniTalker能否开启音视频一体化新时代？

2025-04-08

Midjourney V7全面测评：50组多风格提示词实测，是否还有领先优势?

2025-04-05

如何结合多模态RAG和异步调用实现大模型内容理解？

2025-03-30

Chat GPT文生图不用DALL·E模型了？

2025-03-26

如何构建多模态AI知识库？

2025-03-05

我为什么要卸载DeepSeek ？

2025-03-02

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB