我要投稿

一文彻底搞懂大模型 - 人工神经网络与贝叶斯网络

发布日期：2024-09-03 05:14:01 浏览次数： 3506

作者：架构师带你玩转AI

微信搜一搜，关注“架构师带你玩转AI”

ANN History

大模型，特别是那些拥有数十亿甚至更多参数的深度学习模型，往往是以人工神经网络为基础的。这些模型通过堆叠多个隐藏层、增加神经元数量和使用复杂的非线性激活函数，来构建能够处理复杂任务（如自然语言处理、图像识别等）的深度神经网络。

大语言模型

一、大模型与人工神经网络的关系

什么是人工神经网络（ANN）？人工神经网络（ANN）是一种模仿生物神经网络结构和功能的计算模型。它由多个层组成，包括输入层、隐藏层（可能有多层）和输出层。每一层都包含多个神经元（或称为节点），这些神经元通过带权重的连接相互连接。

ANN

输入层接收外部数据，隐藏层对数据进行处理，输出层则产生最终的输出。神经元的激活通常通过一个非线性函数（如sigmoid、ReLU等）来实现，这使得网络能够学习复杂的非线性关系。

ANN

大模型与人工神经网络的关系：LLM的核心是ANN（人工神经网络），基于人工神经网络构建更大规模和复杂度更高的深度学习模型。

PLM（预训练模型）：预训练语言模型通常使用互联网上的海量文本数据作为训练语料，这些语料库可能包含数十亿甚至数千亿个单词。这些模型通过在大量的未标注文本数据上进行学习，掌握了语言的共性和规律，进而能够应用于各种NLP下游任务。
数据 + 算力：算力作基础，数据为驱动；无监督预训练（Pre-training），有监督微调（Fine-tuning）。
权重w和偏置b：模型参数包括每一层的权重(weight)和偏置项(bias)。这些参数在训练过程中通过反向传播算法进行调整，以最小化损失函数。

LLM 》DL 》ANN

二、人工神经网络与贝叶斯网络的关系

什么是贝叶斯网络（BN）？贝叶斯网络（Bayesian Network，简称BN）是一种基于概率推理的图形模型，用于表示变量之间的依赖关系。它由一个有向无环图（Directed Acyclic Graph，DAG）和条件概率表（Conditional Probability Table，CPT）组成。

Bayesian Network

有向无环图（DAG）：用于表示变量之间的依赖关系。图中的节点代表变量，有向边（或称为弧）则表示变量之间的依赖关系。如果两个节点之间存在有向边，则意味着一个节点的状态会影响另一个节点的状态。
条件概率表（CPT）：与DAG中的每个节点相关联，用于描述节点与其父节点之间的概率关系。条件概率表详细列出了在给定父节点状态下，当前节点取各个可能值的概率。

Bayesian Network

人工神经网络与贝叶斯网络的关系：两者都是有向图模型，其中每个节点的取值或状态仅依赖于其直接前驱节点，即遵循马尔可夫假设。这种结构使得模型能够清晰地表示变量之间的依赖关系。

ANN vs Bayesian Network

有向图模型：一种使用有向图来表示变量之间关系的数学模型。在有向图中，节点代表变量，而有向边则代表变量之间的依赖关系。

Direction Graph

马尔可夫假设：一种简化模型复杂性的假设，它指出一个节点的状态（或取值）仅依赖于其直接前驱节点的状态（或取值），而与更前面的节点状态无关。

Markov Chain

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-09-16

GPT‑5-Codex 发布：OpenAI 的 Claude Code

2025-09-16

新版 GPT-5 刚刚发布，最卷 AI 连肝代码 7 小时，编程工具大洗牌开始了

2025-09-16

Subagents：构建高可靠 AI Coding 专家顾问团

2025-09-16

Agent三大痛点：知识库+工作流+Prompt工程

2025-09-16

Anthropic发布首个AI经济指数报告:越富越用AI,企业比个人更信任AI

2025-09-16

Claude Code与GitHub结合使用的实践指南

2025-09-16

企业复杂Agent落地的12个工程化原则 | 原则二：构建Prompt工程可扩展、可维护、可调试、可回滚 | 提示词A/B实验

2025-09-16

OpenAI深夜放出「编程核弹」：GPT-5-Codex 正式发布，能独立爆肝7 小时

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

DeepSeek-V3.1 发布，迈向 Agent 时代的第一步

2025-08-21

精|知识探索新范式：深度研究Deep Research智能体全面综述，系统、方法与应用

2025-06-21

DeepSeekV3.1 提到的 UE8M0 FP8 Scale 是什么？下一代国产芯片设计？

2025-08-21

DeepSeek V3.1 测评

2025-08-19

能办成事的 Agent：实时与环境交互，从经验中学习

2025-06-19

WAIC 2025 观察：大模型进入“效率与场景”决胜期

2025-07-29

AI大家说 | 下一代AI创业的机会在哪里？定价趋势是什么？

2025-09-08

DeepSeek突然更新V3.1：实测后才发现的亮点与槽点

2025-08-19

DeepSeek v3.1 到底有多强？与 Claude Code 一起实测！

2025-08-20

豆包又在偷偷进步！超能创意2.0内测，语意理解能力追平FLUX Kontext

2025-07-04

大家都在问

Qwen3-Coder与Claude Code深度对比：谁是你的AI编程助手？

2025-09-14

阿里推出夸克医疗大模型：医考70%高分背后，RAG为何是“压舱石”？

2025-09-12

AI市场调查实战：如何让AI帮你搜全网特定规格的产品？

2025-09-11

Embedding-审核场景下都可以在哪里应用？

2025-09-11

nano banana 文生图模型有哪些具体的应用场景？

2025-09-09

Claude Code：极简架构 + 万字提示词 = 最强开发者智能体？

2025-09-09

观察 | 面临经济下行和AI的双重冲击，企业顾问如何突破困局？

2025-09-08

AI大家说 | 下一代AI创业的机会在哪里？定价趋势是什么？

2025-09-08

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部