我要投稿

百模大战中的网络：科大讯飞万卡级智算集群

发布日期：2024-11-11 20:08:22 浏览次数： 1966

作者：云深知网络

微信搜一搜，关注“云深知网络”

做 AI 加速芯片难

在中国做 AI 加速芯片更难

破床上台后做 AI 加速芯片难上加难

因此国产方案打底的 iflytek 大模型实属不易

科大讯飞在年初时提到

2024 年大模型目标1亿软件用户

智能涌现需要的

大模型参数规模越来越大

科大讯飞已经迈过第一道门槛

一万困难户，十万刚起步，百万才算富

Meta 超越 xAI 计划打造全球最大 GPU 集群

预训练阶段在大规模

未标注数据集上进行自监督学习

因此对于模型的训练效果有着重要的影响

张量平行和数据并行产生流量大对互联要求高

实战结论

模型预训练对延时不敏感

业界目前单轨与多轨都有应用

更重要取决于卡以及对网络的驾驭能力

静态路径绑定

似乎是前期不得已而为之

下一代一体化调度才能提高利用率

从万卡走向更大规模

从芯片到拓扑再到网络协议都需要优化

首先随着带宽的增加

网络接口从400G/800G到1.6T

网络耗电大户光模块实现需要重点关注

其实是网络架构的选择

Dragonfly 等组网模式叫好不叫座

究其原因还是本身的复杂度和管理问题

备查

Meta 依然沿用 CLOS 表明

经过长期考验的 DCN 架构值得信赖

Meta 公开基于 RoCE 技术的 24 K GPU 集群！

备查

关于智算系统与通信方法，某司申请重要专利

大模型训练是个系统工程

尤其是在一个特殊的加速卡平台上

因此愈发显得科大讯飞的经验弥足珍贵

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-06-14

新一代文本表征Qwen3-Embedding与排序模型Qwen3-Reranker 部署和替换

2025-06-14

“华强北”围攻AI耳机，未来智能如何突围？

2025-06-14

AI时代如何为企业和个人赋能

2025-06-14

没吃透 Function Calling？难怪你不理解 AI Agent 为何非来不可！

2025-06-14

浅尝一下微软的AutoGen框架

2025-06-14

基于大模型的智能运营｜智能体式编排，业务流程管理的新阶段

2025-06-14

从Manus爆火看Agent AI的技术演进与市场变革——AI Agent全景研报

2025-06-14

张鹏对谈李广密：Agent 的真问题与真机会，究竟藏在哪里？

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

DeepSeek R1-0528 小版本升级

2025-05-29

🧠 解码大语言模型的记忆力：上下文长度的前世今生

2025-03-20

萌新指南｜手把手教你Cherry Studio配置MCP，10分钟让大模型学会上网截图！

2025-03-21

教你解决GPT4o无法使用新版生图功能的教程

2025-04-11

Manus 是大模型 AI Agent + MCP，那什么是模型上下文协议 (MCP)?

2025-03-20

不止核弹芯片，黄仁勋发布两台 AI 个人超算，还拿下全球最快 DeepSeek 推理速度

2025-03-19

聊聊大模型MCP模型上下文协议-为何是AI在企业内应用落地的一个关键组件

2025-03-20

用 Go 语言打造高并发 MCP 服务器：理论、实战与 AI 应用全景探索

2025-03-19

黄仁勋 2 个半小时演讲，英伟达已经进入「Agentic AI」时代

2025-03-19

MCP如何重塑AI开发？一文带你深入了解

2025-03-19

大家都在问

“华强北”围攻AI耳机，未来智能如何突围？

2025-06-14

张鹏对谈李广密：Agent 的真问题与真机会，究竟藏在哪里？

2025-06-14

为什么说Maus是未来任务型AI系统的代表？

2025-06-14

一手实测：首个有记忆的企业级AI Agent，能否经得住实践捶打？

2025-06-13

聊透 Agent，它是「同事」还是「工具」，创业机会和价值究竟是什么？

2025-06-13

拒绝碎片化 RAG，谷歌 DeepMind 推出 ReadAgent：模拟人类阅读长文本，或是NotebookLM底层技术？

2025-06-13

字节跳动2步突破，复杂文档布局解析，为啥如此惊艳？

2025-06-13

为什么我更看好Palantir的AI价值落地？

2025-06-12

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB