我要投稿

百模大战中的网络：科大讯飞万卡级智算集群

发布日期：2024-11-11 20:08:22 浏览次数： 1942 作者：云深知网络

做 AI 加速芯片难

在中国做 AI 加速芯片更难

破床上台后做 AI 加速芯片难上加难

因此国产方案打底的 iflytek 大模型实属不易

科大讯飞在年初时提到

2024 年大模型目标1亿软件用户

智能涌现需要的

大模型参数规模越来越大

科大讯飞已经迈过第一道门槛

一万困难户，十万刚起步，百万才算富

Meta 超越 xAI 计划打造全球最大 GPU 集群

预训练阶段在大规模

未标注数据集上进行自监督学习

因此对于模型的训练效果有着重要的影响

张量平行和数据并行产生流量大对互联要求高

实战结论

模型预训练对延时不敏感

业界目前单轨与多轨都有应用

更重要取决于卡以及对网络的驾驭能力

静态路径绑定

似乎是前期不得已而为之

下一代一体化调度才能提高利用率

从万卡走向更大规模

从芯片到拓扑再到网络协议都需要优化

首先随着带宽的增加

网络接口从400G/800G到1.6T

网络耗电大户光模块实现需要重点关注

其实是网络架构的选择

Dragonfly 等组网模式叫好不叫座

究其原因还是本身的复杂度和管理问题

备查

Meta 依然沿用 CLOS 表明

经过长期考验的 DCN 架构值得信赖

Meta 公开基于 RoCE 技术的 24 K GPU 集群！

备查

关于智算系统与通信方法，某司申请重要专利

大模型训练是个系统工程

尤其是在一个特殊的加速卡平台上

因此愈发显得科大讯飞的经验弥足珍贵

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-05-27

盘点 Azure AI Foundry 的10大重要更新

2025-05-27

50个AI基础常识问答（看完理解整个AI行业）

2025-05-27

AI时代下的软件升级：大模型如何让考勤系统听懂人话？

2025-05-27

美团要开放AI编程能力，将推出新产品NoCode｜智能涌现独家

2025-05-27

AI大模型3种模式：Embedding、Copilot与Agent深度解析

2025-05-27

AI领域基础概念(下)

2025-05-26

万字长文！AI智能体全面爆发前夜：一文讲透技术架构与行业机会

2025-05-26

国产顶级 DeepResearch 类产品，把咨询专家请回家

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

本地部署大模型？看这篇就够了，Ollama 部署和实战

2024-08-13

16个具有“联网搜索”功能的AI：总有一个适合你！

2024-06-13

Cursor 一个真正让程序员产生危机感的 AI 编程工具

2024-08-21

OpenAI o1与GPT4o的对比分析

2024-09-23

大模型｜“上下文长度”和“上下文窗口”不再傻傻分不清楚！

2024-07-31

一文带你了解大模型——智能体（Agent）

2024-05-28

50+个AI大模型在不同领域的应用案例

2024-08-04

全面对比dify、coze、streamlit、chainlit

2024-04-26

【深度】AI搜索产品深度分析-搜索原理和商业模式分析

2024-07-09

3万字讲解大模型高效推理｜清华综述

2024-07-20

大家都在问

AI时代下的软件升级：大模型如何让考勤系统听懂人话？

2025-05-27

AI搜索+DeepResearch=？

2025-05-26

大模型 Agent 就是文字艺术吗？

2025-05-23

今天的Agent，就是十年前的小程序？

2025-05-23

从Agent到Agentic AI：大语言模型真的在向"智能体"进化吗？

2025-05-23

震惊，大模型推理的两个阶段，速度竟然相差140倍！一个实验告诉你为什么大模型推理时需要PD分离？

2025-05-18

推理大模型与普通大模型的区别是什么？

2025-05-18

2025AI 圈的 “新物种”：MCP、Fellou、Manus、Browser等都是啥？和纯AI大模型有何区别？如何选？

2025-05-17

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB