高性能GPU服务器硬件拓扑与集群组网01、术语与基础大模型训练常采用8卡GPU集群,涵盖A100、A800、H100、H
前言微服务是一种软件设计、架构思想。当然,里面也包含了相关技术点要解决当前要务。学习微服务,我们不能空口而谈,一定要落实
在微服务架构日益盛行的今天,API Gateway(API网关)已成为其中不可或缺的一部分。API Gateway不仅作
大模型系列之解读MoEMixtral 8x7B的亮相,引领我们深入探索MoE大模型架构的奥秘。MoE究竟是什么?一起揭开
国内 AI大模型产业发展深度分析 2024人工智能技术的迅猛发展,使AI大模型成为科技竞争的核心、产业变革的先锋、经济增
改变AI服务器:互连芯片技术创新和突破TrendForce数据显示,AI服务器出货量达130,000台,占全球服务器市场
微服务部署最全详解(4种常见部署模式)微服务多实例部署每个微服务都独立部署在自己的运行环境中,这是微服务架构的核心思想。
计算机体系结构,其中存储分为内存与硬盘。内存,非持久化存储,临时存数,断电即失;硬盘,持久化存储,数据长存,即使断电也无
本文所讲的数据中心网络架构和技术范围是针对典型的大型互联网和云计算公司的超大规模数据中心(Hyperscale Data
微服务是一种架构风格,它将一个复杂的应用拆分成多个独立自治的服务,每个服务负责应用程序中的一小部分功能。这些服务通过定义
kubernetesKubernetes(K8s)由Google打造,是一款功能强大、灵活可扩展的容器编排平台,引领云原
信创改造落地过程中的六个难点及应对经验技术生态迅猛发展,尚未成熟且多元化,信创技术栈应用经验匮乏,导致改造落地工作面临重
InfiniBand与RoCE对比分析:AI数据中心网络选择指南随着 AI 技术的蓬勃发展,其对数据中心网络的要求也日益
云计算最全详解(图文全面总结) 云计算是技术趋势的未来,掌握它至关重要。从基础到高级,本文深入探讨云计算的方方面面,为您
Tensor Cores 使用介绍概要介绍TensorCore是英伟达GPU自Volta架构起支持的特性,允许CUDA开
华为AI芯片生态全栈深度分析 2024一、引言1.1 华为AI芯片发展背景:华为,通信和消费电子巨头,以其技术创新和远见
DDR 5,新标准发布JEDEC 发布了 JESD79-5C DDR5 SDRAM 标准,带来了关键更新,包括:* 增强
前言文章主要介绍常见名词以及其在各自领域实现的功能价值。01裸纤裸光纤(裸光纤)由运营商提供,是无中继的光纤线路,仅通过
近距离了解 VirtIO 和 GPU 虚拟化这是一篇 Linaro 开发团队项目组的科普文章。我们在处理器虚拟化项目中,
Meta超大规模AI智算基础设施架构设计摘要双重 GPU 集群,每群配备 2.4 万个 H100 芯片,分别采用 RoC
签名:薪科技评说,发现技术的点滴,记录科学的飞跃!