运维123 - 模型发布
type: channel
link: https://www.sddts.cn/index.php/tag/%E6%A8%A1%E5%9E%8B%E5%8F%91%E5%B8%83/
items: GLM-4.7-Flash 模型发布技术分析

GLM-4.7-Flash 模型发布技术分析
type: item
date: 2026-01-19T22:16:52+00:00
description: GLM-4.7-Flash 模型发布技术分析一、新闻概述1. 标题GLM-4.7-Flash：30B 级最强 MoE 模型正式发布2. 发布时间2025 年 1 月（根据文档更新时间）3. 来源Z.ai / Hugging Face二、核心内容1. 事件摘要A. 主要内容Z.ai 正式发布 GLM-4.7-Flash 模型，这是一款 30B-A3B MoE（混合专家）架构的轻量级高性能模型。B. 核心亮点30B 总参数量，3B 激活参数量（A3B）30B 级别最强性能模型支持多种推理框架：vLLM、SGLang、TransformersMIT 开源许可证支持中英文双语2. 关键信息A. 模型规格总参数量：31B激活参数量：3B（A3B - Active 3 Billion）张量类型：BF16、F32模型架构：GLM4 MoE（glm4_moe_lite）B. 技术特性支持工具调用（tool-call-parser: glm47）支持推理模式（reasoning-parser: glm45）支持投机采样（Speculative Decoding）Chat template 对话模板C. 部署选项本地部署：vLLM、SGLangAPI 服务：Z.ai API Platform在线体验：chat.z.ai3. 背景介绍A. 相关版本GLM-4.5：基础版本，技术报告已发布（arXiv:2508.06471）GLM-4.7 系列：包含多个变体模型B. 相关上下文GLM-4.7-Flash 是 GLM-4.7 系列的轻量级版本，专注于性能与效率的平衡。三、详细报道1. 主要内容A. 模型架构GLM-4.7-Flash 采用 MoE（Mixture of Experts）架构，总参数 30B，但每次推理只激活 3B 参数。这种设计在保持性能的同时大幅降低计算开销。B. 性能基准测试GLM-4.7-Flash 在多项基准测试中表现优异，对比同级别模型：基准测试GLM-4.7-FlashQwen3-30B-A3BGPT-OSS-20BAIME 2591.685.091.7GPQA75.273.471.5LCB v664.066.061.0HLE14.49.810.9SWE-bench Verified59.222.034.0τ²-Bench79.549.047.7BrowseComp42.82.2928.3C. 技术特性工具调用支持：glm47 工具调用解析器推理能力：glm45 推理解析器投机采样：支持 MTP 和 EAGLE 算法2. 技术细节A. 模型架构graph LR A[输入] --> B[Token Embedding] B --> C[GLM MoE 层] C --> D[专家路由] D --> E[3B 激活参数] E --> F[输出层] F --> G[生成结果] style E fill:#90EE90架构说明：MoE 架构：30B 总参数，每次只激活 3B高效路由：智能选择最相关的专家子网络轻量部署：3B 激活参数显著降低推理成本B. 部署架构graph TB User[用户] --> API[Z.ai API / 本地服务] API --> vLLM[vLLM 推理引擎] API --> SGLang[SGLang 推理引擎] API --> TF[Transformers 原生] vLLM --> Model[GLM-4.7-Flash 模型] SGLang --> Model TF --> Model Model --> Cache[KV Cache] Model --> Output[响应生成]C. 推理优化技术投机采样（Speculative Decoding）vLLM 支持 MTP 方法SGLang 支持 EAGLE 算法张量并行：支持多 GPU 推理工具调用优化：glm47 专用解析器推理增强：glm45 推理解析器3. 数据与事实A. 模型规格对比特性GLM-4.7-FlashGLM-4.5总参数30B-激活参数3B-架构MoE-推理支持vLLM, SGLang-B. 部署要求GPU 内存：建议多 GPU 配置（TP=4）框架版本：vLLM/SGLang 最新主分支Transformers：需要最新 main 分支四、影响分析1. 行业影响A. 技术趋势MoE 架构成为轻量级高性能模型的主流选择30B 级别模型在性能与成本间达到新平衡开源大模型竞争日趋激烈B. 竞争格局对比 Qwen3-30B-A3B：多项基准测试领先对比 GPT-OSS-20B：SWE-bench 等测试显著领先30B 级别最强模型定位2. 用户影响A. 现有用户可直接从 Hugging Face 下载使用支持本地部署，数据隐私有保…