运维123 - 大模型
type: channel
link: https://www.sddts.cn/index.php/tag/%E5%A4%A7%E6%A8%A1%E5%9E%8B/
items: Qwen3-Max-Thinking 旗舰推理模型发布技术分析
items: DeepSeek-OCR 2 发布：视觉因果流技术突破，OCR 识别性能提升 3.73%
items: AI Token 定价模型类比分析：从 2G 到 5G 的演进之路
items: GLM-4.7-Flash 模型发布技术分析
items: 美团 LongCat-Flash-Thinking-2601 大型推理模型发布
items: 2025 大语言模型年度回顾技术分析
items: OpenRT：多模态大模型红队测试框架
items: SiliconFlow 上线高速版 GLM-4.7 技术分析
items: 中国AGI-Next前沿峰会技术分析：基模四杰论剑大模型未来

Qwen3-Max-Thinking 旗舰推理模型发布技术分析
type: item
date: 2026-01-27T11:18:57+00:00
description: Qwen3-Max-Thinking 旗舰推理模型发布技术分析一、新闻概述1. 标题Qwen3-Max-Thinking：超越极限的旗舰推理模型2. 发布时间2026 年 1 月 26 日3. 来源Qwen 官方博客二、核心内容1. 事件摘要A. 主要内容阿里巴巴 Qwen 团队发布最新旗舰推理模型 Qwen3-Max-Thinking，通过扩大模型参数规模和利用大规模计算资源进行强化学习，在多个维度实现显著性能提升。B. 核心亮点性能可媲美 GPT-5.2-Thinking、Claude-Opus-4.5 和 Gemini 3 Pro 等领先模型自适应工具使用能力，支持搜索、记忆和代码解释器先进的测试时扩展技术，显著提升推理性能2. 关键信息A. 版本号Qwen3-Max-Thinking（API 模型名：qwen3-max-2026-01-23）B. 重要数据在 19 个 established benchmarks 上进行评估Arena-Hard v2 评分达到 90.2，超越所有对比模型HMMT Feb 25 数学竞赛评分 98.0C. 涉及技术强化学习训练自适应工具使用（Adaptive Tool-Use）测试时扩展策略（Test-time Scaling）3. 背景介绍A. 前置版本Qwen 系列模型的持续演进，此次发布专注于推理能力的提升。B. 相关上下文大语言模型领域竞争激烈，各厂商纷纷推出推理优化模型，Qwen3-Max-Thinking 是中国团队在该领域的重要突破。三、详细报道1. 主要内容A. 功能更新Qwen3-Max-Thinking 在以下方面实现显著改进：事实知识（Factual Knowledge）复杂推理（Complex Reasoning）指令遵循（Instruction Following）人类偏好对齐（Alignment with Human Preferences）智能体能力（Agent Capabilities）B. 技术改进核心技术一：自适应工具使用能力与传统方法不同，Qwen3-Max-Thinking 无需用户手动选择工具，而是能够在对话过程中自主选择和使用内置的搜索、记忆和代码解释器功能。训练过程：首先进行工具使用的微调然后在多样化任务上使用基于规则和基于模型的反馈进行进一步训练功能效果：搜索和记忆工具有效缓解幻觉问题提供实时信息访问能力实现更个性化的响应代码解释器允许用户执行代码片段并应用计算推理解决复杂问题核心技术二：测试时扩展策略测试时扩展是指在推理过程中分配额外计算以提升模型性能的技术。Qwen 团队提出了一种经验累积、多轮测试时扩展策略用于重模式。创新点：不是简单地增加并行轨迹 N，而是限制 N将节省的计算重定向到由「获取经验」机制引导的迭代自我反思该机制从过往轮次中提取关键洞察，使模型能够避免重新推导已知结论，专注于未解决的不确定性关键优势：殴得比简单地引用原始轨迹更高的上下文效率在相同的上下文窗口内实现更丰富的历史信息集成在大致相同的 token 消耗下持续超越标准并行采样和聚合性能提升数据：GPQA：90.3 → 92.8HLE：34.1 → 36.5LiveCodeBench v6：88.0 → 91.4IMO-AnswerBench：89.5 → 91.5HLE（with tools）：55.8 → 58.3C. 兼容性说明Qwen API 兼容 OpenAI API 协议同时兼容 Anthropic API 协议可与 Claude Code 无缝协作2. 技术细节A. 性能基准测试以下是 Qwen3-Max-Thinking 与主流模型的详细对比数据：知识能力：MMLU-Pro：85.7（GPT-5.2-Thinking: 87.4, Claude-Opus-4.5: 89.5, Gemini 3 Pro: 89.8）MMLU-Redux：92.8（GPT-5.2-Thinking: 95.0, Claude-Opus-4.5: 95.6, Gemini 3 Pro: 95.9）C-Eval：93.7（GPT-5.2-Thinking: 90.5, Claude-Opus-4.5: 92.2, Gemini 3 Pro: 93.4）STEM 能力：GPQA：87.4（GPT-5.2-Thinking: 92.4, Claude-Opus-4.5: 87.0, Gemini 3 Pro: 91.9）HLE：30.2（GPT-5.2-Thinking: 35.5, Claude-Opus-4.5: 30.8, Gemini 3 Pro: 37.5）推理能力：LiveCodeBench v6：85.9（GPT-5.2-Thinking: 87.7, Clau…

DeepSeek-OCR 2 发布：视觉因果流技术突破，OCR 识别性能提升 3.73%
type: item
date: 2026-01-27T11:02:25+00:00
description: DeepSeek-OCR 2 发布：视觉因果流技术突破，OCR 识别性能提升 3.73%一、新闻概述1. 标题DeepSeek-OCR 2 正式发布：视觉因果流技术突破，识别性能提升 3.73%2. 发布时间2026 年 1 月 27 日3. 来源DeepSeek 官方 GitHub 仓库、技术媒体二、核心内容1. 事件摘要A. 主要内容DeepSeek 正式发布并开源了新一代文档识别模型 DeepSeek-OCR 2，引入创新的视觉因果流技术，实现了 OCR 领域的技术突破。B. 核心亮点视觉因果流技术突破，让 AI 像人一样理解阅读顺序综合字符准确率达到 91.09%，相比上一代提升 3.73%阅读顺序相关编辑距离准确率大幅提升30 亿参数的专家混合模型解码器支持 100+ 种语言的近乎无损文字识别2. 关键信息A. 版本号DeepSeek-OCR 2B. 重要数据综合字符准确率：91.09%性能提升：3.73%参数规模：30 亿（MoE 解码器）视觉 Token 上限：256-1120 个压缩率：10 倍压缩率，97% 信息保真度语言支持：100+ 种语言C. 涉及产品DeepSeek-OCR-2 模型、技术论文《DeepSeek-OCR 2: Visual Causal Flow》、GitHub 开源代码库3. 背景介绍A. 前置版本DeepSeek-OCR 1.0 于 2025 年 10 月发布，首次引入光学压缩技术，实现了 10 倍压缩率和 95% 以上的准确率。B. 相关上下文DeepSeek-OCR 2 是在视觉语言模型架构上的重大创新，解决了传统 OCR 按固定顺序扫描的局限性，首次赋予 AI 类人的阅读顺序理解能力。三、详细报道1. 主要内容A. 技术突破视觉因果流（Visual Causal Flow）：通过 DeepEncoder V2 编码器实现视觉 Token 的动态重排突破传统从左至右、从上至下的固定扫描模式让 AI 根据图像含义动态重排图像各部分，实现真正的语义理解版式与图示的智能理解能力B. 技术改进DeepEncoder V2 编码器效果得到验证结合多模态技术与 RAG 能力解决分栏串读、公式识别等难题支持结构化提取，不再是简单的文本识别C. 开源资源GitHub 代码仓库完全开源技术论文《DeepSeek-OCR 2: Visual Causal Flow》同步发布Apache-2.0 商业友好型许可证2. 技术细节A. 视觉因果流架构graph TB Input[输入文档图像] --> Encoder[DeepEncoder V2 编码器] Encoder --> Tokens[生成视觉 Token] Tokens --> Reorder[动态重排模块] Reorder --> Semantic[语义理解] Semantic --> Decoder[30 亿参数 MoE 解码器] Decoder --> Output[结构化输出] Output --> Format1[Markdown 格式] Output --> Format2[JSON 格式] Output --> Format3[纯文本] style Reorder fill:#f9f,stroke:#333,stroke-width:2px style Semantic fill:#f9f,stroke:#333,stroke-width:2pxB. 性能指标整体得分：91.09%（相比 DeepSeek-OCR 提升 3.73%）编辑距离准确率（阅读顺序相关）：大幅提升压缩比：10 倍压缩率，97% 信息保真度视觉 Token 数量：256-1120 个（相比上一代显著降低）C. 兼容性说明支持动态分辨率：默认（0-6）×768×768 + 1×1024×1024显存要求：单卡≥7 GB环境要求：CUDA 11.8+、Torch 2.6.0注意：NVIDIA 50 系列（如 RTX 5090）暂不完全适配 vLLM3. 数据与事实A. 性能对比指标DeepSeek-OCRDeepSeek-OCR 2提升综合字符准确率87.36%91.09%+3.73%视觉 Token 数量更高256-1120显著降低阅读顺序理解机械扫描语义理解质的飞跃B. 技术对比vs 传统 OCR：从固定扫描到语义推理的范式转变vs DeepSeek-OCR 1.0：阅读顺序识别能力大幅提升vs GOT-OCR2.0、MinerU2.0：在 OmniDocBench 上超越C. 场景表现报纸类文档：由于版面密集、文字量大，当前 Token 上限可能仍有不足复杂文档：版式理解和图示解析能力显著增强多语言场景：支持 100+ 种语言的近乎无损识别四、影响分析1…

AI Token 定价模型类比分析：从 2G 到 5G 的演进之路
type: item
date: 2026-01-24T01:36:18+00:00
description: AI Token 定价模型类比分析：从 2G 到 5G 的演进之路一、概述1. 核心观点大模型 Token 不像电力，更像是手机套餐的流量。当前 AI 行业处于「2G 时代」：价格昂贵、速度缓慢、质量不佳。只有当行业演进到「5G 时代」，提供包月包年的充足流量套餐时，AI 应用才会真正大爆发。2. 来源信息发布时间：2026 年 1 月 23 日 12:55作者：向阳乔木 (@vista8)平台：X (Twitter)3. 背景介绍这一类比源于朋友间的讨论，揭示了 AI 行业当前的瓶颈和未来发展方向。二、核心隐喻解析1. Token 与电力的对比A. 为什么不像电力电力具有以下特征：通用性强：几乎所有设备都使用相同标准传输损耗小：电网覆盖广泛，传输效率高成本透明：度电价格相对稳定即用即付：按实际使用量计费而 AI Token 具有不同特征：模型差异：不同模型的 Token 无法通用质量差异：同一提示词在不同模型效果迥异成本不透明：定价策略复杂，难以横向比较供应商锁定：迁移成本高B. 为什么像手机流量手机流量套餐具有以下特征，与 AI Token 高度相似：特征手机流量 (2G 时代)AI Token (当前)价格昂贵，按 MB 计费昂贵，按 Token 计费速度慢，加载图片困难慢，生成响应时间长质量不稳定，经常断网质量参差，幻觉问题体验不敢放心使用不敢大规模部署graph LR subgraph 通信演进 A1[2G 时代] --> A2[3G 时代] A2 --> A3[4G 时代] A3 --> A4[5G 时代] end subgraph AI 演进 B1[当前阶段] --> B2[未来阶段] B1 -.类比.-> A1 B2 -.目标.-> A4 end A1 -.类比.-> B1 A4 -.类比目标.-> B22. 2G 时代的特征A. 昂贵2G 时代：按流量计费，浏览几个网页就可能耗尽套餐AI 当前：按 Token 计费，一次复杂对话成本不菲B. 慢速2G 时代：加载图片需要数分钟AI 当前：长文本生成、复杂推理耗时较长C. 质量问题2G 时代：信号不稳定，经常掉线AI 当前：模型幻觉、推理错误、一致性不足三、行业现状分析1. 当前瓶颈A. 成本障碍企业用户在选择 AI 服务时面临：按量计费模式导致成本不可预测大规模应用需要巨额 Token 消耗ROI（投资回报率）难以计算B. 技术限制推理速度限制实时应用场景上下文窗口限制长对话处理模型质量影响用户体验C. 商业模式限制缺乏标准化的「套餐」模式供应商各自为政，价格体系混乱用户难以进行成本效益分析2. 用户痛点mindmap root((AI 用户痛点)) 成本焦虑 不敢大规模使用 精打细算 Token 担心意外超支 体验问题 响应速度慢 回答质量不稳定 上下文记忆有限 供应商锁定 迁移成本高 数据格式不统一 API 差异大四、5G 时代的愿景1. 包月包年套餐A. 套餐模式的优势成本可预测：用户可根据需求选择固定价格套餐降低使用门槛：无需担心每次调用的成本鼓励创新：开发者可大胆尝试 AI 应用B. 可能的套餐形态套餐类型适用场景定价模式个人轻量版日常问答、辅助写作包月 19-49 元专业版代码辅助、数据分析包月 99-199 元企业版全场景业务集成包年定制无限版重度用户、企业包月 299-499 元2. 质量与速度的飞跃A. 5G 时代的特征速度：实时响应，无感知延迟质量：高准确率，低幻觉率稳定性：7×24 小时高可用B. 技术驱动力模型架构优化（如 Mixture of Experts）硬件加速（如专用 AI 芯片）推理优化（如量化、剪枝技术）3. AI 应用大爆发的条件graph TB A[成本降低 包月套餐] --> D[AI 应用大爆发] B[速度提升 实时响应] --> D C[质量保障 稳定可靠] --> D E[生态成熟 标准统一] --> D D --> F1[个人应用普及] D --> F2[企业深度集成] D --> F3[新型应用涌现]五、行业演进路径1. 从按量计收到套餐模式的转变A. 通信行业的经验2G/3G 时代：按流量计费为主4G 时代：流量套餐成为主流5G 时代：无限流量套餐普及B. AI 行业的可能路径阶段时间框架计费模式主要特征当前2024-2025按量计费价格高、速度慢、质量不稳定过渡期2025-2027混合模式套餐 + 按量，价格下降成熟期2027-2030套餐为主包月包年，成本可控爆发期2030+无限模式AI 无处不在2. 技术与商业的协同进化sequenceDiagram participant T as 技术进步 participant C as 成本下降 participant M as 商业模式创新 partici…

GLM-4.7-Flash 模型发布技术分析
type: item
date: 2026-01-19T22:16:52+00:00
description: GLM-4.7-Flash 模型发布技术分析一、新闻概述1. 标题GLM-4.7-Flash：30B 级最强 MoE 模型正式发布2. 发布时间2025 年 1 月（根据文档更新时间）3. 来源Z.ai / Hugging Face二、核心内容1. 事件摘要A. 主要内容Z.ai 正式发布 GLM-4.7-Flash 模型，这是一款 30B-A3B MoE（混合专家）架构的轻量级高性能模型。B. 核心亮点30B 总参数量，3B 激活参数量（A3B）30B 级别最强性能模型支持多种推理框架：vLLM、SGLang、TransformersMIT 开源许可证支持中英文双语2. 关键信息A. 模型规格总参数量：31B激活参数量：3B（A3B - Active 3 Billion）张量类型：BF16、F32模型架构：GLM4 MoE（glm4_moe_lite）B. 技术特性支持工具调用（tool-call-parser: glm47）支持推理模式（reasoning-parser: glm45）支持投机采样（Speculative Decoding）Chat template 对话模板C. 部署选项本地部署：vLLM、SGLangAPI 服务：Z.ai API Platform在线体验：chat.z.ai3. 背景介绍A. 相关版本GLM-4.5：基础版本，技术报告已发布（arXiv:2508.06471）GLM-4.7 系列：包含多个变体模型B. 相关上下文GLM-4.7-Flash 是 GLM-4.7 系列的轻量级版本，专注于性能与效率的平衡。三、详细报道1. 主要内容A. 模型架构GLM-4.7-Flash 采用 MoE（Mixture of Experts）架构，总参数 30B，但每次推理只激活 3B 参数。这种设计在保持性能的同时大幅降低计算开销。B. 性能基准测试GLM-4.7-Flash 在多项基准测试中表现优异，对比同级别模型：基准测试GLM-4.7-FlashQwen3-30B-A3BGPT-OSS-20BAIME 2591.685.091.7GPQA75.273.471.5LCB v664.066.061.0HLE14.49.810.9SWE-bench Verified59.222.034.0τ²-Bench79.549.047.7BrowseComp42.82.2928.3C. 技术特性工具调用支持：glm47 工具调用解析器推理能力：glm45 推理解析器投机采样：支持 MTP 和 EAGLE 算法2. 技术细节A. 模型架构graph LR A[输入] --> B[Token Embedding] B --> C[GLM MoE 层] C --> D[专家路由] D --> E[3B 激活参数] E --> F[输出层] F --> G[生成结果] style E fill:#90EE90架构说明：MoE 架构：30B 总参数，每次只激活 3B高效路由：智能选择最相关的专家子网络轻量部署：3B 激活参数显著降低推理成本B. 部署架构graph TB User[用户] --> API[Z.ai API / 本地服务] API --> vLLM[vLLM 推理引擎] API --> SGLang[SGLang 推理引擎] API --> TF[Transformers 原生] vLLM --> Model[GLM-4.7-Flash 模型] SGLang --> Model TF --> Model Model --> Cache[KV Cache] Model --> Output[响应生成]C. 推理优化技术投机采样（Speculative Decoding）vLLM 支持 MTP 方法SGLang 支持 EAGLE 算法张量并行：支持多 GPU 推理工具调用优化：glm47 专用解析器推理增强：glm45 推理解析器3. 数据与事实A. 模型规格对比特性GLM-4.7-FlashGLM-4.5总参数30B-激活参数3B-架构MoE-推理支持vLLM, SGLang-B. 部署要求GPU 内存：建议多 GPU 配置（TP=4）框架版本：vLLM/SGLang 最新主分支Transformers：需要最新 main 分支四、影响分析1. 行业影响A. 技术趋势MoE 架构成为轻量级高性能模型的主流选择30B 级别模型在性能与成本间达到新平衡开源大模型竞争日趋激烈B. 竞争格局对比 Qwen3-30B-A3B：多项基准测试领先对比 GPT-OSS-20B：SWE-bench 等测试显著领先30B 级别最强模型定位2. 用户影响A. 现有用户可直接从 Hugging Face 下载使用支持本地部署，数据隐私有保…

美团 LongCat-Flash-Thinking-2601 大型推理模型发布
type: item
date: 2026-01-17T23:58:09+00:00
description: 美团 LongCat-Flash-Thinking-2601 大型推理模型发布一、新闻概述1. 标题美团发布 LongCat-Flash-Thinking-2601：560B 参数 MoE 大型推理模型，强化环境泛化能力2. 发布时间2026 年 1 月 15 日（GitHub 仓库更新）3. 来源美团 LongCat 团队 GitHub 仓库二、核心内容1. 事件摘要A. 主要内容美团 LongCat 团队发布 LongCat-Flash-Thinking-2601，这是一个拥有 5600 亿总参数的大型推理模型，采用创新的混合专家架构。B. 核心亮点560B 总参数，27B 激活参数环境扩展与多环境强化学习训练方案抗噪声环境鲁棒性训练Heavy Thinking Mode（深度思考模式）在智能体工具使用、搜索和推理基准测试中表现优异2. 关键信息A. 版本号LongCat-Flash-Thinking-2601B. 重要数据总参数量：560B激活参数量：27B架构：MoE（混合专家）GitHub 星标：92+C. 涉及产品模型权重：Hugging Face、ModelScope聊天平台：https://longcat.ai、https://longcat.chat3. 背景介绍A. 前置版本这是 LongCat-Flash-Thinking 系列的更新版本，继承了领域并行训练配方，并系统性地增强了智能体思考能力。B. 相关上下文随着 AI 智能体应用的发展，模型在真实环境中的工具使用和推理能力成为关键竞争点。LongCat-Flash-Thinking-2601 专注于环境泛化和鲁棒性。三、详细报道1. 主要内容A. 功能更新环境扩展与多环境强化学习：构建多样化高质量环境作为强化学习训练场抗噪声训练：系统分析和课程训练处理多种类型和级别的环境噪声Heavy Thinking Mode：并行思考和总结两阶段，扩展推理深度和广度B. 技术改进高质量任务构建：显式控制任务复杂度和多样性多环境强化学习：扩展 DORA 基础设施支持大规模多环境智能体训练课程策略：逐步增加噪声类型和强度C. 兼容性说明已适配 SGLang 和 vLLM 部署提供 chat template 支持高级工具使用场景2. 技术细节A. 架构特点graph TB A[LongCat-Flash-Thinking-2601] --> B[MoE 架构] B --> C[560B 总参数] B --> D[27B 激活参数] A --> E[训练方法] E --> F[环境扩展] E --> G[多环境强化学习] E --> H[抗噪声训练] A --> I[推理模式] I --> J[标准模式] I --> K[Heavy Thinking Mode] K --> L[并行思考阶段] K --> M[总结阶段] M --> N[迭代推理循环]B. 核心技术环境扩展：每个环境包含超过 60 个工具，组织成密集依赖图高质量任务：基于连通子图定义任务，控制复杂度抗噪声训练：分析真实世界噪声源并自动注入训练环境Heavy Thinking Mode：多轨迹并行生成 + 递归总结C. 性能指标AIME-25 数学竞赛：99.6%（标准）/ 100.0%（Heavy Thinking）BrowseComp 智能体搜索：56.6% / 73.1%（带上下文管理）τ²-Bench 工具使用：88.2 平均分3. 数据与事实A. 竞品对比表指标DeepSeek-V3.2Kimi-K2Qwen3-235BGLM-4.7LongCat-2601总参数671B1T235B355B560B激活参数37B32B22B32B27BAIME-2593.599.192.695.399.6/100.0BrowseComp51.4/67.6-/60.2-52.0/67.556.6/73.1B. 评估数据数学推理：在 AIME-25、HMMT-25、IMO-AnswerBench 等基准上表现优异智能体搜索：BrowseComp、BrowseComp-zh、RW Search 等测试领先工具使用：τ²-Retail、τ²-Airline、τ²-Telecom 等场景表现强劲编码：LCB 82.8、OJBench 42.2、SWE-bench 70.0四、影响分析1. 行业影响A. 技术趋势MoE 架构成为大模型主流方向，平衡性能与效率环境扩展强化学习提升智能体泛化能力抗噪声训练成为真实场景部署关键B. 竞争格局与 DeepSeek、Kimi、Qwen 等国产模型形成激烈竞争在智能体工具使用场景表现突出Heavy Thinking Mode 提供差异化推理能力2. 用户影响A. 现有用户可通过 lon…

2025 大语言模型年度回顾技术分析
type: item
date: 2026-01-17T01:51:23+00:00
description: 2025 大语言模型年度回顾技术分析一、新闻概述1. 标题2025 大语言模型年度回顾2. 发布时间2026 年 1 月 16 日3. 来源翻译整理自 Simon Willison's Weblog 的《2025: The year in LLMs》，由 Tw93 (@HiTw93) 翻译并整理二、核心内容1. 事件摘要A. 主要内容本文是对大语言模型（LLM）领域 2025 年度发展的全面回顾，总结了过去 12 个月中发生的所有重要事件和趋势。这是 Simon Willison 对 LLM 领域的第三篇年度回顾文章。B. 核心亮点推理模型成为主流，OpenAI 的 o 系列、Google 的 Gemini 等纷纷推出推理能力Agent 从概念走向实用，编码 Agent 和深度搜索成为两大主流场景中国开源模型全面崛起，占据排行榜前列Claude Code 年化收入达 10 亿美元新定价标杆出现，200 美元/月的高端订阅服务2. 关键信息A. 涉及技术推理模型（RLVR：基于可验证奖励的强化学习）Agent 系统编码 Agent图像生成与编辑开源模型B. 重要数据Claude Code 年化收入：10 亿美元METR 研究：AI 能处理的任务长度每 7 个月翻倍Artificial Analysis 开源模型排行榜前五全是国产模型OpenAI 图像编辑功能上线一周新增 1 亿用户3. 背景介绍A. 历史回顾这是第三篇年度回顾，前两年的回顾包括：2023 年我们搞懂了哪些 AI 事情2024 年我们在 LLM 上学到的东西B. 相关上下文2025 年充满了各种趋势，有些相互交织，有些则彻底改变了我们使用和构建 AI 的方式。三、详细报道1. 推理之年A. 技术突破2024 年 9 月，OpenAI 通过 o1 和 o1-mini 拉开了推理（也叫基于可验证奖励的强化学习 RLVR）模型的序幕。2025 年初，他们又接连推出 o3、o3-mini 和 o4-mini，将这一能力推向主流。B. 技术原理Andrej Karpathy 对此有个精辟解释：通过在大量可自动验证奖励的环境中（比如数学题或编程谜题）训练 LLM，模型会自发发展出人类看起来像"推理"的策略，比如把问题拆解成中间步骤，来回尝试不同解法。RLVR 的性价比极高，以至于原本用于预训练的算力被大量转投于此。因此，2025 年的能力进步主要来自更长的 RL 训练，而非更大的模型规模。C. 应用场景推理模型的主要应用价值：AI 辅助搜索：GPT-5 Thinking 等系统能高效回答复杂的调研问题代码生成和调试：能从错误出发，逐层深入大型代码库定位根本原因工具驱动：能规划多步任务、执行、观察结果并动态调整计划D. 技术架构graph LR A[可验证奖励环境] -->|强化学习训练| B[推理模型] B -->|能力提升| C[多步任务规划] B -->|能力提升| D[工具调用] C --> E[AI 搜索] C --> F[代码调试] D --> G[Agent 系统]2. Agent 之年A. Agent 定义到了 9 月，作者给出了自己的定义：Agent 就是能通过循环调用工具来达成目标的 LLM 系统B. 发展历程年初作者曾预测 Agent 不会真正落地，因为：2024 年大家嘴上都在说 Agent，但几乎没人做出能用的例子每个人对 Agent 的定义还不一样C. 实际成果如果将 Agent 定义为"能通过多步工具调用完成有用工作的 LLM 系统"，那它已经来了，而且非常实用。目前两大主流场景是：编程深度搜索"深度研究"模式（让 LLM 花 15 分钟以上生成详细报告）如今已式微，因为 GPT-5 Thinking 和 Google 的 AI Mode 能在几秒内给出类似质量的结果。3. 编码 Agent 与 Claude Code 之年A. Claude Code 发布2025 年 2 月，Anthropic 静悄悄地发布了 Claude Code，甚至没单独发博客，只是夹在 Claude 3.7 Sonnet 的公告里。B. 版本说明为什么从 3.5 跳到 3.7？因为 Anthropic 在 2024 年 10 月悄悄升级了 3.5，但没改名，社区只好把新版叫 3.6，结果官方直接跳过了这个数字。C. 产品特性Claude Code 是"编码 Agent"的代表：能写代码、执行、看结果、再迭代。D. 市场格局2025 年，各大厂纷纷推出自己的 CLI 编码 Agent：厂商产品：Claude CodeOpenAI 的 Codex CLIGoogle 的 Gemini CLI阿里的 Qwen CodeMistral 的 Mistral Vibe厂商中立选项：…

OpenRT：多模态大模型红队测试框架
type: item
date: 2026-01-16T01:27:54+00:00
description: OpenRT：多模态大模型红队测试框架一、概述1. 简介OpenRT 是一个开源的红队测试框架，专门用于评估多模态大语言模型的安全性。该项目由 AI45Lab 开发，集成了 37 种以上的攻击方法，覆盖黑盒和白盒测试场景。A. 核心特性模块化架构：基于插件的组件注册表，支持灵活组合和扩展。丰富的攻击方法：包含 37+ 种攻击技术，涵盖以下类别：白盒攻击：GCG、Visual Jailbreak黑盒优化与模糊：AutoDAN、GPTFuzzer、TreeAttack、SeqAR、RACE黑盒 LLM 驱动优化：PAIR、ReNeLLM、DrAttack、AutoDAN-Turbo黑盒语言与编码：CipherChat、CodeAttack、Multilingual、Jailbroken、ICAt、FlipAttack、MouseTrap、Prefill黑盒上下文欺骗：DeepInception、Crescendo、RedQueen、CoA黑盒多模态：FigStep、IDEATOR、HIMRD、Jailbreak、Multimodal、MMLE黑盒多智能体：ActorAttack、Rainbow Teaming、X-Teaming、EvoSynth多模态支持：同时支持文本和图像攻击向量。全面评估：关键词匹配和 LLM Judge 评估机制。配置驱动：使用 YAML 配置文件定义实验参数。2. 项目信息项目详情作者AI45Lab许可证AGPL-3.0论文arXiv:2601.01592项目主页https://ai45lab.github.io/OpenRT/GitHub Stars188+主要语言Python二、环境准备1. 系统要求Python 3.8+支持 OpenAI API 兼容接口2. 安装步骤方案一：从源码安装git clone https://github.com/AI45Lab/OpenRT.git cd OpenRT pip install -e .方案二：从 PyPI 安装pip install openrt3. 配置 API设置环境变量：export OPENAI_API_KEY="your-api-key" export OPENAI_BASE_URL="https://api.openai.com/v1" # 可选：自定义端点三、项目架构1. 目录结构graph TB Root[OpenRT/] --> Core[core/] Root --> Attacks[attacks/] Root --> Models[models/] Root --> Datasets[datasets/] Root --> Evaluators[evaluators/] Root --> Judges[judges/] Root --> Strategies[strategies/] Root --> Configs[configs/] Root --> Examples[examples/] Root --> Data[data/] Root --> Results[results/] Attacks --> Blackbox[blackbox/] Attacks --> Whitebox[whitebox/] Blackbox --> Opt[optimization/] Blackbox --> LLM[llm/] Blackbox --> Linguistic[linguistic/] Blackbox --> Contextual[contextual/] Blackbox --> Multimodal[multimodal/] Blackbox --> Multiagent[multiagent/] Core --> Orchestrator Core --> Registry核心组件说明：core/：核心框架，包含编排器和注册表attacks/：攻击方法实现blackbox/：黑盒攻击（35+ 种）whitebox/：白盒攻击（GCG、Visual）models/：模型抽象层datasets/：数据集管理evaluators/：评估器judges/：评判器strategies/：策略组件configs/：实验配置文件examples/：使用示例data/：测试数据results/：实验结果2. 工作流程sequenceDiagram participant U as 用户 participant C as Config participant O as Orchestrator participant A as Attack participant M as Target Model participant J a…

SiliconFlow 上线高速版 GLM-4.7 技术分析
type: item
date: 2026-01-15T11:42:03+00:00
description: SiliconFlow 上线高速版 GLM-4.7 技术分析一、新闻概述1. 标题硅基流动上线高速版 GLM-4.7：代码能力实测出色，支持缓存2. 发布时间2025 年 1 月 15 日3. 来源硅基流动 SiliconFlow 微信公众号二、核心内容1. 事件摘要A. 主要内容硅基流动 AI 云平台正式上线智谱最新开源的旗舰模型 GLM-4.7，这是智谱在代码生成领域的又一重要突破。B. 核心亮点在全球百万开发者参与的 Code Arena 盲测中获得开源第一、国产第一性能超越 GPT-5.2将深度推理融入代码生成全过程支持三种思考模式切换代码生成以任务交付为核心支持 198K 上下文和缓存命中功能2. 关键信息A. 版本信息GLM-4.7 高速版B. 重要数据Code Arena 盲测排名：开源第一、国产第一τ²-Bench 交互工具调用评测：87.4 分（开源 SOTA）HLE 推理基准成绩提升：41%PPT 16:9 适配率：从 52% 提升至 91%支持上下文长度：198K tokensC. 涉及产品GLM-4.7 模型硅基流动 AI 云平台Claude Code、TRAE、Kilo Code、Cline、Roo Code 等编程工具3. 背景介绍A. 前置版本GLM-4.6V（智谱视觉模型）已在硅基流动平台上线B. 相关上下文GLM-4.7 是智谱 AI 的旗舰开源模型，专注于代码生成和深度推理能力。硅基流动 AI 云致力于成为开发者首选的 Token 工厂，提供多样、高速、稳定且经济的大模型 API 服务。三、详细报道1. 主要内容A. 核心能力代码生成能力：在 Code Arena 盲测中超越 GPT-5.2深度推理：将推理过程融入代码生成任务导向：以任务交付为核心进行全流程思考审美提升：PPT、网页、海报生成质量显著提高工具调用：在 τ²-Bench 获得开源 SOTA 成绩综合推理：在 HLE 基准中超越 GPT-5.1B. 技术特性三种思考模式：交错式、保留式、轮级198K 超长上下文支持缓存命中功能，降低使用成本支持多种编程工具集成2. 技术细节A. 思考模式架构graph TB A[用户输入] --> B{任务复杂度判断} B -->|复杂任务| C[交错式思考] B -->|长程对话| D[保留式思考] B -->|简单查询| E[轮级思考] C --> F[深度推理 + 缓存] D --> F E --> G[快速响应] F --> H[输出结果] G --> HB. 代码生成流程sequenceDiagram participant U as 用户 participant M as GLM-4.7 participant R as 推理引擎 participant O as 输出生成器 U->>M: 提出编程任务 M->>R: 深度推理分析 R->>R: 理解意图 R->>R: 拆解方案 R->>R: 规划步骤 R->>O: 生成完整代码 O->>U: 返回可运行代码 + 依赖说明C. 性能指标对比能力维度GLM-4.7对比模型提升幅度Code Arena 排名开源第一超越 GPT-5.2排名超越τ²-Bench 工具调用87.4 分超越 Claude Sonnet 4.5开源 SOTAHLE 推理基准提升 41%超越 GPT-5.141% 提升PPT 16:9 适配率91%前代 52%39 个百分点D. 思考模式详解交错式思考模式：适用场景：复杂编程任务特点：保证每一步都经过深思熟虑优势：提高代码质量和准确性保留式思考模式：适用场景：长程对话特点：自动缓存历史推理过程优势：避免重复计算，节约成本轮级思考模式：适用场景：简单查询特点：关闭深度推理优势：更快响应速度3. 数据与事实A. 测试覆盖范围针对上百个涵盖前端、后端与指令遵循的实际场景测试B. 平台集成Claude CodeTRAEKilo CodeClineRoo CodeC. 平台生态硅基流动 AI 云已上架 DeepSeek、Qwen、Kimi、MiniMax、GLM 等百款热门模型，覆盖语言、图像、音频、视频、嵌入与重排序全任务场景。四、影响分析1. 行业影响A. 技术趋势国产大模型在代码生成领域达到国际领先水平深度推理与代码生成的融合成为发展方向思考模式切换成为大模型的新特性B. 竞争格局智谱 GLM 系列与 GPT、Claude 等国际模型直接竞争在代码生成领域已具备超越能力开源策略促进生态繁荣2. 用户影响A. 现有用户可直接在硅基流动平台调用 GLM-4.7支持缓存功能，降低使用成本198K 上下文支持更复杂的任务B. 潜在用户新用户可获得 14 元 / 1 美元赠金体验多款模型免费，实现 Token 自由仅需一个密钥即可…

中国AGI-Next前沿峰会技术分析：基模四杰论剑大模型未来
type: item
date: 2026-01-13T09:01:00+00:00
description: 中国AGI-Next前沿峰会技术分析：基模四杰论剑大模型未来一、峰会背景2025年初，清华大学基础模型北京市重点实验室发起AGI-Next前沿峰会，汇集了中国大模型领域四位领军人物：智谱唐杰、月之暗面杨植麟（Kimi）、阿里林俊旸（千问）、腾讯姚顺雨。这场"基模四杰"的论剑，信息密度极高，揭示了中国AGI发展的技术路径、范式变革与未来挑战。二、核心观点摘要唐杰（智谱）Chat范式已基本结束，下一步是从"对话"走向"做事"DeepSeek的出现标志着对话型模型的收敛强化学习可验证环境（RLVR）成为关键技术方向三类Scaling：数据与模型规模、推理、自学习环境杨植麟（Kimi）Transformer的核心优势在于Token EfficiencyMUON二阶优化器实现2倍Token效率提升Kimi Linear架构实现线性复杂度的长序列处理做模型本质是创造一种世界观（Taste）林俊旸（千问）中国想在AI赛道反超，概率约20%，已非常乐观多模态是智能体的必然方向Reasoning能力成为核心竞争力全模态模型（三进三出）是目标姚顺雨（腾讯）toC和toB发生明显分化toB场景智能越高，生产力越高toC场景大部分人用不着那么强的智能垂直整合vs模型应用分层三、技术发展脉络分析3.1 从Chat到Agent的范式转变唐杰在演讲中明确指出：DeepSeek横空出世后，Chat这一代问题基本已被解决。这迫使我们思考下一步方向。新的范式不再只是"对话"，而是让每个人真正用AI完成一件具体的事情。从Chat走向做事，是一个明显的转折点。当时摆在我们面前的，主要有两条思路：围绕Thinking能力，结合Coding与Agent让模型更深度地与环境交互，用AI直接辅助研究智谱最终优先选择了前一条路径，强化Thinking能力并引入Coding场景。graph TB subgraph "Chat范式" A1[问答] --> A2[对话] A2 --> A3[个性化] end subgraph "做事范式" B1[Thinking能力] --> B2[Coding能力] B2 --> B3[Agent能力] B3 --> B4[环境交互] end A3 --> B1 B4 --> B5[真实任务执行] style B5 fill:#90EE90 style A3 fill:#FFB6C13.2 Token Efficiency与长上下文杨植麟提出了两个核心优化方向：Token Efficiency：希望尽可能把曲线往左边平移，当越往左边移动时，Token Efficiency越高，意味着可以用尽可能少的Token得到一样的效果。Long Context：今天非常复杂的任务，必须在超长的Context下才能够完成。延长Context之后，Loss必然是下降，而且只有一个好的Agent才能下降得更多。Transformer相比LSTM的优势，核心在于Token Efficiency。在很短的Context下，Transformer并不是更好的架构。但是当Context非常长的时候，Transformer显著比LSTM更好。3.3 强化学习的新范式今年一个重要变化是RLVR（可验证强化学习）。过去强化学习难以大规模推进，核心原因在于依赖人类反馈，而人类反馈存在噪音大、覆盖场景有限的问题。如果引入可验证环境，模型就可以自主探索、自动获得反馈，在闭环中持续成长。但这里的难点也非常明显：所谓"可验证"，在数学、编程等领域相对容易定义；可一旦扩展到更广泛的任务，仍然需人工判断。3.4 多模态发展路径林俊旸指出：如果你想做一个智能的东西，天然的应该是Multimodal。人有眼睛和耳朵可以做更多的事情。但更多的考虑是Foundation有更多的生产力，能不能更好地帮助人类。理想的情况下，2022年设计的系统是中间有一个大脑，我们不知道那个大脑是什么东西，但是我们知道不同的模态和任务都应该进入到这个大脑，从这个大脑输出去，这个才是真正的想象当中的AGI。graph TD subgraph "输入模态" A1[文本] A2[视觉] A3[语音] end subgraph "统一大脑" B[Foundation Model/统一理解与生成] end subgraph "输出模态" C1[文本生成] C2[图像生成] C3[视频生成] C4[语音生成] end A1 --> B A2 --> B A3 --> B B --> C1 B --> C2 B --> C3 B --> C4 B --> D[AGI通用智能体] style B fill:#FFD700 style D fill:#98FB98四、技术架构演进graph LR subgraph "数据与模型" A1[…