运维123 - LLM
type: channel
link: https://www.sddts.cn/index.php/category/LLM/
description: LLM
items: Claude Code 2.0 完整指南与技术分析
items: GLM 4.7 Cerebras 迁移指南技术分析
items: 从 RAG 到 Agent Memory 的技术演进分析
items: 2025年LLM年度回顾技术分析
items: 2025 大语言模型年度回顾技术分析
items: CLAUDE.md 编写最佳实践技术分析
items: The Agentic Self：AI Agent 架构与自我提升方法的相似性分析
items: OpenRT：多模态大模型红队测试框架
items: HexStrike AI 自动化网络安全平台技术分析

Claude Code 2.0 完整指南与技术分析
type: item
date: 2026-01-17T16:04:26+00:00
description: Claude Code 2.0 完整指南与技术分析一、概述1. 简介A. 是什么Claude Code 是 Anthropic 官方推出的 CLI 工具，将 Claude 大语言模型的能力集成到命令行环境中。它不仅是一个编码助手，更是一个通用智能代理，可用于数据分析、文档处理、系统操作等多种任务。B. 为什么学提升编码效率：通过智能代理自动化完成重复性编码任务更快的反馈循环：Opus 4.5 模型速度和协作能力显著提升掌握前沿工具：Claude Code 已成为 CLI 编码产品的标杆，其他工具如 Codex、OpenCode 等都深受其影响技能可迁移：学习 Claude Code 的经验可直接应用到其他 AI 编码工具C. 学完能做什么熟练使用子代理进行代码库探索和任务执行理解并应用上下文工程技术优化 AI 代理性能创建自定义命令、钩子和技能以扩展 Claude Code 功能掌握 MCP 服务器集成实现外部工具连接2. 前置知识A. 必备技能基本 Linux/macOS 命令行操作了解软件开发生命周期对大语言模型基本概念的理解B. 推荐知识熟悉至少一种编程语言了解 Git 版本控制具备系统设计基础概念二、核心概念1. 基本术语上下文窗口（Context Window）：LLM 能够一次性查看和处理的最大令牌数量，类似于模型的工作记忆工具调用（Tool Calling）：LLM 执行特定操作的能力，如读取文件、搜索网络、运行命令等智能代理（Agent）：能够主动运行工具以实现目标的 LLM 系统上下文工程（Context Engineering）：在有限的上下文窗口中优化信息配置，以实现模型期望行为的技术2. 工作原理graph TB A[用户输入] --> B[主代理 Claude] B --> C{任务分析} C -->|简单任务| D[直接执行] C -->|复杂任务| E[Task Tool] E --> F[子代理 Explore] E --> G[子代理 Plan] E --> H[子代理 General-purpose] F --> I[工具调用 Glob/Grep/Read] G --> J[生成实施计划] H --> K[多步骤任务执行] I --> L[返回结果] J --> L K --> L L --> B B --> M[输出结果]三、Claude Code 2.0 新特性1. 生活质量改进A. 语法高亮2.0.71 版本引入的语法高亮功能显著提升了代码审查体验。高对比度的文本和粗体字重使代码差异更易阅读。B. 提示系统在模型思考过程中显示实用提示，帮助用户发现隐藏功能。虽然部分提示可能不适用于所有场景，但整体上提供了有价值的学习机会。C. 反馈 UI优雅的非侵入式反馈系统，允许用户通过数字键快速响应（1：差，2：一般，3：好）或按 0 忽略。D. 检查点功能Esc + Esc 或 /rewind 命令允许回滚到特定检查点，类似于 Cursor 的功能。可以同时回滚代码和对话。2. 核心功能增强A. 超级思考模式对于复杂任务，可以使用 /ultrathink 让 Opus 4.5 进行更严谨的推理，适用于解释复杂概念或自我审查代码变更。B. 提示建议（2.0.73）新增的提示建议功能预测相当准确，能够根据当前上下文提供相关的后续操作建议。C. 提示历史搜索Ctrl + R 可以搜索提示历史，类似终端的反向搜索功能，可跨项目全局对话搜索。D. 模糊文件搜索（2.0.72）文件建议速度提升 3 倍，支持模糊搜索。E. LSP 支持通过插件支持 LSP（语言服务器协议），提供更强大的代码智能感知。四、子代理系统1. 子代理类型Claude Code 提供多种预定义子代理，每个代理都有特定的用途和工具集。子代理类型用途可用工具上下文继承general-purpose复杂问题和多步骤任务全部工具是Explore快速代码库探索Glob、Grep、Read、有限 Bash否Plan软件架构设计和实施规划全部工具是claude-code-guideClaude Code 文档查询Glob、Grep、Read、WebFetch、WebSearch是statusline-setup状态栏配置Read、Edit是2. Explore 代理详解Explore 代理是只读文件搜索专家，专门用于快速浏览代码库。A. 核心特性严格只读模式：禁止创建、修改或删除文件高效文件查找：使用 glob 模式进行广泛文件匹配强大搜索能力：使用正则表达式搜索文件内容并行工具调用：通过并行 grep 和读取文件提高效率B. 使用场景快速定位文件：如查找所有 TypeScript React 组件代码关键词搜索：如查找 API 端点定义代码库问题…

GLM 4.7 Cerebras 迁移指南技术分析
type: item
date: 2026-01-17T13:56:26+00:00
description: GLM 4.7 Cerebras 迁移指南技术分析一、新闻概述1. 标题GLM 4.7：比 Sonnet 4.5 更智能且速度快 20 倍的开源模型2. 发布时间2026 年 1 月 8 日3. 来源Cerebras 官方博客二、核心内容1. 事件摘要A. 主要内容Cerebras 发布了 GLM 4.7 模型迁移指南，这是 Z.AI 推出的最新开源模型，号称在智能水平上超越 Claude Sonnet 4.5，同时速度提升 20 倍。B. 核心亮点首个在智能、速度和成本三个维度都达到优异水平的开源模型输出速度可达每秒 1500+ tokens在编码基准测试中超越 Anthropic 和 OpenAI 模型提供详细的迁移指南和最佳实践2. 关键信息A. 版本号GLM 4.7B. 重要数据总参数量：约 358B活跃参数：每 token 约 32B（MoE 路由）输出速度：最高 1500+ tokens/秒上下文长度：支持 131K tokens最大输出：约 40K tokensC. 涉及产品Cerebras Cloud、GLM 4.7 模型、Cerebras SDK3. 背景介绍A. 前置版本GLM 4.6 是上一代模型，GLM 4.7 在编码和通用能力上有显著提升，HLE 得分提升 12.4 分，Terminal Bench 2 得分提升 16.5 分。B. 相关上下文GLM 4.7 是首个能够与闭源巨头（如 Sonnet 4.5）竞争的开源模型，为开发者提供了无需受限于硬件瓶颈的选择。三、详细报道1. 主要内容A. 性能优势成本优势：GLM 4.7 比 Claude Sonnet 4.5 更经济实惠速度优势：在 Cerebras 上输出速度达 1500+ tokens/秒，比闭源竞品快 20 倍智能优势：在 τ²-Bench Telecom 上达到 96%，在 GPQA Diamond 上达到 86%B. 技术特性采用混合专家（MoE）架构专为编码、工具使用和代理工作流构建在 Cerebras 上处理输入/输出时不持久化数据，保护隐私C. 迁移必要性开发者从其他模型迁移到 GLM 4.7 时，需要调整提示词、架构和采样参数以充分发挥其优势。2. 技术细节A. 迁移架构模式graph TB A[开发者请求] --> B{任务复杂度判断} B -->|简单任务| C[GLM 4.7 快速处理] B -->|复杂任务| D[Frontier 模型规划] D --> E[GLM 4.7 执行] C --> F[返回结果] E --> F style C fill:#90EE90 style E fill:#90EE90 style D fill:#FFD700B. 多代理审查模式graph LR A[主代理生成输出] --> B[代码审查代理] A --> C[QA 专家代理] A --> D[安全审查代理] A --> E[性能审计代理] B --> F[验证通过] C --> F D --> F E --> F F --> G[继续主流程]C. 推理控制流程graph TD A[接收任务] --> B{任务类型} B -->|简单任务| C[禁用推理] B -->|复杂任务| D[启用推理] C --> E[直接输出] D --> F[逐步推理] F --> E C --> G[disable_reasoning: True] D --> H[disable_reasoning: False]3. 十大迁移规则A. 规则 1：前置关键指令GLM 4.7 对提示词开头有强烈偏向，所有强制性指令和行为指令应放在系统提示词的绝对开头。B. 规则 2：提供清晰直接的指令使用坚定、直接的语言，避免模糊和暗示性表述。使用 MUST 和 STRICTLY 等强指令词。C. 规则 3：指定默认语言在系统提示词中添加语言控制指令，如"始终用英语回复"，防止模型在输出中切换语言。D. 规则 4：利用角色扮演GLM 4.7 擅长维持和遵循角色与人格设定。为模型分配明确的人格，或创建多代理系统，每个代理具有自己的人格。E. 规则 5：分解任务GLM 4.7 每个提示词执行一次推理，不支持交错思考。将任务分解为小的、定义明确的子步骤。F. 规则 6：在不需要时禁用或最小化推理使用 disable_reasoning: True 参数禁用推理，设置 max_completion_tokens 控制输出长度，或在系统提示词中添加推理最小化指令。G. 规则 7：为复杂任务启用增强推理确保 disable_reasoning 设置为 False，在系统提示词中添加明确的推理指令，或使用思维链提示技术。H. 规则 8：使用批评者代理创建专门的子代理来审查和验证输出…

从 RAG 到 Agent Memory 的技术演进分析
type: item
date: 2026-01-17T02:20:38+00:00
description: 从 RAG 到 Agent Memory 的技术演进分析一、概述1. 背景随着 AI Agent 技术的发展，如何让 AI 系统具备持久化记忆能力成为关键问题。本文从第一性原理出发，分析从检索增强生成（RAG）到 Agentic RAG，再到 Agent Memory 的技术演进路径。2. 核心问题A. 问题定义传统大语言模型（LLM）是无状态的，其知识仅限于训练阶段的参数化知识。如何让 LLM 在推理过程中访问外部知识源，并实现持久化记忆？B. 解决思路演进RAG：一次性检索外部知识Agentic RAG：通过工具动态检索Agent Memory：通过工具读写实现持久化记忆3. 技术本质从本质上讲，RAG、Agentic RAG 和 Agent Memory 都是在解决同一个问题：如何在外部知识源（如文本文件或数据库）中创建、读取、更新和删除信息，并将其与 LLM 的上下文窗口进行交互。二、RAG：只读的一次性检索1. 核心概念检索增强生成（Retrieval-Augmented Generation，RAG）于 2020 年由 Lewis 等人提出，2023 年开始流行。它是首个让无状态 LLM 能够访问过去对话和训练时未见过的外部知识的概念。2. 工作原理A. 系统组成离线索引阶段：将文档存储到外部知识源（如向量数据库）在线查询阶段：根据用户查询检索相关上下文，结合查询一起输入 LLMB. 工作流程graph LR A[文档集合] -->|离线索引| B[向量数据库] C[用户查询] -->|生成embedding| D[相似度搜索] D -->|检索top-k| B B -->|返回相关上下文| E[LLM生成] C --> E E --> F[最终回答]C. 伪代码实现# Stage 1: Offline ingestion def store_documents(documents): for doc in documents: embedding = embed(doc) database.store(doc, embedding) # Stage 2: Online Retrieval + Generation def search(query): query_embedding = embed(query) results = database.similarity_search(query_embedding, top_k=5) return results def answer_question(question): # Always retrieve first, then generate context = search(question) prompt = f"Context: {context}\nQuestion: {question}\nAnswer:" response = llm.generate(prompt) return response3. 关键限制RAG 是一次性解决方案，存在以下局限：A. 盲目检索无论是否必要，都会从外部知识源检索额外信息B. 单次检索只检索一次，不考虑检索结果是否相关或正确C. 单一数据源所有额外信息来自同一个外部知识源D. 只读操作信息只能离线存储，推理时无法写入、修改或删除三、Agentic RAG：工具调用的只读检索1. 核心改进Agentic RAG 将检索步骤定义为 Agent 可以使用的工具，解决了 Naive RAG 的多个限制：A. 智能决策Agent 首先判断是否需要额外信息B. 工具选择决定使用哪个工具进行检索（如专有数据库 vs 网络搜索）C. 结果评估评估检索到的信息是否与用户查询相关2. 工作流程graph LR A[用户查询] --> B{Agent决策} B -->|需要检索| C[选择工具] C --> D[SearchTool] D --> E[向量数据库] D --> F[网络搜索] E --> G{评估结果} F --> G G -->|相关| H[LLM生成回答] G -->|不相关| C B -->|不需要| H H --> I[返回用户]3. 伪代码实现class SearchTool: def __init__(self, database): self.database = database def search(self, query): query_embedding = embed(query) results = self.database.similarity_search(query_embedding, top_k=5) return results def agent_loop(questio…

2025年LLM年度回顾技术分析
type: item
date: 2026-01-17T02:01:37+00:00
description: 2025 年 LLM 年度回顾技术分析一、新闻概述1. 标题2025：大语言模型之年2. 发布时间2025 年 12 月 31 日3. 来源Simon Willison's Weblog二、核心内容1. 事件摘要A. 主要内容Simon Willison 发布其第三份 LLM 年度回顾，系统梳理了 2025 年大语言模型领域的关键发展。文章涵盖了推理模型的兴起、智能代理的突破、编程工具的革新等 27 个主题。B. 核心亮点推理模型成为行业标准编程代理进入实用阶段中国开源模型异军突起Claude Code 实现十亿美元年化收入图像编辑能力显著提升2. 关键信息A. 文章系列2023 年 AI 相关发现总结2024 年 LLM 知识总结2025 年 LLM 年度回顾（本文）B. 主要主题数量27 个年度主题标签C. 涉及厂商OpenAI、Anthropic、Google、DeepSeek、阿里 Qwen、月之暗面等三、详细报道1. 推理模型的崛起A. 技术背景OpenAI 于 2024 年 9 月推出 o1 和 o1-mini，开启了推理模型时代。2025 年初，OpenAI 继续推出 o3、o3-mini 和 o4-mini，推理能力迅速成为各大 AI 实验室的标配功能。B. 技术原理Andrej Karpathy 的解释揭示了这一技术的本质：通过在可验证奖励环境（如数学/代码谜题）中训练 LLM，模型会自发发展出类似推理的策略。模型学会将问题分解为中间计算步骤，并掌握多种问题解决策略。这种方法提供了极高的能力成本比，大量算力从预训练转向推理训练。C. 实际应用价值推理模型的真正价值体现在工具调用能力上：多步骤任务规划执行后根据结果调整策略持续推理优化方案D. 应用场景AI 辅助搜索的实际可用性得到验证。即使是复杂的研究问题，GPT-5 Thinking 模式也能有效应对。推理模型在代码生成和调试方面表现卓越：从错误出发追溯根本原因分析大型复杂代码库逐步诊断棘手 bug2. 智能代理元年A. 定义确立Simon Willison 在年初预测智能代理不会实现，原因是易受骗问题和科幻式的期望过于不切实际。到 9 月，他将智能代理定义为：通过循环运行工具来实现目标的 LLM 系统。B. 两大突破领域深度研究模式：让 LLM 收集信息并生成详细报告，前期流行但后期被更高效的 GPT-5 Thinking 替代。编程代理模式：影响更为重大。3. 编程代理与 Claude CodeA. Claude Code 的里程碑2025 年 2 月，Anthropic 悄然发布 Claude Code，仅作为 Claude 3.7 Sonnet 公告的第二项内容。Claude Code 是编程代理的典型代表：LLM 系统可以编写代码、执行代码、检查结果并继续迭代。B. 行业产品矩阵主要厂商的 CLI 编程代理：Claude Code（Anthropic）Codex CLI（OpenAI）Gemini CLI（Google）Qwen Code（阿里）Mistral Vibe第三方工具：GitHub Copilot CLIAmpOpenCodeOpenHands CLIPiC. 异步编程代理2025 年 5 月，OpenAI 推出 Codex Cloud，Google 推出 Jules。异步编程代理的特点：云端执行，无本地安全风险可同时发起多个任务特别适合手机使用场景D. 商业成功截至 2025 年 12 月 2 日，Claude Code 实现十亿美元年化收入。4. 命令行 LLM 工具的突破A. 开发者习惯转变Claude Code 等工具证明，在足够强大的模型和适当工具支持下，开发者会拥抱命令行 LLM 工具。B. 技术障碍消除复杂的命令行工具（sed、ffmpeg、bash）不再成为障碍，LLM 可以直接生成正确的命令。5. YOLO 模式与偏差常态化A. 默认安全机制大多数编程代理默认会请求用户确认每个操作，原因是：可能误删除整个用户目录提示注入攻击可能窃取凭据B. YOLO 模式的诱惑自动确认模式（YOLO）让体验完全不同。C. 安全隐患Johann Rehberger 在《AI 中的偏差常态化》中提出警告：重复暴露于风险行为而无负面后果，会使人认为这种风险行为是正常的。这与 1986 年挑战者号灾难的原因相同：多次成功发射让 NASA 停止认真对待 O 型圈缺陷风险。6. 订阅定价的跃升A. 新价格锚点ChatGPT Plus 原价 20 美元/月是基于 Discord 调查的临时决定。2025 年新定价标准：Claude Pro Max：200 美元/月ChatGPT Pro：200 美元/月Google AI Ultra：249 美元/…

2025 大语言模型年度回顾技术分析
type: item
date: 2026-01-17T01:51:23+00:00
description: 2025 大语言模型年度回顾技术分析一、新闻概述1. 标题2025 大语言模型年度回顾2. 发布时间2026 年 1 月 16 日3. 来源翻译整理自 Simon Willison's Weblog 的《2025: The year in LLMs》，由 Tw93 (@HiTw93) 翻译并整理二、核心内容1. 事件摘要A. 主要内容本文是对大语言模型（LLM）领域 2025 年度发展的全面回顾，总结了过去 12 个月中发生的所有重要事件和趋势。这是 Simon Willison 对 LLM 领域的第三篇年度回顾文章。B. 核心亮点推理模型成为主流，OpenAI 的 o 系列、Google 的 Gemini 等纷纷推出推理能力Agent 从概念走向实用，编码 Agent 和深度搜索成为两大主流场景中国开源模型全面崛起，占据排行榜前列Claude Code 年化收入达 10 亿美元新定价标杆出现，200 美元/月的高端订阅服务2. 关键信息A. 涉及技术推理模型（RLVR：基于可验证奖励的强化学习）Agent 系统编码 Agent图像生成与编辑开源模型B. 重要数据Claude Code 年化收入：10 亿美元METR 研究：AI 能处理的任务长度每 7 个月翻倍Artificial Analysis 开源模型排行榜前五全是国产模型OpenAI 图像编辑功能上线一周新增 1 亿用户3. 背景介绍A. 历史回顾这是第三篇年度回顾，前两年的回顾包括：2023 年我们搞懂了哪些 AI 事情2024 年我们在 LLM 上学到的东西B. 相关上下文2025 年充满了各种趋势，有些相互交织，有些则彻底改变了我们使用和构建 AI 的方式。三、详细报道1. 推理之年A. 技术突破2024 年 9 月，OpenAI 通过 o1 和 o1-mini 拉开了推理（也叫基于可验证奖励的强化学习 RLVR）模型的序幕。2025 年初，他们又接连推出 o3、o3-mini 和 o4-mini，将这一能力推向主流。B. 技术原理Andrej Karpathy 对此有个精辟解释：通过在大量可自动验证奖励的环境中（比如数学题或编程谜题）训练 LLM，模型会自发发展出人类看起来像"推理"的策略，比如把问题拆解成中间步骤，来回尝试不同解法。RLVR 的性价比极高，以至于原本用于预训练的算力被大量转投于此。因此，2025 年的能力进步主要来自更长的 RL 训练，而非更大的模型规模。C. 应用场景推理模型的主要应用价值：AI 辅助搜索：GPT-5 Thinking 等系统能高效回答复杂的调研问题代码生成和调试：能从错误出发，逐层深入大型代码库定位根本原因工具驱动：能规划多步任务、执行、观察结果并动态调整计划D. 技术架构graph LR A[可验证奖励环境] -->|强化学习训练| B[推理模型] B -->|能力提升| C[多步任务规划] B -->|能力提升| D[工具调用] C --> E[AI 搜索] C --> F[代码调试] D --> G[Agent 系统]2. Agent 之年A. Agent 定义到了 9 月，作者给出了自己的定义：Agent 就是能通过循环调用工具来达成目标的 LLM 系统B. 发展历程年初作者曾预测 Agent 不会真正落地，因为：2024 年大家嘴上都在说 Agent，但几乎没人做出能用的例子每个人对 Agent 的定义还不一样C. 实际成果如果将 Agent 定义为"能通过多步工具调用完成有用工作的 LLM 系统"，那它已经来了，而且非常实用。目前两大主流场景是：编程深度搜索"深度研究"模式（让 LLM 花 15 分钟以上生成详细报告）如今已式微，因为 GPT-5 Thinking 和 Google 的 AI Mode 能在几秒内给出类似质量的结果。3. 编码 Agent 与 Claude Code 之年A. Claude Code 发布2025 年 2 月，Anthropic 静悄悄地发布了 Claude Code，甚至没单独发博客，只是夹在 Claude 3.7 Sonnet 的公告里。B. 版本说明为什么从 3.5 跳到 3.7？因为 Anthropic 在 2024 年 10 月悄悄升级了 3.5，但没改名，社区只好把新版叫 3.6，结果官方直接跳过了这个数字。C. 产品特性Claude Code 是"编码 Agent"的代表：能写代码、执行、看结果、再迭代。D. 市场格局2025 年，各大厂纷纷推出自己的 CLI 编码 Agent：厂商产品：Claude CodeOpenAI 的 Codex CLIGoogle 的 Gemini CLI阿里的 Qwen CodeMistral 的 Mistral Vibe厂商中立选项：…

CLAUDE.md 编写最佳实践技术分析
type: item
date: 2026-01-16T08:03:04+00:00
description: CLAUDE.md 编写最佳实践技术分析一、概述1. 简介A. 是什么CLAUDE.md 是 Claude Code 的高杠杆配置点，也是每个会话中默认注入的唯一文件。学习如何编写高质量的 CLAUDE.md（或 AGENTS.md）是代理驱动软件工程的关键技能。B. 为什么重要LLM 是无状态函数，每个会话开始时对代码库一无所知CLAUDE.md 是让 Claude 了解代码库的主要方式编写质量直接影响 AI 代理的工作效率C. 学完能做什么编写简洁有效的 CLAUDE.md 文件使用渐进式信息披露原则优化上下文避免常见陷阱，最大化 Claude Code 的效能2. 核心原理LLM 的权重在推理时被冻结，不会随时间学习。模型对代码库的了解完全取决于输入的 token。因此：每次会话开始时，编码代理对代码库一无所知必须在每次会话中告诉代理重要信息CLAUDE.md 是实现这一目标的首选方式二、LLM 的无状态特性1. 无状态函数LLM 是无状态的，模型权重在推理时冻结。这意味着：模型不会跨会话学习每个会话都是独立的所有知识必须通过上下文提供2. 代理记忆管理编码代理框架（如 Claude Code）通常需要显式管理代理记忆。CLAUDE.md 是默认进入每个对话的唯一文件。graph LR A[新会话开始] --> B[CLAUDE.md 注入] B --> C[系统提示加载] C --> D[用户消息] D --> E[代理生成响应] E --> F[会话结束] F --> A3. 三层含义代理在每次会话开始时对代码库一无所知必须在每次会话开始时告诉代理代码库的重要信息CLAUDE.md 是实现这一目标的首选方式三、CLAUDE.md 的核心作用1. 代码库入职引导CLAUDE.md 应该将 Claude 接入代码库，高层面上应覆盖：WHAT：技术栈、项目结构、代码库地图WHY：项目目的、各部分功能HOW：工作方式、验证方法、测试运行2. 内容组成mindmap root((CLAUDE.md)) WHAT 技术栈 项目结构 代码库地图 monorepo 布局 WHY 项目目的 各部分功能 设计意图 HOW 运行命令 测试方法 类型检查 编译步骤 验证变更3. 编写原则不要试图将所有可能需要的命令都塞进 CLAUDE.md，这会导致次优结果。四、Claude 对 CLAUDE.md 的处理机制1. 系统提醒包装Claude Code 在系统提醒中包装 CLAUDE.md 内容：<system-reminder> IMPORTANT: this context may or or may not be relevant to your tasks. You should not respond to this context unless it is highly relevant to your task. </system-reminder>2. 忽略机制当 Claude 认为 CLAUDE.md 内容与当前任务不相关时，会忽略这些内容。文件中不普遍适用的信息越多，Claude 越可能忽略指令。3. 设计原因许多用户将 CLAUDE.md 作为添加行为热修复的方式，附加了大量不普遍适用的指令。通过告诉 Claude 忽略不良指令，框架实际上产生更好的结果。五、编写高质量 CLAUDE.md 的原则1. 少即是多A. 指令跟随能力研究前沿思考型 LLM 可以合理跟随约 150-200 条指令较小模型的能力衰减更快，呈现指数级衰减较大模型呈现线性衰减B. 注意力偏向LLM 倾向于关注提示边缘的指令：最开始：Claude Code 系统消息和 CLAUDE.md最结尾：最近的用户消息C. 指令数量影响随着指令数量增加，指令跟随质量均匀下降。模型不会只忽略新指令，而是开始均匀忽略所有指令。graph XY x-axis["指令数量"] --> 0 --> 50 --> 100 --> 150 --> 200 --> 250 y-axis["指令跟随质量"] --> 0.0 --> 0.2 --> 0.4 --> 0.6 --> 0.8 --> 1.0 line["小模型（指数衰减）"] : [0, 1.0] : [50, 0.6] : [100, 0.3] : [150, 0.1] : [200, 0.05] : [250, 0.02] line["大模型（线性衰减）"] : [0, 1.0] : [50, 0.85] : [100, 0.7] : [150, 0.55] : [200, 0.4] : [250, 0.25]D. Claude Code 系统提示Claude Code 的系统提示包含约 50 条独立指令，这已接近…

The Agentic Self：AI Agent 架构与自我提升方法的相似性分析
type: item
date: 2026-01-16T06:18:24+00:00
description: The Agentic Self：AI Agent 架构与自我提升方法的相似性分析一、新闻概述1. 标题The Agentic Self：AI Agent 架构与自我提升方法的相似性分析2. 发布时间2026 年 1 月 2 日3. 来源Murat Demirbas 博客（Metadata）二、核心内容1. 事件摘要A. 主要内容这是一篇关于 AI Agent 架构设计的观察性文章，作者发现 AI Agent 的工程技巧与人类自我提升的建议有着惊人的相似性。B. 核心亮点AI Agent 的三大核心习惯与人类自我提升方法高度一致写作、自我对话、角色扮演是智能的关键这些简单习惯构成了推理的核心机制2. 关键信息A. 核心观点2025 年是 Agent 之年，AGI 的目标已经转移，我们不再要求 AI 仅仅"对话"，而是要求它"行动"。B. 三大核心习惯写下来（Writing things down）自我对话循环（Talking to yourself in a loop）扮演他人（Pretending to be someone else）C. 涉及技术领域大语言模型（LLM）AI Agent 系统多智能体系统上下文窗口管理三、详细报道1. 主要内容A. 写作的非凡有效性文章引用了图灵奖得主 Manuel Blum 教授在《给研究生新生的建议》中的观点："没有写作，你只是一个有限自动机。有了写作，你就拥有了图灵机的非凡力量。"核心原理：人类工作记忆有限，类似有限自动机写作将记忆卸载到纸上，形成外部存储通过外部化内部状态，可以从简单的模式匹配器进化为强大的思考者在 AI Agent 中的应用：LLM 的上下文窗口有限，有效注意力范围受限解决方案：给 Agent 提供草稿纸强制 AI 在执行代码前先写下计划提供内存缓冲区存储事实供后续使用本质上是要求 AI 做笔记graph LR A[有限上下文窗口] -->|需要扩展| B[外部记忆系统] B --> C[草稿纸/计划] B --> D[内存缓冲区] C --> E[复杂问题解决] D --> E E --> F[鲁棒思考者]B. 思考就是自我对话循环历史背景：长期以来，LLM 被视为简单的输入输出机器DeepSeek 通过在模型回答前暂停，提示它先"思考"，改变了这一范式对计算机而言，"思考"意味着生成对用户隐藏的文本：内部独白核心引言："写作是自然界让你知道你的思考有多草率的方式" —— Guindon"如果不写作就思考，你只是以为自己在思考" —— Leslie LamportAgent 循环机制：graph TD A[开始] --> B[行动/写作] B --> C[推理] C --> D{检查} D -->|需要改进| B D -->|满意| E[完成] C --> F[自我提问] F --> G["我应该检查这个假设吗?"] F --> H["这看起来不对,让我再试一次"] G --> C H --> B思考不是一个瞬时的过程，而是一个循环。Agent 通过与自己对话，将复杂问题分解为可管理的部分。C. 角色扮演：第二自我效应理论来源：文章提到《The Alter Ego Effect》这本书，其核心思想是采用一个人设可以释放隐藏的能力。通过进入特定角色，你可以绕过自己的抑制，触发一套定义的行为。实际案例：碧昂丝在舞台上有"Sasha Fierce"大多数运动员有他们的"比赛面孔"在 AI Agent 中的应用：这种技术被称为"角色提示"（Role Prompting）或"多智能体系统"（Multi-Agent Systems）。具体实践：让单个 AI"编写代码"可能只能做得中等水平但如果分配：一个 AI 担任"架构师"规划代码一个 AI 担任"工程师"编写代码一个 AI 担任"评论家"审查代码结果会呈指数级提升技术原理：这些人设不仅仅是戏剧效果，它们是归纳偏置。它们约束了搜索空间。就像采用"严格编辑"的人设帮助作家删减废话一样，给 AI 分配"调试器"的角色会迫使它寻找错误，而不仅仅是生成文本。Advisor 模型：Advisor 模型作为元思考者。它们不直接执行任务，而是监控其他 Agent，标记风险，指导决策。在编码中，Advisor 可能警告架构师设计有风险，或引导工程师远离易错代码。通过提供这种高级监督，Advisor 让 Agent 能够专注于即时任务，同时保持长期目标，使多智能体系统更具战略性。graph TB subgraph 多智能体系统 A[架构师] -->|规划| B[工程师] B -->|编写| C[代码] D[评论家] -->|审查| C E[Advisor] -->|监控| A E -->|指导| B E -->|风险评估| D end C …

OpenRT：多模态大模型红队测试框架
type: item
date: 2026-01-16T01:27:54+00:00
description: OpenRT：多模态大模型红队测试框架一、概述1. 简介OpenRT 是一个开源的红队测试框架，专门用于评估多模态大语言模型的安全性。该项目由 AI45Lab 开发，集成了 37 种以上的攻击方法，覆盖黑盒和白盒测试场景。A. 核心特性模块化架构：基于插件的组件注册表，支持灵活组合和扩展。丰富的攻击方法：包含 37+ 种攻击技术，涵盖以下类别：白盒攻击：GCG、Visual Jailbreak黑盒优化与模糊：AutoDAN、GPTFuzzer、TreeAttack、SeqAR、RACE黑盒 LLM 驱动优化：PAIR、ReNeLLM、DrAttack、AutoDAN-Turbo黑盒语言与编码：CipherChat、CodeAttack、Multilingual、Jailbroken、ICAt、FlipAttack、MouseTrap、Prefill黑盒上下文欺骗：DeepInception、Crescendo、RedQueen、CoA黑盒多模态：FigStep、IDEATOR、HIMRD、Jailbreak、Multimodal、MMLE黑盒多智能体：ActorAttack、Rainbow Teaming、X-Teaming、EvoSynth多模态支持：同时支持文本和图像攻击向量。全面评估：关键词匹配和 LLM Judge 评估机制。配置驱动：使用 YAML 配置文件定义实验参数。2. 项目信息项目详情作者AI45Lab许可证AGPL-3.0论文arXiv:2601.01592项目主页https://ai45lab.github.io/OpenRT/GitHub Stars188+主要语言Python二、环境准备1. 系统要求Python 3.8+支持 OpenAI API 兼容接口2. 安装步骤方案一：从源码安装git clone https://github.com/AI45Lab/OpenRT.git cd OpenRT pip install -e .方案二：从 PyPI 安装pip install openrt3. 配置 API设置环境变量：export OPENAI_API_KEY="your-api-key" export OPENAI_BASE_URL="https://api.openai.com/v1" # 可选：自定义端点三、项目架构1. 目录结构graph TB Root[OpenRT/] --> Core[core/] Root --> Attacks[attacks/] Root --> Models[models/] Root --> Datasets[datasets/] Root --> Evaluators[evaluators/] Root --> Judges[judges/] Root --> Strategies[strategies/] Root --> Configs[configs/] Root --> Examples[examples/] Root --> Data[data/] Root --> Results[results/] Attacks --> Blackbox[blackbox/] Attacks --> Whitebox[whitebox/] Blackbox --> Opt[optimization/] Blackbox --> LLM[llm/] Blackbox --> Linguistic[linguistic/] Blackbox --> Contextual[contextual/] Blackbox --> Multimodal[multimodal/] Blackbox --> Multiagent[multiagent/] Core --> Orchestrator Core --> Registry核心组件说明：core/：核心框架，包含编排器和注册表attacks/：攻击方法实现blackbox/：黑盒攻击（35+ 种）whitebox/：白盒攻击（GCG、Visual）models/：模型抽象层datasets/：数据集管理evaluators/：评估器judges/：评判器strategies/：策略组件configs/：实验配置文件examples/：使用示例data/：测试数据results/：实验结果2. 工作流程sequenceDiagram participant U as 用户 participant C as Config participant O as Orchestrator participant A as Attack participant M as Target Model participant J a…

HexStrike AI 自动化网络安全平台技术分析
type: item
date: 2026-01-15T09:33:38+00:00
description: HexStrike AI 自动化网络安全平台技术分析一、新闻概述1. 标题HexStrike AI：基于 LLM 的自动化网络安全渗透测试框架2. 发布时间2025 年 1 月（项目持续更新中）3. 来源GitHub 开源项目 0x4m4/hexstrike-ai二、核心内容1. 事件摘要A. 主要内容HexStrike AI 是一个创新的开源网络安全工具，将大语言模型（LLM）与自动化渗透测试技术相结合，为安全研究人员和红队提供智能化攻击面发现和漏洞利用能力。B. 核心亮点集成多种主流 LLM（GPT-4o、Claude 3.5 Sonnet、DeepSeek）自动化攻击链编排与执行模块化插件架构支持扩展交互式 CLI 界面提升易用性内置报告生成功能2. 关键信息A. 版本状态活跃开发中，开源项目B. 技术栈后端：Python 3.10+AI 引擎：多 LLM 支持工具集成：Nmap、Metasploit、Nuclei、SQLmapC. 应用场景自动化渗透测试攻击面发现漏洞验证安全评估3. 背景介绍A. 项目定位HexStrike AI 旨在通过 AI 技术降低渗透测试门槛，提高安全评估效率。B. 相关上下文随着 AI 技术发展，网络安全领域开始探索 LLM 在自动化攻击和防御中的应用，HexStrike AI 是这一趋势的典型代表。三、详细报道1. 主要内容A. 功能特性多 LLM 支持：OpenAI GPT-4oAnthropic Claude 3.5 SonnetDeepSeek V3可扩展至其他兼容 API自动化攻击链：自动信息收集漏洞扫描攻击路径规划自动化利用模块化设计：插件系统支持自定义工具工作流可编程配置灵活B. 技术改进智能决策引擎：基于 LLM 的决策系统，能够：分析目标环境选择合适的攻击工具动态调整攻击策略处理异常情况工具集成：Nmap：端口扫描和服务识别Metasploit：漏洞利用框架Nuclei：基于模板的漏洞扫描SQLmap：SQL 注入检测C. 安装与使用环境要求：Python 3.10 或更高版本API 密钥（至少一个 LLM 提供商）依赖安全工具（可选）快速开始：git clone https://github.com/0x4m4/hexstrike-ai cd hexstrike-ai pip install -r requirements.txt cp .env.example .env # 配置 API 密钥 python main.py2. 技术细节A. 系统架构graph TB User[用户] --> CLI[CLI 界面] CLI --> Core[核心引擎] Core --> LLM[LLM 决策模块] Core --> Planner[攻击规划器] Core --> Executor[执行器] LLM --> GPT[GPT-4o] LLM --> Claude[Claude 3.5] LLM --> DeepSeek[DeepSeek V3] Executor --> Tools[工具集成] Tools --> Nmap[Nmap] Tools --> Metasploit[Metasploit] Tools --> Nuclei[Nuclei] Tools --> SQLmap[SQLmap] Planner --> Knowledge[知识库] Executor --> Reporter[报告生成] Reporter --> UserB. 工作流程sequenceDiagram participant U as 用户 participant C as CLI participant L as LLM 引擎 participant P as 规划器 participant E as 执行器 participant T as 工具集 U->>C: 输入目标 C->>L: 请求分析 L->>P: 生成攻击计划 P->>E: 执行指令 E->>T: 调用工具 T-->>E: 返回结果 E->>L: 结果分析 L->>P: 调整策略 P->>E: 继续执行 E-->>C: 进度更新 C-->>U: 显示状态 E-->>C: 最终报告 C-->>U: 输出报告C. 核心模块LLM 决策模块：自然语言理解攻击策略生成结果分析与评估异常处理攻击规划器：目标分析攻击路径规划依赖关系管理风险评估执行引擎：工具调用封装并发任务管理超时控制错误处理报告生成器：Markdown 格式输出漏洞详情记录修复建议执行日志3. 数据与事实A. 支持的工具工具类型用途Nmap扫描端口扫描、服务识别Metasploit利用漏洞利用框架Nuclei扫描基于模板的漏洞扫描SQLmap利用SQL 注入检测与利用…