从 ReAct 到 CodeAct:Agent 为什么开始用代码编排工具
结合 CS329Z 第 06 讲梳理 Agent 的工作流、推理行动模式和上下文管理,重点分析 CodeAct 与 ReAct、Pi Codemode、MCP 直接工具调用的关系,并补上 Pi 从拒绝内置 MCP 到 0.99/1.0 接纳 MCP 的版本变化。
围绕 Java 运行时、低成本大模型推理和 Agent 工程,按学习顺序整理已有文章。
从类加载、Java Agent 和 Javassist 进入字节码增强,最后串联到 ByteKit 与 Arthas。
按顺序阅读从本地部署、量化和 KV Cache 参数入手,逐步理解显存占用、GPU Offload 与 MoE 专家缓存。
按顺序阅读从 Agent 开发框架和工具系统出发,理解循环、上下文、工具调用、Subagent 与 MCP 的工程实现。
按顺序阅读结合 CS329Z 第 06 讲梳理 Agent 的工作流、推理行动模式和上下文管理,重点分析 CodeAct 与 ReAct、Pi Codemode、MCP 直接工具调用的关系,并补上 Pi 从拒绝内置 MCP 到 0.99/1.0 接纳 MCP 的版本变化。
在 16GB 显存的 RTX 5060 Ti 上运行 16.46GB 的 Qwen3.8-27B-UD-Q4_K_M.gguf,通过只把 682MB 词嵌入表留在内存、全量锁定 64 层主干与 1.04GB 输出头驻留显存,并针对 757 个解码算子完成 5 项底层 CUDA 手术,在贪婪采样 Token 序列与 Logits 逐位对齐的前提下,将单并发解码速度推到 24.94 tok/s,超过同配置的 llama.cpp。
结合 Remote Codex 0.1.0 源码,拆解手机 PWA、零依赖 Node.js 桥接层、Codex app-server 与 Cloudflare Quick Tunnel 的分层设计,说明双向 JSON-RPC、方法白名单、配对令牌与双模事件通道的实现和取舍。
以 Java 金额比较测试修复为例,沿 DeepSeek Harness 固定版本源码拆解流式工具调用、有序提交、Session 可见消息与压缩,以及中断恢复中的结果未知,理解 Agent 怎样形成可检查的执行闭环。
看完 6GB 和 8GB 显存用 FreeToken 跑 35B MoE 模型之后,很多人的第一反应是能不能用同样的专家缓存思路跑 Qwen3.8-27B 这种稠密模型。这篇聊聊为什么 FreeToken 和 Strata 的稀疏 MoE 缓存在稠密模型上会失效,以及单卡 16GB 显存下围绕显存规划、GGUF 混合量化原位 GEMV 和单流执行所做的工程实践。