近日，至知创新研究院（IQuest Research）公开了IQuest-Q1技术报告《IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems》，披露了这款320B开源模型在架构设计、规模化训练及Agent后训练等方面的技术细节。
报告涉及几组关键数据：29T Tokens、超过100万个可执行任务实例、512K上下文、1.93倍架构规模化效率，以及30项Benchmark结果。
这些技术设计共同指向一个问题：如何让Agent在复杂环境中持续、可靠地完成任务？
超过100万个可执行任务，模型训练如何避免“作弊”？
与代码生成相比，Agent任务中，模型需要处理更加复杂的执行过程。
读取文件、修改代码、运行测试、处理报错，每一步都可能改变环境状态。模型需要根据反馈调整操作，并持续推进任务。
为此，IQuest-Q1团队基于代码仓库和已有智能体轨迹，构建了超过100万个可执行、容器化的任务实例，覆盖软件工程、终端操作、代码测试、程序生成及网络安全等领域。
这些任务配套执行环境与验证方法，能够产生包含工具调用、环境反馈和执行结果的轨迹，为中期训练提供数据支持。
图：智能体训练任务与验证体系
但在强化学习中，任务能够执行，还需要确保奖励信号可靠。
针对Reward Hacking问题，团队建立了三层防护机制：训练前清理可能泄露答案的参考文件与代码历史，构建干净的训练环境；执行时限制对隐藏测试等资源的非授权访问；训练后结合规则检查和模型辅助审计，剔除确认存在作弊行为的执行轨迹。
这套机制旨在减少模型利用环境漏洞获取奖励的情况，使训练反馈更接近真实任务完成结果。
后训练阶段，IQuest-Q1还引入Claude Code、Codex等智能体执行框架，结合监督微调、强化学习和多教师在线策略蒸馏（MOPD）开展训练。
其中，四类专业教师模型分别面向终端交互、多框架适应、长程代码与网络安全，以及通用Agent任务，并通过模型融合整合不同方向的能力。
图：后训练流程
29T Tokens与1.93倍规模化效率，320B模型如何训练？
Agent的任务执行能力，也依赖基础模型的代码理解、长上下文处理和推理能力。
IQuest-Q1采用总参数320B、激活参数15B的MoE架构，包含88层Transformer。每个MoE层配置256个路由专家，每个Token激活其中8个。
模型结合分组查询注意力与滑动窗口注意力，中间层采用每3层滑动窗口注意力搭配1层全注意力的结构。
图：IQuest-Q1整体模型架构
在训练方面，IQuest-Q1的预训练与中期训练累计使用约29T Tokens。
预训练阶段，代码数据占比从40%逐步提升至70%；中期训练进一步引入推理问答和Agent执行轨迹，并分阶段将上下文长度扩展至512K Tokens。
针对大规模训练的效率与稳定性，团队采用Stable SplitNorm、Muon优化器及μP参数化等技术。
技术报告公布的一项受控架构对照实验显示，在相同训练数据条件下，与参照Qwen3-30B-A3B配置的MoE风格基线相比，IQuest-Q1架构达到相同训练损失所需的计算量约为基线的52%，对应1.93倍规模化效率。
图：规模化效率与稳定性实验
需要注意，这一结果来自架构对照实验，并不等同于完整320B模型的实际训练成本降低48%。
团队还提出Critical Model Size（CMS）指标，通过安全学习率与最优学习率之间的关系，研究模型规模化过程中的训练稳定性。
在推理效率方面，IQuest-Q1采用递归式多Token预测（Recursive MTP）机制，将预训练阶段使用的一个MTP层改造为递归草稿生成模块。
该模块通过复用相同参数生成多个候选Token，并结合较小窗口的滑动窗口注意力，控制长上下文下的草稿预测开销，为投机解码提供支持。
图：递归式多Token预测示意图
30项Benchmark，复杂工作流能力表现如何？
在上述训练体系基础上，IQuest-Q1技术报告公布了覆盖代码、软件工程、工具使用、复杂工作流及通用推理等方向的30项评测结果。
图：Benchmark成绩
其中，AutomationBench与τ³-Banking分别取得52.7和51.8分，均位居报告列示的对照模型首位。参与比较的模型包括Claude Opus 5、GPT-5.6 Sol等。
AutomationBench主要考察跨应用自动化能力，要求模型在不同系统间调用工具、管理状态并完成多步骤操作。
τ³-Banking则围绕银行业务场景，评估智能体对业务规则的理解、工具调用及多轮任务执行能力。
这类评测关注的不只是单次操作是否正确，还包括模型能否遵守约束，并将多个步骤整合为完整的任务结果。
在工具使用方面，IQuest-Q1在SkillsBench、MCP-Atlas和Toolathlon-Verified上分别取得74.1、78.4和75.0分。
在Claw-eval和IQuest-CLIBench上，模型分别取得77.1和53.7分。其中，IQuest-CLIBench是团队针对CLI Agent设计的内部评测，结合用户交互模拟、执行轨迹和环境状态检查，考察实际任务完成情况。
此外，模型在NL2Repo-Bench和CyberGym上的成绩分别为63.0和84.5分；BrowseComp、WideSearch和GPQA Diamond则分别达到85.5、81.8和93.3分。
整体来看，此次报告补充了IQuest-Q1在复杂工作流与工具交互方面的评测证据。但标准化测试仍无法完全反映开放环境中的任务复杂度，模型的执行稳定性与泛化能力仍需进一步验证。
从任务执行到研发辅助，Agent还有哪些可能？
除训练方法与评测结果外，报告还披露了一项智能体参与模型研发的实验。
针对长程任务中出现的35次工具调用错误，基于IQuest-Q1构建的智能体分析了6054次工具调用记录，发现部分训练数据集中于单一工具调用格式，且存在工具定义与参数不匹配的问题。
随后，智能体提出数据清洗与增强方案，并在研究人员审核后参与相关数据处理及训练配置准备。
这一案例展示了Agent辅助分析模型训练问题的可能性，关键研发决策和高成本实验仍由研究人员负责。
从报告中还可以观察到，IQuest-Q1的研发覆盖了从预训练、中期训练到后训练的完整流程，而不是微调其他模型而来。虽然是一条更具挑战性的路线，但也更具意义。
相关资料
技术报告：https://arxiv.org/abs/2610.30949
Blog：https://iquestlab.github.io/
Hugging Face：https://huggingface.co/IQuestLab/IQuest-Q1
GitHub：https://github.com/IQuestLab/IQuest-Q1
