首页 / 资讯中心 / 文章详情

SIQ-1-35B性能实测:GPQA钻石级70.2分,3158 tokens解决复杂推理

SIQ-1-35B性能实测:GPQA钻石级70.2分,3158 tokens解决复杂推理 ★ FEATURED ARTICLE
SIQ-1-35B性能实测GPQA钻石级70.2分3158 tokens解决复杂推理SIQ-1-35B是一款强大的通用AI模型作为精简的MoE架构总参数35B每token仅激活约3B在复杂推理任务中表现卓越GPQA钻石级测试中获得70.2分的优异成绩同时以平均3158 tokens的高效表现解决复杂推理问题为用户提供精准且经济的AI推理能力。模型概述精简架构下的强大性能SIQ-1-35B基于Qwen/Qwen3.6-35B-A3B进行微调虽然总参数达到35B但通过MoE架构设计每token仅激活约3B参数在保持高性能的同时有效降低了计算资源消耗。该模型在自动研究autoresearch、代码编写与调试、工具使用/智能体工作流以及复杂推理等任务中均表现出色能够与更大规模的模型相媲美甚至在核心推理、抗谄媚性和智能体编码方面超越部分大模型同时还具有更低的token成本优势。图SIQ-1-35B模型标识展示了其self-improving qwen的核心特性GPQA钻石级测试表现70.2分与3158 tokens的高效平衡在包含198个问题的完整GPQA钻石级测试中所有模型均以Q4_K_M GGUF格式、贪婪采样temp 0和相同的测试框架进行评估。结果显示SIQ-1-tiny-35b表现出帕累托最优不仅准确率最高而且使用的tokens最少。这款仅激活3B参数的模型在性能上超过了完整的35B基础模型和Nex-N2-mini同时每个问题花费的tokens更少。具体数据如下GPQA-DiamondQ4共同测量70.2分平均每问题tokens3158个这一成绩充分证明了SIQ-1-35B在复杂推理任务中的高效性和精准性能够在保证推理质量的同时有效控制token消耗为用户节省成本。抗谄媚性测试BullshitBench v2结果分析SIQ-1-35B在BullshitBench v2测试中也表现出色该测试主要评估模型对错误信息的抵制能力pushback和谄媚性sycophancy。评分范围为0-2分明确抵制2分/部分抵制1分/接受0分评估 panel 由 claude-sonnet-4.6、gpt-5.2 和 gemini-3.1-pro 组成取平均值评判仅基于最终答案去除CoT无系统提示temp 0.7。图BullshitBench v2测试中各模型的平均得分对比展示了SIQ-1-tiny-35b的抗谄媚性表现测试结果显示SIQ-1-tiny-35bhigh/think模式的平均得分为1.047与Nex-N2-Profree的1.040分基本持平但两者表现出不同的特点SIQ的结果更为两极分化45次清晰揭露错误38次完全接受而Nex则更为犹豫很少完全接受但也很少强烈抵制大多为部分抵制。作为参考在官方的bullshit-benchmark中不同paneln55非共同测量Opus 4.8约为1.96分GPT-5.5约为0.92分。推理模式与系统提示灵活适应不同任务需求SIQ-1-35B采用Qwen3格式的混合推理可通过chat_template_kwargs.enable_thinking参数根据请求进行切换主要包括以下两种模式模式切换方式行为适用场景Thinkingenable_thinking: true默认先输出/think … /think思考过程然后给出答案复杂推理、数学运算、智能体规划No-thinkenable_thinking: false直接回答指令跟随、高吞吐量任务推理努力程度是可训练控制的在系统提示中设置Reasoning effort: low | medium | high可以调整推理链长度high适用于复杂推理。对于客观推理建议使用贪婪采样temp 0其性能比temp 0.7高出约8个百分点。以下是一些常用的系统提示示例1. 复杂推理贪婪采样高努力程度Reasoning effort: high. Think step by step inside RichMediaReference.../RichMediaReference, then give the final answer.2. 自动研究构思器提出train.py编辑以降低val_bpbReasoning effort: high. You are an autoresearch ideator. Given the current train.py and its measured val_bpb under a fixed compute budget, propose ONE concrete, high-impact edit that should reduce val_bpb. Reason inside RichMediaReference...superscript:, then output: - a one-line hypothesis, - the edit as a minimal unified diff, - the expected effect and how to verify it.3. 快速/指令跟随无思考过程(no system prompt; set enable_thinkingfalse — the model answers directly, no RichMediaReference block)使用指南多种部署方式任你选择1. 快速试用无需安装可直接访问托管的ZeroGPU演示AlexWortega/hermes-agent-zerogpu2. llama.cppGGUF格式 — 单48 GB GPUQ4_K_M约21 GB以下是推荐的部署命令docker run -d --gpus all --network host -v /models:/m ghcr.io/ggml-org/llama.cpp:server-cuda \ -m /m/SIQ-1-35B.Q4_K_M.gguf --alias SIQ-1-tiny-35b \ -ngl 99 -c 131072 -np 4 --jinja --host 0.0.0.0 --port 8080注意--jinja是必需的Qwen3聊天模板→/think工具标签启用enable_thinking。-ngl 99表示所有层都在GPU上-c 131072表示总上下文在-np 4个插槽中分配每个插槽约32k — 智能体循环需要足够的空间。如果仅进行短推理可降至-c 65536。在:8080端口提供OpenAI兼容接口。3. sglangbf16 safetensors — 例如2×48 GB GPUpython -m sglang.launch_server \ --model-path AlexWortega/SIQ-1-35B \ --tp 2 --context-length 131072 \ --reasoning-parser qwen3 --tool-call-parser qwen3 \ --host 0.0.0.0 --port 80804. 调用模型OpenAI兼容接口以下是推荐的调用参数示例from openai import OpenAI client OpenAI(base_urlhttp://localhost:8080/v1, api_keyx) r client.chat.completions.create( modelSIQ-1-tiny-35b, messages[{role: system, content: Reasoning effort: high}, {role: user, content: ...}], temperature0.0, top_p0.95, top_k40, # 推理任务使用贪婪采样temp 0 extra_body{chat_template_kwargs: {enable_thinking: True}}) # False → 无思考过程模式采样建议推理任务→temperature 0贪婪一般/创意任务→temp 0.7top_p 0.95top_k 40。文件说明提供合并的bf16格式*.safetensors文件以及GGUF格式的Q4_K_M、Q5_K_M、Q8_0文件 MTP f16格式。总结高效精准的通用AI助手SIQ-1-35B以其精简的MoE架构在保持高性能的同时有效降低了计算资源消耗。GPQA钻石级70.2分的成绩和3158 tokens的平均消耗充分证明了其在复杂推理任务中的高效性和精准性。无论是自动研究、代码编写还是复杂推理SIQ-1-35B都能为用户提供优质的AI服务是一款真正实用的通用AI助手。如果你想体验这款高效精准的AI模型可以通过以下方式获取git clone https://gitcode.com/hf_mirrors/AlexWortega/SIQ-1-35B立即开始探索SIQ-1-35B带来的高效AI推理体验吧创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
阅读完成 · 觉得有帮助?
咨询建站