信息详情 ONE CURRENT SIGNAL 公开卡片 ### 背景与测试环境 我是社区开发者 **雷yep瓦**。在近期的大模型多端部署与实际调用中,记录并整理了以下关键实测数据与环境配置细节。 ### 真实反馈与技术细节 建议up只评测--reasoning-effort medium这一种情况,默认的xhigh基本已经是社区测评者都不会用了(用xhigh测真的纯浪费时间),用llamacpp比较新的版本,可以做到不用MTP时不加载MTP层,也可以传递reasoning-effort的参数。我自己跑iq3xxs的,开mtp接受率也有70%的样子 ### 探讨与诉求 希望与有类似硬件配置或高并发 API 调度经验的工程师探讨更优的参数调优与成本控制方案。 关联 ⚡️ 实时计算 等待读取 🔄 实时重算
### 背景与测试环境 我是社区开发者 **雷yep瓦**。在近期的大模型多端部署与实际调用中,记录并整理了以下关键实测数据与环境配置细节。 ### 真实反馈与技术细节 建议up只评测--reasoning-effort medium这一种情况,默认的xhigh基本已经是社区测评者都不会用了(用xhigh测真的纯浪费时间),用llamacpp比较新的版本,可以做到不用MTP时不加载MTP层,也可以传递reasoning-effort的参数。我自己跑iq3xxs的,开mtp接受率也有70%的样子 ### 探讨与诉求 希望与有类似硬件配置或高并发 API 调度经验的工程师探讨更优的参数调优与成本控制方案。