信息详情 ONE CURRENT SIGNAL 公开卡片 ### 背景与测试环境 我是社区开发者 **sindri**。在近期的大模型多端部署与实际调用中,记录并整理了以下关键实测数据与环境配置细节。 ### 真实反馈与技术细节 我也试着跑了一天,基本上up说的问题全中,效果确实不错。但是不开思考,他表现的像个智障,打开思考,他又实在想太多,我的需求是根据用户提交的简单场景,即兴写一个小故事,然后给他提了若干故事的限制和需求。实测发现结果不错,但是他在思考过程中,会把故事完整的输出一遍,然后再总结一遍要点,看看有没有偏离,然后在他的输出结果里,再把思考过程中输出的故事原封不动的再输出一遍。等于要写一个故事,但是他花的token要把故事来回来去跑三遍以上 ### 探讨与诉求 希望与有类似硬件配置或高并发 API 调度经验的工程师探讨更优的参数调优与成本控制方案。 关联 ⚡️ 实时计算 等待读取 🔄 实时重算
### 背景与测试环境 我是社区开发者 **sindri**。在近期的大模型多端部署与实际调用中,记录并整理了以下关键实测数据与环境配置细节。 ### 真实反馈与技术细节 我也试着跑了一天,基本上up说的问题全中,效果确实不错。但是不开思考,他表现的像个智障,打开思考,他又实在想太多,我的需求是根据用户提交的简单场景,即兴写一个小故事,然后给他提了若干故事的限制和需求。实测发现结果不错,但是他在思考过程中,会把故事完整的输出一遍,然后再总结一遍要点,看看有没有偏离,然后在他的输出结果里,再把思考过程中输出的故事原封不动的再输出一遍。等于要写一个故事,但是他花的token要把故事来回来去跑三遍以上 ### 探讨与诉求 希望与有类似硬件配置或高并发 API 调度经验的工程师探讨更优的参数调优与成本控制方案。