先说为什么要做，楼主之前使用qwen3.5-9B当时简单测试了一下指令遵循程度感觉很不错啊，在我另外一个统用agent表现其实还不错，工具调用什么的错误率也不是很高，重复率也是。
于是我就在想如果我专门适配一个给小模型使用的agent，把上下文连贯做好，工具参数极简，专门为小模型做适配，是不是就可以用小模型来做任务了。
目前我的那个agent工具相对较多，命令也复杂但是9B的模型还是可以勉强驱动的。
寻找志同道合的朋友，这是qwen3.5-9B-q4驱动的cellium agent，效果还行
有兴趣，坐等产品。不过，不认为能开发的出来，因为模型参数太小，智力很有限，不好用这个写代码能做什么
- 之前做LLM的开发，各种折腾上下文，来回处理Harness。后来换了一个模型，发现90%的工作都不需要了
- 这句话反过来，换了一个垃圾模型，会凭空增加900%的工作量。
- 所以…坐等成品
1 个赞
这种东西嘛
我看了这个，挺不错的，我也想的是极简来，让小模型自己发挥
这个是个“小型的Harness”，不是“给小模型使用的Harness”
小模型目前阶段只能做一些简单的对话什么的，用作严肃的开发还不太行
而且在https://pi.dev/models，它列出来的模型，也主要是那些性能很强的头部模型，30B及以下的模型只是零星出现在列表中。
感觉小模型还是适合固定工作流的场景，类似dify那种，确定输入和输出的格式工作起来还行，要自己找上下文发挥创意就拉了。
确实是啊，工具链深一点直接不行了