leokun
2.8 KiB
2.8 KiB
为什么做这个项目
公司喜欢把 Agent 服务与模型绑定在一起，让用户只能在指定模型、指定订阅和指定计费方式下使用工具。
我希望打破这种绑定关系：模型应该可以自由选择。开发者应该能够把自己的模型 API 接入到任何 IDE、Chat、Agent 或开发工具中，也可以自托管整套服务，避免被单一平台锁定。
这个项目的目标，是让模型选择权重新回到用户手里。
路线图
注：正式版发布后的不久，本代码库将会全面开源，并迎来更多有趣的工具，local-first是我们的终极目标
近期重磅更新：
- 重构了整个持久化逻辑，磁盘空间占用从GB｜TB级别 -> MB级别，更新后可见设置文件夹内 history
- 支持运行时选择模型思考强度(Cursor内选择模型时可以看到)，不用提前设置思考强度
- 上下文管理更加优秀，并支持可视化上下文(升级到最新版的Cursor可以看到), 现在上下文更加耐用，不会出现一下吃掉很多上下文的情况
- 支持fork message，可以在任意message上重新开始，或者随时打断llm的话，上下文不会再污染了
- 再也没有压缩问题了，没有SQLLite问题了(彻底移除了) 6 ... 以及更多小更新,如macos的Dock栏管理，旧设备支持等
后续
后续会继续扩展更多工具和使用场景，包括但不限于：
- 支持更多 IDE 接入
- 支持更多 Chat 类应用
- 支持更多 Agent 工具和工作流
- 提供更完善的自托管部署方式
- 持续优化不同模型 API 的兼容性
- 降低接入成本，让已有模型额度可以被更充分地利用
最终希望做到：让你的模型 API 可以自由接入到你想使用的任何工具中。