Rust

简介 llmfit 是一个用于“根据本机硬件选择合适 LLM 模型”的开源终端工具。它会检测系统的 CPU、内存、GPU/显存与推理后端，然后从大量模型与 provider 中评估哪些模型能跑、跑得好不好，并给出推荐排序。 ...

简介 RTK（Rust Token Killer）是一个高性能 CLI 代理，在命令输出到达 LLM 上下文之前进行过滤和压缩，可将 token 消耗降低 60-90%。单个 Rust 二进制文件，零依赖，100+ 支持命令，开销 <10ms。 ...