llmfit
简介 llmfit 是一个用于“根据本机硬件选择合适 LLM 模型”的开源终端工具。它会检测系统的 CPU、内存、GPU/显存与推理后端,然后从大量模型与 provider 中评估哪些模型能跑、跑得好不好,并给出推荐排序。 ...
简介 llmfit 是一个用于“根据本机硬件选择合适 LLM 模型”的开源终端工具。它会检测系统的 CPU、内存、GPU/显存与推理后端,然后从大量模型与 provider 中评估哪些模型能跑、跑得好不好,并给出推荐排序。 ...
简介 MemOS 是一个面向 LLM 和 AI Agent 的记忆操作系统(Memory Operating System),统一了记忆的存储/检索/管理,支持长期记忆、知识库、多模态记忆、工具记忆等,实现上下文感知和个性化交互。当前版本 v2.0「星尘(Stardust)」,在多项基准测试中表现优异:LoCoMo 75.80、LongMemEval +40.43%、PrefEval-10 +2568%,相比 OpenAI Memory 准确率提升 43.70%,节省 35.24% 记忆 Token。 ...
简介 AnyCrawl 是一个高性能爬取和抓取工具包,将网站转化为 LLM 可用的数据,并支持从 Google/Bing/百度等搜索引擎提取结构化 SERP 结果。基于 Node.js/TypeScript,支持原生多线程批量处理。 ...
简介 RTK(Rust Token Killer)是一个高性能 CLI 代理,在命令输出到达 LLM 上下文之前进行过滤和压缩,可将 token 消耗降低 60-90%。单个 Rust 二进制文件,零依赖,100+ 支持命令,开销 <10ms。 ...