本地 AI 与模型平台

共 20 篇网址

模型运行、AI 客户端、自部署界面与模型资源平台。

AI 聊天助手 AI 搜索与研究 AI 写作与翻译 AI 办公与文档 AI 图像与设计 AI 视频工具 AI 音频工具 AI 编程工具智能体与自动化本地 AI 与模型平台

排序

发布更新浏览点赞

vLLM

面向大语言模型推理与服务部署的开源引擎，帮助团队在自己的计算环境运行模型。

030

本地 AI 与模型平台 # 开发部署 # 模型服务

SGLang

面向大语言模型与多模态模型的高性能服务框架，提供前缀缓存、多设备并行等推理能力。

030

本地 AI 与模型平台 # 开发部署 # 模型服务

LocalAI

用于在自己的设备或服务器运行 AI 的开源运行时，通过统一接口连接不同模型后端。

030

本地 AI 与模型平台 # 开发部署 # 模型服务

Ollama

提供模型运行与调用相关工具

030

本地 AI 与模型平台 # 本地模型 # 模型运行

LM Studio

提供以开放模型为基础的本地 AI 工具

030

本地 AI 与模型平台 # 本地模型 # 桌面工具