模型管理共2篇
Ollama开源大模型推理框架 Go语言本地大模型部署源码-七七源码网

Ollama开源大模型推理框架 Go语言本地大模型部署源码

源码简介Ollama是一款Go编写的开源大模型推理运行框架,能够在本地服务器部署、管理、运行各类开源大模型,支持模型拉取、启动推理、API接口调用,占用资源可控,部署便捷,可作为本地AI服务底...
七七的头像-七七源码网七七2个月前
020
智能轻量AI桌面:跨平台AI聊天+网关,高效AI体验一触即达-七七源码网

智能轻量AI桌面:跨平台AI聊天+网关,高效AI体验一触即达

全新轻量级高性能跨平台 AI 聊天+AI网关桌面功能特性对话与模型多供应商支持 — 兼容 OpenAI、Anthropic Claude、Google Gemini 等所有 OpenAI 兼容 API模型管理 — 支持远程拉取模型列表、自...
七七的头像-七七源码网七七2个月前
050