◈
家庭 AI 推理中继
model.cheshirenya.top
检测中…
服务概览
推理引擎–
可用模型–
当前已加载–
传输TLS 1.2+ / Bearer 鉴权
快速开始
Ollama 原生
OpenAI 兼容
Python SDK
视觉(图片)
载入中…
扩容方式
- 同一台机器加模型:在推理机上执行 ollama pull <模型名>,拉完即可通过本域名调用,无需改任何配置。
- 接入第二台推理机:在新机器上装好 Ollama 并开放 11434,在服务器执行
bash hk_add_backend.sh <名字> <远端端口>,会自动加隧道映射与路由,之后用
/b/<名字>/api/ 访问,默认入口 /api/ 保持不变。
- 主备自动切换:默认入口由 nginx upstream 承载,主通道断开时自动切到备用通道,客户端无感。
- 鉴权:所有 /api/、/v1/ 请求都需要
Authorization: Bearer <token>,缺失直接 401。