项目实践

移动端 AI 部署实践

On-device LLM

约 1 分钟 AI · 内网穿透 · 移动端

在移动设备上运行本地大模型:

  • 客户端通过内网穿透连接云端服务端
  • 通过 HTTPS 从公网访问设备上的 AI 服务
  • 支持离线模式,本地模型推理无需联网

关键点

入口必须自带证书。自签证书在移动端会被拦,浏览器给的地址限制会直接让「随时可用」变成「先装证书再说」——这也是后来把 HTTPS 反向代理单独拆出去的原因。

← 上一个项目
智能家居自动化系统