标签

#边缘 AI

共 2 篇相关笔记。

移动端 AI 远程访问部署

移动设备 → 云端 → 公网入口的三段式架构，以及自签证书带来的地址限制。

本地大模型部署笔记

一行命令拉起模型之后，真正花时间的是量化、显存占用与上下文长度的取舍。