移动设备 → 云端 → 公网入口的三段式架构,以及自签证书带来的地址限制。
在移动设备上部署 AI 应用,通过内网穿透连接云端服务端实现远程访问。
架构:移动设备客户端 → 云端服务端 → 公网入口。
注意:自签证书穿透模式下,访问地址需使用公网 IP。
一行命令拉起模型之后,真正花时间的是量化、显存占用与上下文长度的取舍。