边缘 AI

本地大模型部署笔记

一行命令拉起模型之后,真正花时间的是量化、显存占用与上下文长度的取舍。

约 1 分钟 边缘 AI

本地大模型运行框架,一行命令拉取模型即可使用。

ollama run qwen2:7b

常见优化:模型量化、GPU 加速、内存占用调优。

← 上一篇
Home Assistant 场景联动编排