yle="--shiki-light:#005CC5;--shiki-dark:#79B8FF;"> --model</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> Qwen/Qwen2.5-0.5B-Instruct</span><span style="--shiki-light:#005CC5;--shiki-dark:#79B8FF;"> --local_dir</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> Qwen2.5-0.5B-Instruct</span></span></code></pre></div><p>这里我们选择 0.5B 参数量的 Qwen2.5 模型，使用它的最大好处是体积小，使得即使没有 GPU，我们也能直接使用 CPU 来运行和微