我是用arm架构ubuntu24系统 rk3576 模型部署在rk3576盒子上，ai-goofish也部署在这个盒子上，测试模型的时候是成功的。使用qwen3-vl-2b-instruct_w4a16_g128_rk3576.rkllm这个模型，如果是聊天什么都没问题的。 这个是执行业务的时候视频 [20260420_145758.mp4](http://www.mmecho.com/20260420_145758.mp4) 这个是盒子上大模型的视频 [20260420_145758.mp4](http://www.mmecho.com/20260420_145724.mp4.mp4)
我是用arm架构ubuntu24系统 rk3576 模型部署在rk3576盒子上，ai-goofish也部署在这个盒子上，测试模型的时候是成功的。使用qwen3-vl-2b-instruct_w4a16_g128_rk3576.rkllm这个模型，如果是聊天什么都没问题的。
这个是执行业务的时候视频
20260420_145758.mp4
这个是盒子上大模型的视频
20260420_145758.mp4