RK3588本地跑大模型Qwen3.5并对外提供接口

PLC技术网抖音群

前面简单玩了一下Avalonia跨平台入门第二十九篇之再玩GIS、离线地图、离线深色地图、GIS加载GeoJson和Shp、加载热力图、GIS聚合效果、WMS图层点击查询与自定义弹窗、路径轨迹回放、GIS建筑伪3D效果、GIS路径规划、GIS基础图形绘制、GIS鹰眼图、集合拖放到TreeView、TreeView节点编辑与排序、热点配网与设备发现、AI语音与MCP、HTML邮件模板发送;今天再来分享一下RK3588部署Qwen3.5;

1、最终效果

2、检查系统

3、检查 RKNN Runtime

4、安装基础工具

5、安装RKNN Runtime

6、编译rkllm_api_demo出问题

7、直接本机编译解决

8、下载模型

9、命令行跑起来

10、提供对外的服务

11、工具验证

12、直接开机自启动服务

最终简单的效果先这样吧;以后有时间的话,可以再去摸索一下更复杂的效果;编程不息、Bug不止、无Bug、无生活;改bug的冷静、编码的激情、完成后的喜悦、挖坑的激动 、填坑的兴奋;这也许就是屌丝程序员的乐趣吧;今天就到这里吧;希望自己有动力一步一步坚持下去;生命不息,代码不止;大家抽空可以看看今天分享的效果,有好的意见和想法,可以在留言板随意留言;我看到后会第一时间回复大家,多谢大家的一直默默的关注和支持!如果觉得不错,那就伸出您的小手点个赞并关注一下!

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！