RK3588 Detian如何使用web端工具去访问DeepSeek-R1-Distill-Qwen-1.5B_W8A8_RK3588.rkllm模型

[3103570984]

在RK3588 Detian平台已经将example里面DeepSeek-R1-Distill-Qwen-1.5B_W8A8_RK3588.rkllm模型跑测起来了，目前是通过命令行的方式，有没有什么方法可以去通过web端工具去访问这个跑测起来的DeepSeeK模型，因为命令行方式不支持中文输入

[waydong]

你好，可以通过gradio server 使用浏览器访问，参考这个https://github.com/airockchip/rknn-llm/tree/main/examples/rkllm_server_demo

[3103570984]

麻烦问一下有什么方法去训练这些部署在3588下的deepSeek模型

[maxminx]

你好，可以通过gradio server 使用浏览器访问，参考这个https://github.com/airockchip/rknn-llm/tree/main/examples/rkllm_server_demo

如果实现了兼容openai的API接口就好了，就像调用云上的APi接口，不知道RK后续是否会完善，期待！