Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Jump to bottom

希望可以支持接入Ollama等本地大语言框架，使用本地模型 #563

Closed
alrcatraz opened this issue Jan 11, 2025 · 5 comments
Closed

希望可以支持接入Ollama等本地大语言框架，使用本地模型 #563

alrcatraz opened this issue Jan 11, 2025 · 5 comments

Comments

@alrcatraz
Copy link

访问本地文件夹作为知识库太香了，如果能和本地大模型组合就再好不过了
@mushan0x0
Copy link
Owner

需要等lobeChat支持，支持后同步更新就行了

@LiWeiQiangAndroid
Copy link

可以对接下纳米搜索的吗，里面有DeepSeek-R1-联网满血版，官网的deepseek容易卡

@alrcatraz
Copy link
Author

可以对接下纳米搜索的吗，里面有DeepSeek-R1-联网满血版，官网的deepseek容易卡

直接接SiliconFlow的API就行罢（），我现在在海外用这家的API也不是很卡

@mushan0x0
Copy link
Owner

可以在 AI0x0 对话界面左上角对话设置里添加 API 来使用，对话可以用 Ollama 本地模型，知识库和向量化模型现在必须用云端的

@LiWeiQiangAndroid
Copy link

可以在 AI0x0 对话界面左上角对话设置里添加 API 来使用，对话可以用 Ollama 本地模型，知识库和向量化模型现在必须用云端的

API也有些慢，本地依赖硬件配置

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Assignees
No one assigned
Labels
None yet
Projects
None yet
Milestone
No milestone
Development

No branches or pull requests
3 participants
@LiWeiQiangAndroid @mushan0x0 @alrcatraz