- 前几天买了 RTX3090 24G 的显卡，搭配上 ds 或者 qwq 或者 qwen 基本实现了模型自由，实测状态下语义理解和表达可用性还行。
- 知识库整理起来目前感觉还是颇为繁琐，在逐步构建中，但是对个人而言实际使用频次不高，大概是有需要查一下。
- 其他模型目前常驻的是 SeamlessM4T （翻译）和 RMBG （抠图），提供下个人移动应用和小程序的相关功能支持。
- 目前个人开发了使用 AI 去帮忙构思、续写小说的相关功能已完成，但是相对来说目前个人状态不太能投入小说创作。
- 想看下有啥好用好玩的开源项目，能够直接部署接入本地接口的……
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
This topic created in 608 days ago, the information mentioned may be changed or developed.
11 replies • 2025-03-18 17:26:54 +08:00
 |
YanSevenMar 17, 2025
1
打造一个简易版的本地贾维斯，莫斯。取代弱智的小娜，Siri, 以及各种手机厂商的智能助手🐶。
|
 |
3
下载部署涩图模型
|
2
 |
listenfreeMar 17, 2025
6
我是来学买习的 @visper
|
 |
elseswitchMar 18, 2025
7
@isSamle 3090 能部署什么样的 ds?
|
 |
TEwrcMar 18, 2025 via Android
8
这一套下来多少钱？
|
 |
9
@elseswitch RTX3090 24G 显卡，用 Ollama 最多能部署到，deepseek-r1:32B ，qwen2.5:32B ，qwq:latest(32B)，gemma3:27B ，可用性来说对一般业务足够了，一般对话个人比较喜欢用 qwen2.5:14B ，相对来说没那么啰嗦，载入也比较快，然后对内容要求比较高的时候用 qwq 或者 ds
|
|
elseswitchMar 18, 2025
11
@isSamle 收到，非常感谢
|
Select Language