目前 AI 主要用 qwen3:32b 想用到 qwen3:235b 请问 AI 服务器的品牌、规格建议 谢谢！
This topic created in 526 days ago, the information mentioned may be changed or developed.
 |
tool2dxMay 30, 2025
1
等 7 月份买全新的 intel 24G GPU ，一张 3600 元，买 4 张就能用了。
|
 |
xtreme1May 30, 2025
2
9355 双路, 64Gx24 ddr5, 5090, ktransformers
硬件大概 10w |
|
xtreme1May 30, 2025
3
大概 20t/s
|
 |
byteXMay 30, 2025
5
后期如果涉及到微调这些 就要好好考虑显卡了
|
 |
coefuMay 30, 2025
9
你目前资源的 20 倍就行了，只怕你搞不定分布式推理。
|
 |
terranboyMay 30, 2025
10
100 人的并发有 20 个吗 请把 5090X20
|
 |
inorobotMay 30, 2025 via iPhone
11
24G 八卡或 48G 四卡方案
|
 |
goodrybMay 30, 2025
12
起码得说清楚是做什么用吧，推理还是要做模型微调，这两个对性能要求是完全不一样的
|
 |
13
谢谢大佬们 我等下 intel 24g
|
Select Language