This topic created in 838 days ago, the information mentioned may be changed or developed.
 |
1
exo https://github.com/exo-explore/exo + 192G MacStudio x2
|
1 |
yinminJul 26, 2024
2
together 、fireworks 、openrouter 上都有已部署的 llama3.1 405B ，我用了感觉还不如 qwen2 72B ，根本没法和 gpt-4o 、claude 3.5 sonnet 比拼。
|
 |
antiblahblahAug 2, 2024
4
@xtreme1 这个配置跑起来什么速度？多少个 token/秒？
|
|
antiblahblahAug 24, 2024
5
@xtreme1 为什么要 x2 ？
|
Select Language