V2EX › c0xt30a 的所有回复 › 第 1 页 / 共 16 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

1 2 3 4 5 6 7 8 9 10 ... 16

❮

❯

1 天前

回复了 zzutmebwd 创建的主题 › Local LLM › pro6000 部署 Qwen 3.8 flash next nvfp4

OP 是怎么设置 `partial_rotary_factor` 和 `factor` 到 512K ctx 的？

3 天前

回复了 ooklwq 创建的主题 › 分享创造 › 我妈要把我家猫绣成十字绣，找不到合适的图纸工具，于是自己写了一个

为啥只有一个暗色主题？

8 月 27 日

回复了 sentinelK 创建的主题 › Local LLM › mac m5 ultra 上线中国官网。1.2T 显存带宽， 256GB 版本 8.6 万

我这么算 tg:
- 1.2TB/s 的带宽
- dsv4-flash 的激活是 13B 的 fp4 ，大概是 6-7 GB
- 1M 上下文时候 bf16 kv 是 7 GB

所以不带 mtp:
- 在 ctx=0 时，1200/7 = 171 tok/s
- 在 ctx=1M 时，1200/(7+7) = 85 tok/s

参考：
- https://www.reddit.com/r/LocalLLaMA/comments/1svzlog/the_exact_kv_cache_usage_of_deepseek_v4/

8 月 20 日

回复了 nc 创建的主题 › 分享创造 › 之前答应给全楼送永久 VIP 的 jav.hk 上线了

OP 有没有考虑过全部上传到 tg 一个频道里？
自己存储太贵了

8 月 20 日

回复了 Livid 创建的主题 › 信息安全 › 用 Socket 保护 DeekSeep Harness 的安装和执行过程

DeekSeep ......
Livid 你故意的么？

8 月 14 日

回复了 zpvip 创建的主题 › Local LLM › 想不到浓眉大眼的 Livid 也受限于邀请链接

这网站怎么瞎推荐啊

8 月 12 日

回复了 iiimichael 创建的主题 › 问与答 › 回首来看，当年学的诗词甚是充满力量与哲理，最爱哪一句？

天若有情天亦老人间正道是沧桑

7 月 23 日

回复了 ook 创建的主题 › NAS › 讨论：我们究竟需要什么样的 Homelab / AI NAS？

NAS 我最大的需求是超长续航，可以稳定运行 10+ 年不用拆换修补任何配件，最小化维护代价。
第二个需求是最大化存储，100+T 的硬盘运行在稳定环境下，温度电压都稳定，不至于让我隔一两年就要换硬盘。
你要装 NPU/GPU 上去，功耗上去了，稳定性下来了。而且模型每年变化这么大，升级维护大家也是很大的。真不如直接买 DS 的推理服务。
所以我看来 AI NAS 是个捏造的需求，很有可能是厂商折腾出来卖硬件的。

7 月 15 日

回复了 Sunrisepeak 创建的主题 › 程序员 › 最近给专门为 C++模块化打造的构建工具增加了 gcc16/mingw 支持, 可以一键在 Linux 上构建出 windows 的 exe 程序, 欢迎体验 mcpp

问一下 OP ，对于以 dll 发布的第三方库 (vc)，可以支持么？如果可以就太好了。

7 月 8 日

回复了 rizon 创建的主题 › 程序员 › 深夜诡异问题： Claude code 说接收到了 cursor Agent 的 review

有的。
有时候 Claude 搞不定了甚至会向 Codex 求救。
不过很少发生，我只见过一次。

7 月 5 日

回复了 freedom1988 创建的主题 › 分享创造 › 用 AI 生成一个小浣熊水浒卡鉴赏网站

OP 为什么只考虑了暗色模式？

6 月 30 日

回复了 FawkesV 创建的主题 › 分享发现 › 32 岁才开始玩塞尔达:王国之泪，神作名不虚传啊

希望 OP 还没有查找攻略用 Bug ，不然趣味砍半再砍半