V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  zoozobib  ›  全部回复第 2 页 / 共 16 页
回复总数  302
1  2  3  4  5  6  7  8  9  10 ... 16  
等楼主提车评测
5 月 20 日
回复了 sutking 创建的主题 Apple 用 MacBook neo 跑 Hermes agent 体验如何?
@sutking agent 2-3 不就测的差不多了,能不能干活显而易见啊
如果 8G 就切 到 A 卡,因为 16G 还能跑跑 token
5 月 19 日
回复了 moducat 创建的主题 汽车 五口之家,第二辆车如何选择?
这个需求直接上 MPV , 新塞纳,新 gl8
5 月 19 日
回复了 sutking 创建的主题 Apple 用 MacBook neo 跑 Hermes agent 体验如何?
官网上买一个,觉得有问题就退货
5 月 7 日
回复了 he123 创建的主题 电动汽车 关于买车
pass tsl ,pass 二线,其他各有优势
小米和理想都有,推荐小米; 理想车很好,但是它最大的问题就是很多设计太过理想化(过度设计),有些功能或方案初看惊艳但实则鸡肋,就是那种拍脑袋决策痕迹明显
turboquant 、dflash 后的 395 更没优势了 , 吃的多和跑得快完全不是一个维度
@howfree yu7 非常能打,强烈建议去试驾,少看小视频,云评测那是为云驾驶准备的
蔚小小理 多试驾吧
这个时代就别 tsl 了,都 6202 了,那车机和座舱还停留”功能机“的阶段,三电优势也越发不明显了
@nidhogger pcie 35-38 左右的 token , --model ./google_gemma-4-31B-it-Q4_K_L.gguf --mmproj ./mmproj-gemma-4-31B.f16.gguf -ngl 99 --tensor-split 14,26 --ctx-size 204800 --flash-attn on --cache-type-k q8_0 --cache-type-v q8_0 --cache-ram 0 -np 1
@nidhogger 32g + x570e + [4080s(或 3090 nvlink) + 3090] + c2000 2t ; 如果双显卡是 nvlink ,性能会比我当前还好,我现在是跑 pcie
@viskem 配置不错,可以关注下 mlx + turboquant 的方案,现在玩家不少了
@viskem 没试过 27B 的 gemma4 , btw 有人觉得 qwen3.5 27b 很猛,我之前也用过一段时间,不过它性能一般且废话太多;另外,moe 和 dense 在复杂任务下还是有明显区别的,moe 我之前玩下来 还是可以的,不过上下文别太大,主打一个性能绝佳,跑跑 agent 任务还可以,开 reasoning 的情况下.
不过我最高开 200K 的上下文,到 120K 以上的上下文 token 速度有所下降
已经用 gemma4 31b q4 量化的版本重构了半个 app 了,现在主力用它,opencode + openclaw + hermes ,接入了几个必用的 mcp ,如 word amap chrome opencli 等等,反正目前写文档、旅游计划、写代码主用这个模型。双显卡 上下文 35-58 所有的 token ,目前从涉及到的所有项目上看,很能打; moe 没试过
4 月 4 日
回复了 Livid 创建的主题 OpenClaw 使用本地模型 Gemma4 来驱动 OpenClaw
新测,加了 2b 的 draft , 提升到 45/t ;Draft 接受率 不错,5 成
4 月 4 日
回复了 Livid 创建的主题 OpenClaw 使用本地模型 Gemma4 来驱动 OpenClaw
但前者能跑到 38 /t 后 只能到 33/t
1  2  3  4  5  6  7  8  9  10 ... 16  
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5329 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 61ms · UTC 01:20 · PVG 09:20 · LAX 18:20 · JFK 21:20
♥ Do have faith in what you're doing.