V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  hutng  ›  全部回复第 5 页 / 共 24 页
回复总数  461
1  2  3  4  5  6  7  8  9  10 ... 24  
@follow 非大佬,纯小白。推理模型 qwq 32b 的 q4 就可以,实际占用显存 20G 多点,4090 、3090 都可以,便宜点 2080ti 也行。目前感觉比 r1 蒸馏的 32b 强很多。唯一的问题就是思考的过程有点长,回答的精细度、准确性非常好。
@openmynet #21 确实,google 的 aistudio 上就是 1 。
aistudio 上试了一下 27B 的模型,光数学上来看,准确性一般,比 qwq 差远了(当然了,直接这样比较推理模型和非推理模型不是很公平)
@hutng #18 ollama 官网也得是:12B parameter model (128k context window)。我比较好奇这 128K 的上下文窗口是怎么来的。ollama 默认都是 2K ,128K 不爆显存吗?
@hutng 刚用 ollama 测试了一下,12b 模型,效果一般。老是报错,Error: POST predict: Post "http://127.0.0.1:35039/completion": EOF ,不知道怎么回事,可能是我的环境问题。
开源模型生机勃勃了,好事,deepseek 开的好头。
QWQ 32B q8 两张显卡 40G 正好够,已经感觉和 deepseek 满血差距很小了,非常好用。
期待 gemma3 。
2025 年 3 月 10 日
回复了 lifehz 创建的主题 Apple 换机了 mac air m3 24G 512G,开搞大模型
(无意冒犯)累死它也跑不过一张 2080ti
2025 年 2 月 6 日
回复了 xzg1993 创建的主题 问与答 是到年纪了吗,今天突然的觉得很多事情都很无趣。
记得上学的时候网吧 5 块钱可以通宵玩,现在倒给我 50 我都不通宵去,累死。
有兴趣、有精力就是有生命力的体现,随着年龄的增长生命力会不可避免的流失。
2025 年 1 月 24 日
回复了 shakukansp 创建的主题 生活 为啥洗碗机一定要买大小能放炒锅进去的?
如果不能洗锅,洗碗机的意义何在?
铁锅锈的比较厉害,我买的不锈钢锅,纹理也锈,倒是还行。
我理解:锅也是耗材,一两年换一次,可以接受。
话说回来,完全不用洗碗机洗,锅就能一点不生锈?
2025 年 1 月 24 日
回复了 timerring 创建的主题 程序员 尝试了 trae 后,我为 cursor 续费的心有点动摇了...
看了一下目前,只有 win 版,观望一
2025 年 1 月 15 日
回复了 Peter500 创建的主题 宽带症候群 全屋升级万兆内网有什么实惠的方案吗?
我这里是 nas (组装的 pc ) pcie 插万兆网卡,电脑也是装的 pcie 万兆网卡,应该是成本最低了,100 块左右吧。
万兆网卡很热,自己买了两小风扇捆到网卡上,目前用了一年多了吧,没什么问题。
我看万兆交换机也没有多少钱。
2024 年 12 月 31 日
回复了 amyw495062 创建的主题 NAS 飞牛 OS 现在值得当主力吗
主力用,轻度使用几个月了,没啥问题。
2024 年 12 月 23 日
回复了 KIRAYOMATO 创建的主题 问与答 软路由有什么用?
问就是没用,觉得有用的不会这么问。
2024 年 11 月 21 日
回复了 007yxc 创建的主题 程序员 Zen 浏览器无法访问 google、youtube
也可以检查一下“隐私与安全”里的“基于 HTTPS 的 DNS”的相关设置。
2024 年 11 月 21 日
回复了 007yxc 创建的主题 程序员 Zen 浏览器无法访问 google、youtube
我这里最新版本的 zen 浏览器没有问题,清理一下缓存或者关闭插件试试?
2024 年 11 月 12 日
回复了 xiuxian 创建的主题 Apple 京东现在 mac mini 可下单-10G 网口版本-12 月发货-可用国补
@huangweipeng All in One 服务器上了万兆网口的情况下可以用到。我就是这样用的,黑苹果也装的万兆网卡。
有万兆交换当然也可以,就是有点贵。

使用场景应该是只有素材在服务器上远程剪辑视频可以用到吧,其他情况下真没有必须用万兆的场景 https://i.imgur.com/N9E3iZ2.png
2024 年 11 月 2 日
回复了 lindongbin 创建的主题 Firefox Firefox 衍生浏览器 Zen Browser
试了一下,不错
2024 年 10 月 25 日
回复了 8675bc86 创建的主题 投资 今天开始定投纳指/标普 500/纳指科技
个人观点:
1 、短期来看,现在是高位。长期的话,定投是合适的选择。
2 、定投一般是按周或月投吧,按天的意义是什么,不太懂。
3 、定投的话,一般还是玩一个长期趋势,一年小 20w 的投入,也不少了。如果楼主实力雄厚的话,建议 v 我 50 看看实力。如果实力一般,建议循序渐进,投资要有"心理+money" 的双重冗余,要不该炸还是炸,该崩还是崩。
2024 年 10 月 24 日
回复了 specita 创建的主题 问与答 普通如何才能自信
老子就是普通怎么了?
老子也自信怎么了?

何必在意别人怎么看
1  2  3  4  5  6  7  8  9  10 ... 24  
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   921 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 33ms · UTC 20:53 · PVG 04:53 · LAX 13:53 · JFK 16:53
♥ Do have faith in what you're doing.