V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  est  ›  全部回复第 34 页 / 共 656 页
回复总数  13102
1 ... 30  31  32  33  34  35  36  37  38  39 ... 656  
❮ ❯
你用 cloudflare argo 跑反代就行。主机不要监听公网端口。
2025 年 3 月 19 日
回复了 nealHuang 创建的主题 › Apple › 发现 Mac 自带了网络质量测试工具
% networkQuality
==== SUMMARY ====
Uplink capacity: 829.894 Kbps
Downlink capacity: 388.094 Mbps
Responsiveness: Low (1.101 seconds | 54 RPM)
Idle Latency: 92.458 milliseconds | 648 RPM


这也太搓了。
2025 年 3 月 18 日
回复了 seekseat 创建的主题 › 职场话题 › 硬件工程师待遇为何不如软件工程师?
如果硬件工程师考虑地球上一个地方温度条件不足怎么办?他可能会综合地理,纬度,气温,洋流等等,最后小心翼翼设计一套复杂的暖通工程

软件工程师:replace(太阳, 更大的太阳)
2025 年 3 月 17 日
回复了 heyjianjun 创建的主题 › 电动汽车 › 买车决赛圈极氪 001 还是蔚来 ET5T
byd 发布 5 分钟充电 400km 了。。蔚来危。。。。
2025 年 3 月 17 日
回复了 zcm3579 创建的主题 › Local LLM › 如何估算一个大模型需要用到什么性能配置的硬件?
另外再说一个简单的 token 吐字效率计算。大语言模型你可以看成所有参数都需要顺序激活一次参与计算,假如 7G fp32 的 LLM 每一秒钟输出一个 token ,就至少需要 28 GB/s 的显存带宽。
2025 年 3 月 17 日
回复了 zcm3579 创建的主题 › Local LLM › 如何估算一个大模型需要用到什么性能配置的硬件?
7B == 7,000,000,000 ,得到 7G 。每一个参数 4byte (fp32) 那么就需要 7x4 == 28GB 显存

用了 fp16 优化就只需要 14GB 显存。用 int8 量化就需要 7GB 显存,用 int4 量化就需要 3.5GB 显存

当然 transformer 还有很多其他的各个环节提升,这里 x4 x2 x1 x0.5 可以进一步打折优化。这里只是一个大概的计算
@julyclyde 我名字记这么准确,那我肯定知道自己在说什么。
归根结底还是实名制

实名制归根结底还是 周济 干出来的第一发。
2025 年 3 月 15 日
回复了 linchem 创建的主题 › Visual Studio Code › Vscode 多人同时使用情况下配置解决方案
windows 吗?不开多个系统用户账号?
**物业费 (含公摊)** 每月 1680 元


靠。。
2025 年 3 月 9 日
回复了 voidmnwzp 创建的主题 › 汽车 › 关于 su7 的丐版,雷军的刀法很奇怪啊
如果比参数能赢的话你肯定选 linux
2025 年 3 月 8 日
回复了 byaiu 创建的主题 › 汽车 › 小米最近各路媒体推太多了 感觉有点烦了
那你喜欢哪吒的流量吗?
2025 年 2 月 25 日
回复了 qdwang 创建的主题 › 随想 › 自从互联网发明出来,人类越活越累
其实这个真怪爱迪生发明电灯

没电灯之前没人加夜班。
2025 年 2 月 22 日
回复了 iixy 创建的主题 › 电影 › 关于哪吒 2 的建模风格混乱问题
@ssh 恒大资金是几万亿,广东头部企业,然后呢。
2025 年 2 月 22 日
回复了 miantiao 创建的主题 › 分享创造 › [开源] Hacker News 中文播客
AI 味有点重。。
2025 年 2 月 22 日
回复了 iixy 创建的主题 › 电影 › 关于哪吒 2 的建模风格混乱问题
@bkmi @liangzaiyi 这类新闻非常多,你有兴趣可以研究下,比如

2 月 20 日,交易所出手,处罚开盘阶段砸盘的量化巨头。https://news.qq.com/rain/a/20240221A00JTW00

很多炒股的都在骂量化,包括幻方。这玩意你敢说政策没打压?
2025 年 2 月 22 日
回复了 Hypixel 创建的主题 › Android › 淘宝疑似歧视并频繁封禁类原生 Android 用户
不一定是歧视,说明拿原生 ROM 来刷流量或者爬虫的模拟器或者群控比较多。
1 ... 30  31  32  33  34  35  36  37  38  39 ... 656  
❮ ❯
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1041 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 68ms · UTC 18:56 · PVG 02:56 · LAX 10:56 · JFK 13:56
♥ Do have faith in what you're doing.