V2EX › stefwoo 的所有回复 › 第 2 页 / 共 10 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

1 2 3 4 5 6 7 8 9 10

❮

❯

5 月 13 日

回复了 kuhung 创建的主题 › 分享创造 › 猫咪版猜病，现在已经支持 GitHub 跳转登录

中文用户，gmail 和 github 登陆，直接杀掉了 99.9%的用户，邮箱登陆其实也不方便
我本来想推荐给老婆的。
建议推出微信小程序版

5 月 11 日

回复了 yafeilee 创建的主题 › 分享创造 › 同样 3 个任务，他们花了 30 美金，我们 5 美金 —— OpenClacky 1.0 发布，最省 Token 的开源 AI Agent

提个建议：定时任务的结果可以推送到 channel 。现在是运行完了就完了，多了一个 chat ，不注意根本看不到。

5 月 10 日

回复了 yafeilee 创建的主题 › 分享创造 › 同样 3 个任务，他们花了 30 美金，我们 5 美金 —— OpenClacky 1.0 发布，最省 Token 的开源 AI Agent

昨天晚上装了一个，现在试了一下，还可以，继续测试。

5 月 9 日

回复了 Venlenter 创建的主题 › 分享发现 › 商汤免费领 Token Plan(1500 次/5 小时)

我用了两天，感觉不行。用 Deepseek 老是报 400 错误。

5 月 9 日

回复了 Livid 创建的主题 › Local LLM › Qwen3.5-35B-A3B

@NSAtools 都没跑，用量小，用魔搭 122b

5 月 3 日

回复了 stefwoo 创建的主题 › Local LLM › github 看到一个项目， 3090 跑 27B， 129tps，最高 207tps

@jingle 是的，文字相关的就会很差。如果只有唯一解法的问题，就会好很多。编程也还好。

5 月 2 日

回复了 stefwoo 创建的主题 › Local LLM › github 看到一个项目， 3090 跑 27B， 129tps，最高 207tps

为了把大模型和草稿小模型一起塞进 24G 显存，选 4-bit 量化（~16G ），草稿保持 BF16 （~1.2G ），KV 缓存用 quant 量化。
预填充时，草稿小模型飞速扫遍长文本，只挑出最重要的 5% 片段；大模型只对这 5% 做稀疏预填充，跳过其余 95% 的无关内容。
随后进入生成阶段：草稿模型一次幻想出多个候选 token ，大模型用树形注意力一次性验证整棵树，实现高速逐词解码。

5 月 2 日

回复了 zxypro 创建的主题 › 分享创造 › 亲身经历猫咪急症，我做了一款猫狗疼痛检测工具，希望能救你家毛孩一命

网站挂了，楼主

4 月 27 日

回复了 zsj1029 创建的主题 › Local LLM › qwen3.6 27b 本地编码测试

Qwen3.6 A35B-A3B 4bit 在我的 3090 下运行也飞快啊

4 月 25 日

回复了 JZen 创建的主题 › 分享发现 › 一个性价比极高的数据冷备份路子

冷备份我用的 aws s3 deep achieve
反正就是永远不会用，做个保险

4 月 25 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

很棒的工作，回家试试我的 3090

4 月 24 日

回复了 tianjiyao 创建的主题 › DeepSeek › DeepSeek V4 终于出来了。。不知道强不强

https://mp.weixin.qq.com/s/DwleBgjy3EiS7zWqlrsTEw

4 月 24 日

回复了 dingawm 创建的主题 › 程序员 › 只能说 DeepSeek V4 Pro 继续努力吧，天气卡片效果一般

https://mp.weixin.qq.com/s/DwleBgjy3EiS7zWqlrsTEw

文中提到：
其四，不讲究的架构与 UI 。V4 基本保留了之前 DeepSeek V3 在各类架构设计上的思路，不讲究，不够精致，但也不糊弄，该有的分层，解耦，都会有。做不到 Opus 那样一看就出自大手的规范性架构。UI 方面同样如此，直出效果不算优秀，偶尔会有些精细表达，但多数时候就是基本能用的程度。甚至 high 档位偶尔下限更低，考虑不周全。如果实际开发配合设计稿，那么问题不大。但如果是纯 vibe coding ，那实现效果就需要反复抽卡。

4 月 22 日

回复了 shuaijinchao 创建的主题 › 分享创造 › 一行代码，让 Claude Code / Gemini / Codex 接入任意 LLM

@shuaijinchao #43 昨天编译的有问题，今天用你们的预编译是 ok 的了。👍

4 月 21 日

回复了 shuaijinchao 创建的主题 › 分享创造 › 一行代码，让 Claude Code / Gemini / Codex 接入任意 LLM

我的理解就是 gpt-load + CCR

4 月 21 日

回复了 shuaijinchao 创建的主题 › 分享创造 › 一行代码，让 Claude Code / Gemini / Codex 接入任意 LLM

docker 运行，访问 19531 是 404 ，19530/health 是 ok 的

4 月 10 日

回复了 a201483414 创建的主题 › 推广 › [V 友专属｜ claude 模型中转站免费送 20 刀已稳定运行一个月支持 claude-opus-4-6

stefwoo 谢谢老板。老板大卖。

1 2 3 4 5 6 7 8 9 10

❮

❯