@codereric 担心信息安全就不应该调公网 API 服务，得考虑私有化部署模型内网调用啊

@TimePPT 当然，中间步骤有瑕疵哈哈哈。

不过，如 LS 诸位所说，GenAI 的问题就是 predict next token ，所以他没法直接去做 count ，必须加必要的中间过程辅助拆解任务

prompt 加点小 trick 就 ok 了

以下为 GPT -4o 测试结果：
User
要求不使用代码解析器，推断如下结果：
有一个字符串，str="十九八七六五四三二"，请问 len(str)的返回值是多少

ChatGPT
字符串 str="十九八七六五四三二" 包含了中文数字字符。计算字符串长度时，每个字符都算作一个单位。虽然这些字符在视觉上占用的空间可能与字母或数字不同，但在 Python 中，每个字符无论是什么字符都是一个长度单位。

因此，计算 str 的长度时，每个字符都算作一个字符单位。这个字符串包含 9 个字符：

十
九
八
七
六
五
四
三
二
所以 len(str) 的返回值是 9 。

User
那 str="安全性通常被认为是重要的"呢

ChatGPT
字符串 str="安全性通常被认为是重要的" 包含中文字符和汉字。计算字符串长度时，每个字符都算作一个单位。这个字符串包含 11 个字符：

安
全
性
通
常
被
认
为
是
重
要
的
所以 len(str) 的返回值是 12 。

16-35 吧，和当前腾龙互补，广角每 1mm 都金贵。这个焦段大概率拍风光，F4 不拍暗光环境完全够。开到 F8 锐度完全没问题。随手扫街 28 ～ 35 焦段也合适。24 以下太广没法扫

招行银联卡，美国官网，买了十来年，花了小 1k 刀了，完全没问题

应该是自研的，开源可以看看 dify 或者 flowise

内部用还好，灰色用也没事，正经做产品，GPT 在国内是红线

@wencan toB 确实这点比较麻烦， 所以一般 API 包装的产品都卖不了高价，很多玩定制就是为了拉高客单价的，比如说 SFT+RLHF ，门槛不就高点了，再上个少样本自动挂 LORA 啥的 Feature ，还能再吹一波

相信我，正常用户根本不在乎你用了啥，只要好用就行。
你说的那些小白用户，其实是只知其然不知其所以然的嘴炮王者罢了

OpenRouter
https://openrouter.ai/

@zhangH258 就是让模型选 A 好还是 B 好，不要给单独例子打分，比较法会更加稳定，打分大概率幻觉

就提一点，用做比较的方法替代打分，让模型打分跟抽盲盒效果差不多

跟领导说，chrome 马上内嵌离线模型了，那个 api 不要钱😂

dogmeat

中文搜索效果要差一些，英文已经十分好用了

会点 python 的话 Gradio 自己搭一个。
我之前试了下，从看文档上手到搭出来不会超过两个小时。

我现在用 pyenv+poetry ，丝滑