今天看到 opencode 发版了, 才注意到这个三天前的 PR: https://github.com/anomalyco/opencode/pull/40977
PR 里的讨论现在还不多,但是已经有偏离技术和翻译本身的迹象了。 不过抛开其他因素不谈,我也自始至终都觉得这是个糟糕的翻译。
今天看到 opencode 发版了, 才注意到这个三天前的 PR: https://github.com/anomalyco/opencode/pull/40977
PR 里的讨论现在还不多,但是已经有偏离技术和翻译本身的迹象了。 不过抛开其他因素不谈,我也自始至终都觉得这是个糟糕的翻译。
101
GDSR 3h 49m ago via Android
@catazshadow 翻译的拉不垃圾跟政治没什么关系,就算不是“词元”,翻译成“文元”、“话费”,目的也会是为了“话语权”,重要的不是翻译本身的质量,而是有没有对应的翻译,所以你说“词元”翻的垃圾只是表面,本质上就是因为是中国政府翻译的,你反对而已。
|
102
zhengqiang64 3h 48m ago
@catazshadow 来,你给我截图看看,这个 PR 有那个字提过话语权了?明明是你自己带着有色眼镜,看到的东西都有问题。
|
103
Sajo 3h 47m ago 露阴癖太多了
|
104
RichardPlus 3h 47m ago
LLM 的处理单位叫'token', 也是用着用着用出正统性来的, 不是与生俱来的. 中文翻译叫啥, 任何人有自己的绝妙翻译大可以提; 如果没有, 纠结这个问题干嘛呢? token 这个词被用于 LLM 的处理单位它本身在英语语境里符合该语境的"信达雅"? 也不见得吧
|
105
Maboroshii 3h 45m ago
编译原理里,应该有 token 的翻译成 词法单元 的 。 词元这个词很早了
|
106
GeruzoniAnsasu 3h 45m ago
我觉得应该先把仓库卫生打扫打扫好
然后这个开发人员吧,这个人员考勤要做好,对吧 一个开发团队,得先有组织有纪律,才有精神,才能写出好代码 我特意找我之前一个体校的哥们,教武术的,录了一期完整的八段锦的录像 那个……小刘,你给仓库的维护者说一下,把这个录像放到什么贡献指南里去 大家每天写代码前先锻炼锻炼身体,身体好才好干活嘛 |
107
RichardPlus 3h 40m ago
突然有个脑洞, "词"这个字还有个兄弟叫"辞", 直接给"辞"这个字加一个"大预言模型的处理单位"的解释, 也挺好的, 毕竟这个字本来就和"词"相通, 作为时代发展下赋予的新意思. 又不会与其他场景混在一起
|
108
catazshadow 3h 39m ago
|
109
catazshadow 3h 39m ago
|
110
lsearsea 3h 36m ago via Android
@catazshadow 难绷,但是和当前 pr 的把“令牌”改为“词元”有何关系
|
111
catazshadow 3h 35m ago
@lsearsea 整个这一波不就是因为某些人开始搞政治鼓动,煽动民族情绪吗?
|
112
lsearsea 3h 28m ago via Android
@catazshadow 和本帖相关性不大吧,相比于使用“令牌”这更不词不达意的翻译,“词元”更符合,要我觉得鼓动民族情绪的话题,不如 pr 下面的“👉🌶🐷又在污染文明世界了”,本来另一贴词元讨论支持和反对分半,因为这个,本贴一堆都直接踩对面了
|
113
VirgilMing 3h 25m ago
@RichardPlus 「我今天蹬了一亿辞」……好像也不是不行?
|
114
GDSR 3h 25m ago via Android
@catazshadow 翻译的准确性优先还是政治优先呢?你不是不希望涉及政治吗?那自然是准确性优先,那是“令牌”更能达意,还是“词元”更能达意呢?
|
115
jhdxr 3h 19m ago
@keyu1103 #61 我觉得能接受『词元』这个翻译的都是外行或者半瓶水的。如果只是局限在纯文本的语境下,『词元』这个词的确可以说信达雅,可是在这个词被钦点的 2026 年,token 在 LLM 的语境下已经远远不只是文本的含义。图片、视频、音频同样用 token 。这种情况下你用英文你知道这是一个你不理解的概念,但你用『词元』只会增加困惑
|
116
catazshadow 3h 13m ago
@GDSR token 最达意
|
117
catazshadow 3h 12m ago
@lsearsea token 用的好好的,你猜为什么突然一大堆人在乎翻译不翻译了?
|
118
strobber16 3h 10m ago via Android
建议调成英文界面使用
|
119
lsearsea 3h 7m ago via Android
@catazshadow 阿这,你能不能先看看 pr ,并不是把“token”改为“词元”,而是把“令牌”改为“词元”好吧
|
120
lsearsea 3h 5m ago via Android
如果我理解错了你的话,但我还是说,和本帖 pr 不相关
|
121
Mandelo 3h 1m ago
官方写新闻为了正式用"词元"就算了,
普通人跟着凑啥热闹?你平时跟别人交流会说"你今天用了多少词元"吗? 所以我的观点就是:关普通人屁事! |
122
vivipure 2h 47m ago
我觉得本地化挺好的,像韩语和片假名那样偷懒,才是真的可怕。
|
123
itbeihe 2h 25m ago 相对于之前翻译成“令牌“,还是”词元“更好一些。
心目中最好还是 token 别翻译。 |
124
RichardPlus 2h 18m ago
@VirgilMing 我觉得挺好呀, 买了一<斤>菜, 进口一<百万><吨>大豆, 蹬了一<兆><辞>, 套餐内含一<京><辞>, 作为"unit", 单字才是中文的王道, 欧姆来了也得叫欧, 帕斯卡也得叫帕, 😏
|
125
yvescheung 1h 48m ago
谁去提交个 pr 把 opencode 翻译成奥本科德或者开放代码编辑器
|
126
Busy 1h 38m ago
习惯用英文的人,应该用不到词元出现的中文界面
习惯用中文的人,不宏大叙事,词元挺信雅达的 只有一种人会别扭,平时中文夹杂着中小学英文单词的人 |
127
ffgrinder 1h 35m ago
@Erona 请给出词元这个词的翻译不好的理由,你用什么,业界习惯用什么,和这个词是否应该有一个中文翻译无关。同样,我觉得 tokenizer 作为分词器也比较靠谱,就好像 tokenizer 你也只是习惯,这词表达什么也不是“tokenizer”这个字母里面蕴含的。
这个 PR 我也看了,人家明确提到和“token(令牌)做区分”。我不理解你用“塞”这个词有什么意思。 还有打拳的, [现代简中] 就是国务院推行的,这就是官方语言,我感觉讨论这个问题的政治意味是没有任何意义的。 |
128
zerovoid 1h 25m ago
没看懂这次节奏,
是因为官媒发了一个《话语权》,所以各个借着这个反官方? 那不如大大方方直接反。 token 这个词本来就应该翻译, 当初官方翻译还没出来的时候(远在所谓话语权之前), 就很多人在讨论怎么翻译, 当时支持词元的就很多了, 这居然还有说保留英文, 不应该翻译的, 出于什么立场能说出这种逆天的话, 你说中国应该讲英语我都觉得还有点道理, token 不能翻译这是什么逻辑。 |
129
genesislive 1h 7m ago
词元翻译没什么问题,看一下日语翻译:トークン
|
130
VirgilMing 1h 6m ago
@RichardPlus 《辞海》:我没意见
|
131
xAI 50 mins ago
其实还好,LLM Token 和以前验证使用的 Token 还是不一样的,区分一下挺好的,这可是相当于一个单位词,不可能不翻译。
|
132
qqlax 39 mins ago
就非翻译不可?那要不也把 pull request 和 issue 也翻译了
|
133
greatbody 34 mins ago
词元这个翻译说我首创的,我觉得信达雅不一定,但是一定平权。你想想,非 IT 领域的用户,有不通晓英语或者计算机行业词汇的权利,人家只是普通使用者。从中文世界的使用者的利益的角度出发,词元是更合适的。
或许别的语言会有别的语言的翻译,但肯定不是令牌或词元。所以尊重普通人,让世界更美好。并不影响我们技术圈继续叫英文的 token 。 |
134
lsearsea 23 mins ago via Android
https://github.com/anomalyco/opencode/pull/41532 不要争了,现在又由“词元”改成“token”了😅
|
135
wolfie 9 mins ago
有些东西可以翻译,但在程序员这个领域就不应该翻译。
边界在哪里呢。 |