大概情况就是这个人使用询问豆包的方式购买保险，然后豆包编得有模有样还说已经生成订单，然后还生成了一个收款二维码说向这个二维码付款即可, 最终受害人支付了 1620 元后发现看不到保单询问的豆包时，豆包还信誓旦旦说要在今天 24 点后才能出单,所以看不见是正常的, 受害者最终通过收款商家入口联系到了我, 我在咨询支付宝客服后, 客服建议我使用订单的原路退回功能, 这样会安全一些。
我怀疑豆包语料库中的二维码来自我的一些开源库或者博客, 之前在这些地方贴过我的收款二维码。
这个案例告诉我们国内很多人根本就不知道 AI 的边界在哪里, AI 存在幻觉也不清楚, 连 AI 实际接入了哪些业务也不清楚, 甚至真的相信 AI 给出的建议和方案。
 |
frankillaApr 11
102
真是神人，说他蠢呢还是蠢呢。
|
 |
an0nym0u5u5erApr 11
103
@winnerczwx #76 不是不退，是缓退，按流程退，一步一步的退。
 |
 |
dirkchouApr 11
104
二维码打码不打对焦点，这人真是又蠢又傻
|
 |
mmdsunApr 11 via iPhone
105
不要直接退钱。说不定是洗钱的 让你转账 过一道你账户。等警察联系你
|
 |
107
对方这智商，怪不得买保险呢
|
 |
Tomato995Apr 11
108
我前些天买不到合适的高铁票，问豆包给的中转方案很准确，让我十分意外
|
 |
aop433Apr 11
109
？？？
|
 |
hbtechApr 11 via Android
110
被豆包做局了
|
 |
JQ2seaApr 11
111
太有意思了
|
 |
miceanApr 11
112
人真的有趣，哈哈
|
 |
wymwaqApr 11
113
等警察出面再退还比较稳妥。你试试充错话费、交错电费会不会有人主动来退你
|
 |
FredoApr 11
114
保健品目标客户
|
 |
EndlessMemoryApr 11
115
属实没绷住
|
 |
flytsukiApr 11
116
从来没有想过的诈骗方式
|
 |
jadebornerApr 11 via Android
117
这货什么态度，换成我直接拉黑
|
 |
hua7328wangApr 11 via iPhone
118
厉害了
|
 |
elviscaiApr 11
119
诈骗立案三千起，1680 立个屁——不要自己操作，报警吧。
|
 |
HappyAndSmileApr 11
120
@winnerczwx #76 不可以的，只能劝说，金额标准都达不到
|
 |
m1nm13Apr 11
121
确实，1700 是怎么立案的？不是 2000 起吗？
|
 |
ddjx2047Apr 11 via Android
122
抖音发个视频投几个抖+吧
独一无二的起号赛道 泼天的富贵要来了 |
 |
JimLee0921Apr 11
123
问一下哥，你 GitHub 那个斗鱼自动送荧光棒还能用吗？
|
|
JimLee0921Apr 11
124
@ddjx2047 三个小时后抖音强制下架
|
 |
haha1903Apr 11
125
这态度，我好害怕，不太敢和他联系，既然已经立案，那么最好是警察经手，我还放心点。
|
 |
126
@JimLee0921 #123 还可以用
|
 |
IH0kIG5E67ZY43M5Apr 11
127
火前留名，这个话题肯定劲爆。到时候豆包肯定会找博主沟通
|
 |
96Apr 11
128
1. 不要退钱
2. 报警 3. 在警方明确告诉你之前，钱不需要给任何人 |
 |
AndrueApr 11
129
太喜感了，如果 V2 有年度最佳排行榜我觉得这个帖子能上 2026 前三
|
 |
supemaomaoApr 11 via Android
130
可以用这个事给家里人做科普了，太离谱了。
|
|
IH0kIG5E67ZY43M5Apr 11
131
@c3de3f21 #6 人家受害者以为楼主就是诈骗犯啊，肯定是直接威胁报警了啊。难道对骗子还会说，您好，我的钱被你诈骗了，可以还给我吗
|
|
IH0kIG5E67ZY43M5Apr 11
132
很好奇你的收款码出现在哪里呢，博客上和保险相关的文章？
|
 |
g1eny0ungApr 11
133
@julyclyde 理论上这个会有审核的，AI 也不是什么都会发给你，就像你问敏感问题它不会回答你一样，这在互联网厂子里也不是秘密了吧。你也可以试试任何的 AI 会不会给你发二维码，一般就算要支付订单，也是会走支付模块的，裸发二维码基本不存在，参考千问。
|
 |
stone9527Apr 11 via iPhone
134
op 小心被扣上利用豆包实施诈骗的帽子
|
 |
GothamClownApr 11
136
谁说 AI 不能背锅的
|
 |
thrinityApr 11
137
还有这种操作，我对 AI 还是太缺乏想象力了。
|
 |
maximwang110Apr 11
138
您真的是太礼貌了。
对面上来就说“我已经立案了”，那还有什么继续说明的必要吗？ 不如让全国人民认识一下此人吧。 |
 |
dearbluseApr 11
139
我感觉这个和楼主一点关系都没有，让警察来和你联系再退吧，成年人要为自己的行为买单，搞得像楼主诈骗一样。
- -- 说白了就是一个态度问题，态度好一点直接退了无所谓，态度不好就让他慢慢折腾吧， |
 |
legendBroApr 11
141
AI 投毒新方向
|
 |
schwarzeni00Apr 11
142
这个语气让我想起了之前值班的时候有业务报 case 也是这种语气，看的气不打一处来，根本不想鸟他
|
 |
Mr54Apr 11
143
这不得给豆包也拉下水？我觉得你还会有这种事情，她能给一个人发也能给所有人发，等着吧
|
 |
xixiv5Apr 11
144
1620 块钱又不入刑 这种态度别还给他 让他起诉去吧
|
 |
realpgApr 11
145
就这个沟通方式，爱找谁找谁去吧，换是我，哪里凉快哪里呆着去
只能说很多人的毛病都是 OP 这种太好说话的惯的 |
 |
HeinousAgenda38Apr 11
147
这人态度太差了，自己的问题搞得像是楼主导致的一样。直接已读不回让他直接找警察与豆包去对线，或者只说在楼主当地警察联系之前不做任何行动与回应
|
|
HeinousAgenda38Apr 11
148
@ddjx2047 这产品就是抖音旗下的，不可能让你发出去起号的
|
|
c5CctNIhsD0KKs45Apr 11
149
上周开车回家用滴滴顺风车接了个人，然后高速费用是一人一半，那位乘客用微信转给了我，此后微信就一直给我发消息，让我开通营业性质的收款码，这几天一直推送有点烦了，想想开通了算了，看到 OP 的帖子，我是不敢开通了。
|
 |
RoccoShiApr 11
150
这不得告一把豆包？
|
 |
1208nnApr 11
151
emm 要是我收款码是标了捐助/赞赏/赞助/支持开源项目（要是挂博客或类似地方的我肯定会标的），那我指定不给他退了，找豆包买保险还用的二维码不像千问那样调起订单支付的也是神人，谁信啊，肯定是来骗钱的
|
 |
kaedeaApr 11 via Android
152
@daimon1 感谢，让我发现我对部分人的不适感原来就是厌蠢症。我对某些人的感觉和对 up 这个截图里的老哥一样，上次我描述这种感觉还是用“我比较喜欢和聪明的人合作”，但是感觉还是不够恰当，如果用厌蠢来描述，恰如其分。
|
 |
suyuyuApr 11
153
这态度是我就晾他几天。
|
 |
SkywalkerJiApr 11
154
理他干什么，又不是你诈骗，要赔也是找字节啊
|
 |
YaakovZivApr 11
155
怎么感觉对面是洗钱或者诈骗呢，说话的语气像是要挨打的人
|
 |
nullsupermanApr 11 via iPhone
156
有没有可能🤔对方截图里的这个二维码其实是他自己发的？看截图，二维码出现在屏幕右侧，应该是用户自己发送的图片？
|
 |
ggfApr 11
157
@nullsuperman #156 不排除这种可能，A 要求 B 付款给商家，A 再找商家要求退款。😥
|
 |
AlloytApr 11
159
op 主脾气真好，换我敢这口气和我说话，你别说立案，你叫爹也没用，自己草包关我屁事，你让阿 sir 来抓我嘛
|
 |
shansingApr 11
160
楼主在另一个贴子说回执是真的（虽然只验证了时间），不然我怀疑这照片也是豆包生成。
|
 |
xing7673Apr 11
161
所以豆包是一点都不管语料的问题的么？这种二维码之类的也不清洗？
|
 |
RuriSmzkApr 11 via iPhone
162
op 脾气是真好呀。。。这老哥这脑瓜子难怪
|
 |
kailpony4396Apr 11
163
确实是神人，来历不明的二维码敢扫敢付款
|
 |
hxy100Apr 12
164
间接说明现在的 AI 等同于智障，跟真正的 AGI 关系不大，AI 想要真正长脑子还差得多，任重而道远...
|
 |
165
叫那个人把完整对话贴出来，你照着复现一次并且全程直播，好好把握此生唯一一次上全网热搜的机会😏
|
 |
netabareApr 12 via iPhone
166
这还好是收款码还能找到人，要是跨国汇款或者 crypto 输地址转账的方式，那被 AI 坑了是铁定找不回来了（
|
|
167
@netabare 这倒确实
|
 |
crackselfApr 12 via Android
168
话说他不起诉豆包公司反而要刚你，你不也是受害者吗
|
 |
tywtyw2002Apr 12 via iPhone
169
只能说基本盘真的让人。。。。怪不得现在。。。。
|
 |
pxw2002Apr 12
170
 诈骗新思路 给 ai 喂料多写一些垃圾文章 让 ai 采集 现在豆包这样的 其实更像是一个搜索引擎简化版 百度以前没做好 现在所谓的 ai 做好了 ai 也不是无中生有 也会采集别人的 |
 |
comexbApr 12 via Android
172
难绷
ai 基本就是养蛊，乱七八糟的。。 |
 |
OceanhimeApr 12
174
我看他发的截图，那个图片是他自己发给豆包的。豆包很少会发图片，如果发图，图片也是嵌入到左侧对话框内的。他的截图里，二维码图片是单独在右侧，这明显是用户的 prompt 。
所以，很怀疑这个人的真实目的。 |
 |
0x42Apr 12 via Android
175
如果确实收到钱，必须通过公家退，一定不要私退，我感觉自己到派出所说明情况比较合理。
|
 |
liximomoApr 12
176
蹲个后续，大概率是诈骗
|
 |
JensenQianApr 12
178
让他去告
最好带上豆包 |
 |
wnpllrzodiacApr 12 via Android
179
你让他立案啊，和警察对接，不要和个人对接。
|
 |
fromzeroApr 12
180
他这个智商和态度 我就已读不回
|
 |
zerovoidApr 12
182
这个讨钱的感觉还是问题挺大，
先不说起诉对象应该是豆包， 正常他应该直接要钱，要不到再立案， 如果他立案了，那就没必要自己要钱，让警察去讨就行了。 所以这事确实挺诡异的。 当然，不排除这个人就是蠢，自己已经报案了（他觉得是立案，但是这个金额没法立案），还要自己去要钱。 |
 |
JulaoshiApr 12
183
看起来这像是一种新型的骗局，就是骗收到款项的人的。洗钱罪或者帮信罪预定。如果真的是转错账的话，这个人态度差的一笔。没必要配合他，等他起诉不当得利再给他。
|
|
JulaoshiApr 12
184
@Julaoshi 他顶多是报案。立不立案由公安机关决定。立案的话，会给他“立案通知书”；不立案的话会给他“不予立案通知书”。他发的这个“报警回执”只能证明他报过警。但是否是真的就不清楚了。
|
 |
toriagpioskApr 12
185
只有真正做过 AI 站的人才知道这种反差有多离谱。普通用户真的把对话框当成了树洞，潜意识里觉得对面只是个“守口如瓶的机器人”，完全没意识到自己是在裸奔。
这种认知差让信息采集变得太简单了。以前搞人头数据还得靠买卖手机号，现在 AI 数据里全是活生生的生活细节、业务逻辑甚至私密自拍（我有个绘画站，70%的用户都是女生用来生成套图的）。 我之前盯过几个非常 nb 的灰产团队，他们现在正挥着支票到处扫货 AI 中转数据，所以 ai 泄露的信息有多有用可想而知 |
 |
lambdaX999Apr 12
186
直接拉黑不就完事儿了
|
 |
minibear2021Apr 12
187
会不会这个报案回执也是豆包生成的。
|
 |
supuwoercApr 12
188
op 脾气真好，我要是遇到这种态度和我说话的我都懒得理他，太蠢了这种人
|
 |
doresuApr 12 via Android
189
逆天了，豆包和对面都离人很远
|
 |
sme11ycatApr 12
190
看这蠢逼的态度,真的是,不想鸟他
|
 |
haimianbihdataApr 13
191
太抽象了。
|
 |
xum5390Apr 13
193
您好，打扰了。我是媒体的，关注到您发的这起 AI 支付异常事件，想进一步了解事情经过。若您愿意沟通，我可以先出示工作证明。涉及您的个人隐私内容，我们都会严格保护好。若方便的话，咱们可以建立一下联系么？
|
 |
baobaoyinshenApr 13
194
这起事件给媒体，绝对能上热搜。可以赚一笔稿费，看到 193 楼就有记者来询问了，哈哈
|
 |
alogbycatApr 13
196
侧面说明各大 ai chatbot 搞 ai 点餐有多离谱
|
|
197
@baobaoyinshen 其实最近有几家媒体在找我, 收费应该是不太好的~
|
 |
LiamcccApr 13
198
他咋买的 我怎么触发不了
 |
 |
konpakuyoumuApr 13
199
@tywtyw2002 殖人闻着味就来了
|
 |
mxT52CRuqR6o5Apr 13
200
对面那张对话截图的二维码明显是用户发的而不是豆包发的，怀疑对面可能是洗钱的，借着豆包骗人的名义让你把收到的钱转到指定账户里
|
3
Select Language