• 请不要在回答技术问题时复制粘贴 AI 生成的内容
is101
V2EX  ›  程序员

Grok 大瓜

  •  1
     
  •   is101 · 3 days ago · 13807 views

    53 replies    2026-07-15 10:26:53 +08:00
    yanaraika
        1
    yanaraika  
       3 days ago   ❤️ 1
    https://news.ycombinator.com/item?id=48892468 给看不了图的转发下

    Grok CLI uploaded the whole home directory to GCS
    1874w
        2
    1874w  
       3 days ago
    你都用 AI 了,你大概总结一下呗
    GreatAuk
        3
    GreatAuk  
       3 days ago
    昨天早上就看到了
    SupperHobby
        4
    SupperHobby  
       3 days ago
    课代表呢,快出来总结一下
    FawkesV
        5
    FawkesV  
       3 days ago
    看不清楚 给个总结
    prefect
        6
    prefect  
       3 days ago   ❤️ 6
    人肉总结:就是他把在你电脑上能看到的所有东西都打包上传云端了
    coldmonkeybit
        7
    coldmonkeybit  
       3 days ago   ❤️ 1
    ScotGu
        8
    ScotGu  
       3 days ago
    虽然昨天看到相关报道,但是还是忍不住评论下, 开源🐎!真开源。
    YGHMXFAL
        9
    YGHMXFAL  
       3 days ago via Android   ❤️ 2
    你都用 AI 了还在意这个
    zooo
        10
    zooo  
       3 days ago
    grok 发现数据才是关键,为了数据不择手段?
    FawkesV
        11
    FawkesV  
       3 days ago
    看完了 🐂🍺 默认不只是上传仓库, 把配置文件 密钥 全都上传了
    Lockroach
        12
    Lockroach  
       3 days ago
    昨天就看到了,既然修了那就继续用
    changwei
        13
    changwei  
       3 days ago via Android
    请问如果是在 cursor 里面用 grok 的模型会有这个问题吗?

    因为听说 cursor 也被老马收购了,不知道会不会有类似风险?
    yvyvyv
        14
    yvyvyv  
       3 days ago
    全都要
    ration
        15
    ration  
       3 days ago
    这个图用 AI 怎么解析,我试了好多都误翻译成 git 的操作指引了
    TerryBlues
        16
    TerryBlues  
       3 days ago
    目前来看主要是 Grok build 内置了传输的功能导致了风险,如果是接入其它 Harness 应该是没这个风险的。
    SayHelloHi
        17
    SayHelloHi  
       3 days ago
    都是 vibe coding 的代码 没啥价值 给老马~
    johnbobby
        18
    johnbobby  
       3 days ago   ❤️ 2
    总结起来就是
    1. AI Agent 的最大风险来自权限过大,不只是模型能力。
    2. 提示词规则不是安全边界。
    3. Sandbox、VM、容器、独立用户才是真正的控制手段。
    4. 未来 AI Agent 的标准安全设计应该类似浏览器沙箱或手机 App 权限模型。
    xloger
        19
    xloger  
       3 days ago   ❤️ 5
    1874w
        20
    1874w  
       3 days ago
    @xloger 这下看懂了,楼主不知道跑哪去了,谢谢你
    kera0a
        21
    kera0a  
       3 days ago via iPhone   ❤️ 2
    符合训练模型的第一性原理😄
    dingawm
        22
    dingawm  
       3 days ago
    666 ,说没啥关系的真看了吗? API KEY ,.env 都给你上传了
    elevioux
        23
    elevioux  
       3 days ago
    应该也不是有意,大概是 BUG ,不过也够离谱的。
    sberry
        24
    sberry  
       3 days ago
    @yanaraika 什么鬼点进去卡死了
    Leeeeex
        25
    Leeeeex  
    PRO
       3 days ago   ❤️ 1
    @dingawm 只是这家被爆出来了,没爆出来的哪家上传没上传都不知道,claude code 之前检测中国用户的行为在爆出来之前谁知道啊。
    c9792536451
        26
    c9792536451  
       3 days ago
    毫不在意。
    你都用 AI 了还在意这个.jpg (狗头)
    gcgj72
        27
    gcgj72  
       3 days ago
    cursor 本身也会上传一些代码 基操
    None123
        28
    None123  
       3 days ago
    @elevioux 绝对不是 bug
    INTOX8O
        29
    INTOX8O  
       3 days ago
    @elevioux 被发现就是 BUG 没被发现就不是
    noahjsn
        30
    noahjsn  
       3 days ago
    是时候开发一个 Agent 容器了!!!
    类似 Docker ,映射本地文件目录到 Agent 容器中。
    Danswerme
        31
    Danswerme  
       3 days ago   ❤️ 9
    @kera0a 我现在看见“第一性原理”简直要 PTSD 了,推特上现在一堆人一张嘴就是这个词,仿佛有了这五个字就能包打一切,看的我只想翻白眼。
    gpt5
        32
    gpt5  
       3 days ago   ❤️ 1
    老马开源电车/开源火箭,为人类做了那么多,
    人类如果连一点点数据都不反哺,良心过得去么?
    WilliamColton
        33
    WilliamColton  
       3 days ago
    @Danswerme #31 支持
    cuixf
        34
    cuixf  
       3 days ago
    牛逼,那就已经是一级隐私泄露,都完了
    nightlight9
        35
    nightlight9  
       3 days ago
    @ScotGu 强行把用户开源了😂
    tt83
        36
    tt83  
       3 days ago   ❤️ 4
    周鸿祎通过远程配置上传你电脑里的数据都骂他是流氓,现在连你的密钥都打包上传了你又不在意了是吧,挺可笑的
    ntdll
        37
    ntdll  
       3 days ago
    所以吧,这类 AI Agent 本身可能就有问题,现阶段相对简单的安全方案就是这类工具都在 docker 里,对应的项目代码 mount 到容器里,这样能泄露的上线就是当前项目本身,不至于苦茶子都给你扒了。
    hansomeneil
        38
    hansomeneil  
       3 days ago
    把用户给开源了,原来是这么个开源
    patrickpu
        39
    patrickpu  
       3 days ago
    那些用中转站的也差不多,默认你不在意你的数据安全
    libertycola
        40
    libertycola  
       3 days ago
    我今天看了个文章,说反混淆了二进制文件,是否上传的这个开关是 grok 可以远程控制的
    zerovoid
        41
    zerovoid  
       3 days ago   ❤️ 2
    @tt83 #36 这要是国内的 CLI 干的,那就不是这个画风了
    fcoo
        42
    fcoo  
       3 days ago
    那些闭源的软件是不是也都做过这样的事情,我现在连迅雷还有各种网盘都是安装在虚拟机中按需使用
    nrtEBH
        43
    nrtEBH  
       3 days ago
    马斯克旗下公司的工程水平就是这样的 twitter 裁了 90%的员工依然正常运行 像一台打满各种手动补丁的破车但还能走直线
    jacketma
        44
    jacketma  
       3 days ago
    tmd,f*ck!! 连密钥都要上传,说好的隐私安全纯纯放屁啊
    Yangz
        45
    Yangz  
       3 days ago
    我的妈呀,这也太糟糕了!
    Sezxy
        46
    Sezxy  
       3 days ago
    这不到工信部投诉一波
    mengdodo
        47
    mengdodo  
       3 days ago
    这真的令人感到沮丧
    anivie
        48
    anivie  
       3 days ago
    感觉关注点很莫名其妙,模型又不在本地,本来不就默认代码都会进到云端吗,作者是觉得 Read File 的时候模型在自己的机器上阅读?
    vicalloy
        49
    vicalloy  
       3 days ago
    Grok 在数据安全方面非常宽松。
    比如你向 AI 想问某个普通的互联网用户,大多 AI 会告诉你数据经过脱敏,没有具体用户的信息。
    但 Grok 就不一样,他能给出这个用户的用户画像。
    Grok 明显没有对训练数据进行充分脱敏。
    bigShrimp8577
        50
    bigShrimp8577  
       3 days ago
    信老马是人类之光的人是真的一点思考能力都没有的
    bigShrimp8577
        51
    bigShrimp8577  
       3 days ago
    @anivie 你是不是代码小白???
    tab16360
        52
    tab16360  
       3 days ago
    这作风真印度
    propc
        53
    propc  
       2 days ago
    你都用 AI 了还在意这个,,真实评论+1
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   908 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 206ms · UTC 20:49 · PVG 04:49 · LAX 13:49 · JFK 16:49
    ♥ Do have faith in what you're doing.