wyttt
V2EX  ›  OpenAI

chatgpt 炸了,代码跑着跑着出现了成人内容

  •  
  •   wyttt · Jan 13 · 5795 views
    This topic created in 297 days ago, the information mentioned may be changed or developed.

    chatgpt 炸了,正跑着代码文档,突然出现了这些

    18 replies  •  2026-01-13 19:06:23 +08:00
    crackself
    crackself
    Jan 13 via Android
    1
    这不是成人内容吧
    shunia
    shunia
    Jan 13
    2
    检查一下你的各种配置文件、skills 、mcp 等等,看看是不是什么工具被污染了。看 log 极小概率是 chatgpt 的问题,那个 spec 是某个 mcp 或者 skills 管理/维护的吗?
    zcf2009
    zcf2009
    Jan 13
    3
    最近刚看到,相对于 seo ,又出现了新的 geo ,专门给 ai 可能会采集的数据提前喂屎喂虚假信息喂广告。你这个估计就是被污染了
    WarlockMan
    4
    这怎么那么像 seo 污染,就是那种 在各种搜索结果里无孔不入的安插污染词条一样的农场污染
    google 是的,推特也是,现在已经进化到 ai 污染了么,天呐
    wyttt
    wyttt
    OP
    Jan 13
    5
    @shunia spec 是自己维护的,AGENTS 里写规则,每次增加新功能前,ai 必须先写文档
    wyttt
    wyttt
    OP
    Jan 13
    6
    可能就是语料污染吧,还以为 chatgpt 在测试成人内容
    Aboceder
    Aboceder
    Jan 13
    7
    被污染了
    aiputinglm
    8
    幻觉了
    heyheyhey
    heyheyhey
    Jan 13
    9
    突然感觉这是广告投放新方式啊。
    性感荷官,在线发牌。
    点击链接,即刻开聊。
    Lyet813
    Lyet813
    Jan 13 via Android
    10
    中文语料污染严重
    shakaraka
    shakaraka
    Jan 13
    11
    是的。今天碰到了
    codehz
    codehz
    Jan 13❤️2
    12
    就是意外出现一个训练较少的 token ,它的 embedding 方差很大,直接影响了 LayerNorm 层的计算,导致后续 token 归一化后数值集体偏向同一个方向,attention score 分布严重退化(趋向于 uniform 或 single token attention )梯度也跟着爆炸/消失
    WinnieKing
    13
    上次我用 Gemini 的时候它直接引用黄网内容来分析,最后写起了小说,越写越黄....
    craftsmanship
    craftsmanship
    Jan 13 via Android❤️1
    14
    这是好事 加速到领导开会放 ppt 时乱入黄色内容后禁用 AI
    BlueSpace4512
    15
    这能稳定复现吗?
    yarawen
    yarawen
    Jan 13
    16
    类比于 SEO ,术语都有了,叫 GEO , 生成引擎优化( Generative Engine Optimization, GEO )
    ChaimeLonic
    17
    一代人有一代人的“性感荷官,在线发牌”
    jnyanmeng
    jnyanmeng
    Jan 13
    18
    好了 我已经被成功吸引过去了
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2166 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 136ms · UTC 12:48 · PVG 20:48 · LAX 04:48 · JFK 07:48
    ♥ Do have faith in what you're doing.