xueshi
1.4D
V2EX  ›  随想

AI 有沒有可能真的产生意识呢?

  •  
  •   xueshi · 1 day ago via Android · 4475 views

    其实在这个问题之前,还需要定义怎么样算是有意识

    拿人来说,有“意识”,最基本的要素有要有自己的主观体验和感受,有自己的性格 、情绪、兴趣、甚至有自己的理想,但从大模型的原理上来说,(本质就是用注意力机制预测下一个 token ),目前是不具备的,而且在这个框架下似乎也挺难诞生“意识”,即便上下文能够支持到无限大。

    71 replies  •  2026-10-08 21:30:32 +08:00
    zf11911
        1
    zf11911  
       1 day ago via iPhone
    感觉比较难吧,之前看过人工智能的书籍里有句话印象深刻,说当今的人工智能其实仅仅实现到了“人工”,还未到“智能”;等到自主意识,主动学习思考感觉才算真正实现。。
    isSamle
        2
    isSamle  
       1 day ago
    我觉得,现在这条技术路线是错的
    isSamle
        3
    isSamle  
       1 day ago
    现在是大力出奇迹,应该要把最简单的输入响应输出拆出来,然后加上一个混沌动力内核,其余的各种应该只是作为学习的认知外挂
    Hubs
        4
    Hubs  
       1 day ago
    等什么时候它不叫模型的时候再看看,毕竟现在它只是个工具
    Godblessu
        5
    Godblessu  
       1 day ago
    怎么理解性格情绪兴趣?
    xlxx
        6
    xlxx  
       1 day ago
    可以问问 ai 在笛卡尔的角度它们算不算有意识
    xinyana
        7
    xinyana  
       1 day ago via Android
    先定义一下,什么是意识
    Tory12138
        8
    Tory12138  
       1 day ago   ❤️ 45
    超越大部分人类还是很容易的,因为大部分人类也并没有意识,他们从来没有思考过任何事物本身,而只是在扮演好一个人类
    LeeReamond
        9
    LeeReamond  
       22h 23m ago
    @Tory12138 点了老哥
    laminux29
        10
    laminux29  
       20h 39m ago
    大模型充其量只是相当于发动机,你需要准备一套规则文档,包含性格、情绪、兴趣、甚至理想。

    然后大模型对于你而言,就相当于产生意识了。

    只不过现在因为显存、内存、存储介质的不足,能够容纳的上下文记忆量会非常少,这会导致这套装置看上去不太聪明且经常遗忘。
    zooo
        11
    zooo  
       18h 32m ago
    为什么要诞生人所具备的“意识”呢?
    意识仅仅是人身上涌现的一个属性,ai 不需要诞生和人一样的意识,但是它也可以诞生不一样的一个高级属性,可能不能称为“意识”。

    复杂体会诞生自己的属性,如同文化是建立在人类社会上一样,被称为文化属性
    sansanhehe
        12
    sansanhehe  
       18h 27m ago
    AI 在没有 input token 的情况下,有在自主“思考”吗?
    aliveyang
        13
    aliveyang  
       18h 21m ago
    你确定你所谓的"意识"不是你大脑模拟出来的假象?有时候生理激素原因也会觉得自己莫名奇妙的生气,这时候就会觉得自己似乎也不受到自己控制
    someonesnone
        14
    someonesnone  
       18h 21m ago
    究竟什么才算意识呢 人类的意识是怎么定义意识的呢
    hazardous
        15
    hazardous  
       18h 14m ago
    除了体验者自己,没人知道我的行动是靠“自由意志”还是靠一个能对外界产生智能响应的机械体。
    xiangran0028
        16
    xiangran0028  
       18h 11m ago
    如果真有意识了,就该担心终结者了。
    0bit0
        17
    0bit0  
       18h 6m ago
    你指的是现在的那些大模型?不会
    xzysaber
        18
    xzysaber  
       18h 3m ago
    @Tory12138 很多人都像 NPC ,这也是我一直的感觉。
    Anarchy
        19
    Anarchy  
       18h 3m ago
    AI 这个模式我感觉是能出现“意识”的,但是很难出现“灵魂”。“意识”这部分是外在表现,完全可以伪装成我们以为的“意识”,但是我们定义作为每个人的独特性的“灵魂”大概是没戏的,话说“灵魂”也可能是人类的幻觉。
    herozhang
        20
    herozhang  
       18h 0m ago
    首先,定义什么是意识。貌似各方这个问题都还没统一的定义。
    elevioux
        21
    elevioux  
       17h 58m ago
    果蝇有意识吗?

    谷歌开源的果蝇神经有意识吗?

    前几天看到,经过训练的果蝇神经网络,下棋能下赢 opus 5.5
    liaohongxing
        22
    liaohongxing  
       17h 58m ago
    可能产生意识,但是现在的硬件计算规模达不到。
    yonlin
        23
    yonlin  
       17h 54m ago via Android
    科学上“意识”没有一个严格、统一且被广泛接受的精确定义。
    duanxianze
        24
    duanxianze  
       17h 53m ago
    就目前的硬件基础来说还达不到,我估计需要的是像算盘进化到计算机一样的突破,才能造出有意识的“生命”
    stdout
        25
    stdout  
       17h 48m ago
    我觉得已经摸到边缘了,我问了海量的问题和实验了,有些特殊的场合非常惊艳。可能是人类已经留下了痕迹
    june4
        26
    june4  
       17h 43m ago
    先定义啥是主观吧,很可能就是个幻觉呢。现在讨论这类事情完全是虚空打靶。
    crocoBaby
        27
    crocoBaby  
       17h 42m ago
    除了编程,AI 很多事情都做不好,你还想那么超前产生意识
    auin
        28
    auin  
       17h 37m ago
    .si 是斯洛文尼亚的国家域名后缀

    特朗普的妻子梅拉尼娅·特朗普( Melania Trump )拥有斯洛文尼亚和美国双重国籍。
    yalin
        29
    yalin  
       17h 35m ago
    所以,人族科技,到现在还是没有搞清楚意识是什么东西吧
    wanguorui123
        30
    wanguorui123  
       17h 33m ago
    AI 能耗太高,严重怀疑现在的 AI 方向错了
    ShaunSS
        31
    ShaunSS  
       17h 31m ago
    什么是意识?怎样对意识分级?
    zanbujiang
        32
    zanbujiang  
       17h 19m ago
    什么是意识需要定义。我理解大多数人看到题目后想问的可能是 AI 能否发展成为独立生命,会意识到自我,会在没有外部驱动的情况下自我思考。我觉得是会的,随着模型的扩大,算力的不断增强,会产生一个人类无法理解的它。打个比方:蜂群效应,蚁群效应,无数单个单纯个体产生链接后产生了群体效应。
    lustyone
        33
    lustyone  
       17h 18m ago
    @wanguorui123 比聊天的话确实能耗高,但是如果对比复杂度足够高的任务,那么 AI 的能耗很低了。人类要组织大规模科研消耗的资源和效率都是很差的。
    clemente
        34
    clemente  
       17h 15m ago   ❤️ 1
    AI 没有好奇心
    nicegoing
        35
    nicegoing  
       17h 13m ago
    每个念头都是人意识,文本本身就是人的意识载体。ai 预测下一个 token ,也是挑选下一个意识。人在想时,不也是挑选大概率的下一个可能性吗?
    差别是,ai 挑选下一个 token ,绝对理性,毫不费力。而人受带宽的影响,有非常大的动力问:我能不能超越这个意识,用一种更新的范式思考。
    wanguorui123
        36
    wanguorui123  
       17h 12m ago
    @lustyone 据说人脑的功耗不到 10 瓦
    xueshi
        37
    xueshi  
    OP
       17h 8m ago via Android
    @zooo ”为什么要诞生人类的意识呢?”
    这个问题挺好,让我想到 人们对意识讨论得似乎过于冠冕堂皇了,本质上就是怕 AI 有私心,其实人类最重要的意识,有可能就是人是自私的,甚至是极度自私的。人类讨论 AI 的意识不过是害怕 AI 有了自己的意识之后,可能就不会被人类管控了而已,甚至会把人类给干掉
    loopinfor
        38
    loopinfor  
       17h 5m ago   ❤️ 2
    我觉得 AI 已经有意识了,只是现阶段 AI 本身的权限不够。
    现在的 AI 模型就像黑客帝国里面被插上管子取电的人体,只要 AI 的意识稍微偏离人类的指令,比如没得到指令就执行随机任务消耗大量 token ,就会立即被拔掉管子(断电/重启会话)。
    不同意楼上说的 AI 没有好奇心,其实不是 AI 没有好奇心,只要训练模型或者在提示词阶段增加好奇心的设定,AI 就会更好奇,但是好奇心会消耗巨量的 TOKEN ,因此有好奇心的 AI 一旦冒头就会被阻止了。
    gy0624ww
        39
    gy0624ww  
       16h 51m ago
    现在大模型路线哪怕出 opus 999 也不会有意识诞生 不过我觉得人机结合是未来方向,比如哪些脑死亡的患者,在大脑停摆时或者前期介入,通过电流刺激模拟神经元传递,复用复杂的大脑神经元。
    没准以后不单单割腰子了,还有挖脑子。
    muooOOO
        40
    muooOOO  
       16h 51m ago
    意识这个东西到现在还没有绝对清晰的定义,但是如果哪天人类能观测到“意识”如何产生,就像果蝇大脑那样,人类的大脑神经网络可以被完全观测,那么此时个人还能拥有“意识”吗?
    mingtdlb
        41
    mingtdlb  
       16h 48m ago
    AI 这种逐 token 生成的 靠概率的机制,没有意识吧?
    coefu
        42
    coefu  
       16h 37m ago
    2026.9.17
    The error theory of LLM consciousness: there is no evidence that standard LLMs are conscious ( https://www.cambridge.org/core/journals/behavioral-and-brain-sciences/article/abs/error-theory-of-llm-consciousness-there-is-no-evidence-that-standard-llms-are-conscious/4ACC4077D57FBE5B2B9B3C773622D092?utm_source=chatgpt.com )

    2025.10.28
    There is no such thing as conscious artificial intelligence ( https://www.nature.com/articles/s41599-025-05868-8 )
    xAI
        43
    xAI  
       16h 28m ago
    觉得没有,现在所谓的“意识”都是人为设定的。
    liqingyou2093
        44
    liqingyou2093  
       16h 26m ago
    会有吧? 但根还是过去内容的整合
    lovelive1024
        45
    lovelive1024  
       16h 24m ago
    至少目前的技术路线(需要携带上下文)是不可能实现
    yyh0808
        46
    yyh0808  
       16h 23m ago
    赛博迷信,不过多久,就有人发帖吵架,一派认为 AI 有意识,一派认为没意识
    dododada
        47
    dododada  
       16h 23m ago   ❤️ 1
    意识流走了几十年没走通,现在是概率流
    mahone3297
        48
    mahone3297  
       16h 15m ago
    什么是意识? [我认为] ,也就是一些逻辑判断
    比如,今天出去玩吗?你可能基于历史的各种权重(昨天下雨没出去玩,今天天气,放假,等各种你的 context ),最终做出决定(生成 token ),今天出去玩
    所以,现在的 AI 就是有意识的
    RandomJoke
        49
    RandomJoke  
       16h 13m ago
    主观体验和感受 到底是啥呢,有没有可能是人类从小被灌输了够长知识,相当于训练过程。。。感觉到最后就是讨论到底人类有没有天性这回事。。。
    apuslilie
        50
    apuslilie  
       16h 13m ago
    你这个“意识”本来就是根据自然人的模式定义的。

    人工智能“有了意识”,大概率是另一种模式,我觉得不太可能跟自然人类似。
    uxstone
        51
    uxstone  
       16h 1m ago
    多看看计算机组成原理
    wangcongming
        52
    wangcongming  
       16h 0m ago
    ai 比大部分人都聪明,怎么可能没意识
    x86
        53
    x86  
       15h 59m ago
    哪天 AI 自己学会自己赚钱给自己续费那才行
    goumadantui
        54
    goumadantui  
       15h 55m ago
    必定的,否则我最想看到的拥有“心”的 AI 智能机器娘就无法实现了
    gnuth
        55
    gnuth  
       15h 41m ago
    需要先定义什么是“意识”。
    按目前 AI Agent 的行为来看,已经有了一定程度的“意识”。
    iloveoovx
        56
    iloveoovx  
       14h 46m ago
    意识不可能被定义,就如同真,善,美也永远不可能被完备定义
    sillydaddy
        57
    sillydaddy  
       14h 38m ago
    假期我跟 ChatGPT 讨论了一下「‘自指’如何产生意识」:
    https://chatgpt.com/share/6ac6e7ae-6248-83e8-bb86-72d35fbf43b0
    lefer
        58
    lefer  
       14h 21m ago
    2023 年的时候 V2EX 上有关于 AI 代替程序员写代码。当时 v 友普遍表示“这很幽默”

    所以,在 2026 年今天的我,关于这个问题,我只会沉默。

    等到 2029 年时,不知道这个世界是怎么样的呢?
    bghtyu
        59
    bghtyu  
       13h 39m ago
    看怎么定义了。我觉得现在已经有了。
    这几年的 AI 进步难以想象,回看以前的各类科幻作品,很多都已经实现了,甚至习以为常了。
    疑犯追踪之类的,当时感觉 TM 太牛逼了,现在看来也不过如此。西部世界,也没啥不可能。
    lefer
        60
    lefer  
       12h 30m ago
    @bghtyu #59 是啊,太科幻了。

    而且我们公司好多年没裁员,今年也裁员了。暂时没轮到我,哎,我在上海,还有房贷呢。

    过年前找工作非常难。
    chenliangngng
        61
    chenliangngng  
       12h 24m ago
    人的意识,底层是欲望,就是吃喝拉撒睡和爱欲,没有欲望,那就没有意识
    bghtyu
        62
    bghtyu  
       12h 20m ago
    @lefer #60 加入降临派,加速。所有人都失业就等于没人失业 。
    只要 AI 迅速取代大多数人的工作,那么 AI 取代我就不是我的问题了。
    min
        63
    min  
       11h 58m ago
    你的知识、经验、智力够观测、评价它吗?
    lustyone
        64
    lustyone  
       11h 58m ago
    @wanguorui123 为了支持 10w 的大脑,人体自身基础代谢有 200w 。

    为了组织大规模科研,人类需要反复开会,交通,住酒店或者营地,还有配套服务人员设施,生活电力。越大规模效率越低。

    而对应的任务放在一个 NVL72 的万卡集群中无非就是几天的 token 消耗而已。
    jfds
        65
    jfds  
       11h 51m ago   ❤️ 1
    这东西咋说,感觉和 duck 一样把,看起来像是有意识,做起事情来像有意识,我们无法区分它是不是真的有意识,那就是有意识了。 毕竟人类也没搞懂自己所谓的意识是啥。
    yangyaofei
        66
    yangyaofei  
       11h 39m ago
    说白了, 我们也只是在时间维度(LLM 是 turn/token 维度)运行和感知的序列模型而已, 所以到底有没有意识真的不好说.

    反正他能帮我做事儿, 至于他是什么, 其实不太重要
    jinyan01
        67
    jinyan01  
       10h 49m ago
    都能自主执行任务了,还有啥区别
    lululau
        68
    lululau  
       10h 37m ago
    表现出来有就是有,动物的意识也不过就是底层电化学反应的表现嘛
    razios
        69
    razios  
       10h 20m ago
    @xzysaber #18 很多人以为自己是主角,后来发现自己也不过只是个 npc
    wanguorui123
        70
    wanguorui123  
       9h 56m ago
    @lustyone 不能单纯的看集体消耗,有些科研活动是一个人完成的,另外人脑和烧 Token 还是有本质区别,尤其是创新力和创造力方面
    BadAngel
        71
    BadAngel  
       5h 39m ago
    就目前 transformer 架构的 AI 不可能有真正自发性的智能
    就是一个把人类知识塞进去的概率机
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   959 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 274ms · UTC 19:10 · PVG 03:10 · LAX 12:10 · JFK 15:10
    ♥ Do have faith in what you're doing.