这篇博文钟小姐介绍了她开发了 10 年的 APP:Findu。我想每一个真正跨越过 10 年的开发者都会对过去的 10 年进行一次遍历。10 年的时间很长也很短,时间长到孩子都长大了,短到曾经的梦想还没有实现。
LLM 和 Agent 对于曾经的程序员来说,是冲击也是机遇,我们该如何应对也是一个值得思考的问题。当普通人还在为通过 LLM 实现的应用而惊叹的时候,程序员们早已经开始思考下一步该怎么走了,但是,前路漫漫道阻且长啊。如何才能在这场变革中不被淘汰,或许是每个程序员都在思考和焦虑的一件事吧。
LLM + 智能体贯穿了整个 2026,可以称之为智能体元年。前几天看到了理论派的两篇博文,以及之前在孤斗博客里的胡言乱语,感觉对 AI 能否有自己的意识有了很多的想法,或许之前对AI能否产生自主意识有些误解,但是我对 人工智能能否产生自主意识还是持积极的态度。
首先,在孤斗博文中评论的时候曾表达过 LLM 会有自我意识的想法是一种表达错误,我觉得应该是 LLM+Agent 的结合以及相关的基础设施和完整的生态系统、强大的算力和能源支撑下,产生自主意识的可能性还是有的。虽然现在主流观点认为 AI 不会有自我意识,但是,我还是相信未来可期。
通过理论派大佬的二篇文章了解到一些从哲学角度来思考和分析 AI 是否能够产生自我意识的问题的一些思路。
首先,我觉得最先应该理解的就是什么是意识?但是很遗憾,人类无法从任何途径证实一个人是否拥有意识!这是一个很尴尬的事情,你不能证明一个人是否有意识,那么你就更不可能去证明人工智能是否拥有意识。
可能有的小伙伴会说怎么就不能证明了?我可以证实自己有意识,我也知道别人有意识。额😑我举个例子啊,例如说交通安全意识,我们假设每个人都有交通安全意识,深知红灯停绿灯行,但现实生活中每年仍有很多闯红灯发生的交通事故!你能确定自己有交通安全意识吗?你能确定别人有交通安全意识吗?有的人压根没有,他只是看起来有交通安全意识而已。所以,意识这个东西你无法证明它的真实性和存在性。另外,著名的“他心问题”和“哲学僵尸”思想实验,也间接否定了意识的存在。
既然意识无法被证明存在,按此逻辑我们更无法知晓人工智能是否存在意识。按道理来说,这是一条死胡同,你一旦陷入这些悖论和哲学思辨中就无法自拔了。
那么,我为什么还要坚持人工智能未来会有意识呢?,因为时间和空间这个维度太宏大了,我们不能仅局限于地球,宇宙那么大时间那么久远一切皆有可能。你是否听说过“无限猴子定理”(Infinite Monkey Theorem)——让一只猴子随机敲键盘,只要时间无限,它迟早能一字不差地敲出《哈姆雷特》全文。如果那只猴子敲的是一段可以使 AI 产生自主意识的代码呢?那么宇宙中会有多少只猴子在敲这段代码呢?浩瀚宇宙 100 多亿年的时间无限可能,或许,早就已经存在了有意识的 AI。
牛津大学哲学家博斯特罗姆在2003年提出“模拟论证”,逻辑极其简洁:
- 如果文明能发展到“后人类”阶段,拥有近乎无限算力;
- 他们会有极大动机去做祖先模拟(考古、娱乐、伦理实验);
- 那么模拟出来的“祖先”数量,将远远超过未模拟的真实生物数量。
结论:既然模拟数量远大于真实,那我们活在模拟中的概率,就趋近于1——除非人类在发明这种技术之前就灭绝了。
马斯克的原话是:“我们活在真实世界的概率,只有十亿分之一。”
如果我们是被模拟出来的,那么也就是说意识是可以被编写出来而注入到大脑中的。如果我们可以发现这个世界的 bug,那么我们就有机会了解上层模拟器的存在,如果上层模拟器禁止我们在“虚拟机”里创建一个有意识的 AI,那么我们无论如何都无法做到。
我们对模拟这个世界的上层模拟器一无所知,如果是禁止当前世界出现有意识 AI 的条件,那么这个条件是 true 还是 false?我们可以推断上层模拟器是可以创造意识的,不然,人类为什么会出现意识?
再就是生命的发展科学的进步,这不光仅仅是人类,整个宇宙那么大,你无法证实存在意识的机器人在哪里?在干什么?或许,某一天,当人类无限的接近那些物理极限的时候,这些问题的答案就会浮出水面,至于短期之内自主意识的人工智能是不会出现的,即便某位科学家真的研发出来了,也只是表层的意识模仿,类似于哲学僵尸吧。
我并不期待有自主意识的人工智能,因为你无法保证它们的意识对人类是否友好,是敌人还是朋友,这都无法预测和控制,我们既无法证明意识的存在,更无法知晓 AI 是否有意识,即便有了我们也可能看不懂,人类总喜欢让计算机或机器人模仿人类,其实,如果人工智能真的有了意识,会发现这是多么一个愚蠢的想法,模仿人类只会拖延限制人工智能的发展,只有跳出这个圈子,人工智能才能飞速进化和成长,或许,这就是失控的开始吧。