Forty on Nostr: ...

意识和智能之间的关系，好比鸟儿的翅膀和飞行能力的关系。飞机没有鸟儿那样的翅膀，也能飞行万里。你可以说飞得不一样，但不能说飞机不会飞。

所以你可以说AI没有意识，但不能说ChatGPT没有智能。

智能的标志性是拥有（部分）世界的知识，比如物理定律，逻辑因果，并能根据这些知识和模型对下一步会发生的事情做出预测。如果预测错误，就尝试调整模型，提出新的解释，并学到新的知识，有机会再通过预测和调整不断学习和完善。

这种能力，ChatGPT已经具备并且相当强大了。这一点连乔姆斯基老爷子和Yann LeCun可能都没完全注意到。

意识的存在先于智能，不光人类有意识，很多动物也有。“我思故我在”。通过自我意识，人类得以区分自我和世界的其它部分，然后通过自我与其它的交互进行学习，不断完善智能。

智能也要基因作为基础，人类以外的动物没有语言的基因基础，所以学不会说话。这种基因能够被自然选择出来也是因为其上能产生一些智能，两者相互促进，久而久之其就产生了现代人类。基因进化缓慢而智能在爆炸，所以进一步的演化可能会越来越被智能能力所驱动甚至主宰。

语言（文字）可以用来描述关于世界的知识并用来沟通和相互学习。GPT4这样的人工智能通过人类的语言文字学习到了世界的知识，产生了智能。这种智能至少在起源上与人类不同，不起源于意识。这两种不同的智能以后的发展会怎样……可能人类很快就能目睹。

人类也制造出了能够挥动翅膀飞翔的机械鸟。无非还是同一个世界同一套知识。只要是AI有办法持续学习，完善对这个世界的建模，看不出有什么人类智能是AI达不到的。整天在和ChatGPT聊天的人类已经在帮助它学习和完善了。（已经是人矿电池了？

而两种智能的价值观肯定不同，这一点是凶是吉，人类如何应对，甚至能否应对……

我不知道。

我觉得自己在思考，但可能背后有x在发笑。x = 人 or AI


这篇文章说的就是，为什么AI会产生价值观和自己的目标

https://mp.weixin.qq.com/s/u3TWmwNo9rPHxD0QxPs1pQ