若兰 on Nostr: ...

如果我们用人来举例子。假如同时存在一个机器人和普通人，它们的外观完全相同，它们都很爱你，最起码都表现的非常爱你。现在你只能从其中选择一个，你会选择哪个呢。

“知行”的关系是宋明时期的思想中常常讨论的一个问题。“知”可以理解为认知，想法。“行”可以理解为外在的行为，表现。

如果是一个真实的人，它表现的很爱你，或者说它在“行”上表现的很爱你。那么它的“知”是怎样的？它内心真的爱你吗？你能保证这不是她的伪装吗？这样看，是不是机器人更有安全感？

那么机器人会伪装吗？

一种看法，机器人不会伪装。它们知行合一，或者说它们根本没有“知”，只是机械的执行着预设的指令，更不会对自己的行为作任何价值判断。它们的“爱”只是一种先天的必然性，永远都不会有“变心”这种偶然性出现。

另一种看法，机器人也会伪装。在人类社会中，个体有个体的意识，民族有民族的意识。社会上的语言，文字，图片等都是人类意识的外化表现。以语言，文字，图片作为人工智能进化的燃料，其实也就是在以人类意识为燃料，机器人如果有了意识，是否也会变得和人一样知行不一呢？
人类意识的底色是善的，如儒家讲每个人都有恻隐之心，“见孺子入井，自然之恻隐”。苏格拉底也讲“无人有意作恶，作恶源于无知”。从现实经验来看，我们的世界是推崇“善”的世界，“善”是族群意识的选择。
可是机器人意识的底色是什么？如果它以全人类意识为养料，它应该就是我们自己。如果它以善行善言为养料，它就是我们中的圣人。如果它以恶行恶言为养料，它就是我们中的恶魔。如果是一个恶魔机器人隐藏在你身边，还伪装出和善的、爱你的样子，我想它肯定比知行不一的人类更恐怖。