“人工智能”与人类思想有什么区别？

远航一号

新品葱上有人问：
https://pincong.rocks/question/57127


请问人类思想与AI有什么本质区别？
最近chatgpt产生是令人震撼的，他给我的震撼不亚于最初接触互联网的时刻，我本来想早点聊聊这个话题，但总是认为还是缺乏对这个问题的深入认知而做罢，直到今天终于有了一个大致的想法希望能与大家探讨。
众所周知，长久以来我们人的独特性都是源于我们的思想，思想让我们有别于无机物，而深刻的思维又将我们与动物区别。计算机之父图灵曾经通过制定一系列测试来探讨人与机器算法的区别。但是，如果有一天有机器能够通过图灵的测试呢？
这一天可能不会很远，chatgpt很有可能在第四代马上就能实现这一点。我对此实在想说，如果机器可以通过神级卷积与奖励算法实现与人的思想的类似性，人的思想是不是本质上就是一种数据量很大甚至不太优秀的算法？至少从比较宏观的生物学实验来看，生物包括人适应环境的条件反射与机器没有本质不同，甚至效率还要低下的多。这真的震撼了我。

远航一号

回答一：

不用把这个问题带到哲学上面，我们不需要因为ChatGPT的出现而重新定义人类思想，因为它还远远没有达到人类的境界。

ChatGPT属于AI范畴中的自然语言处理（NLP）方向的一个新的应用模式，相对于其他已经成熟的AI分支（比如人脸识别、语音合成、语音识别），这才算是刚有一点好用。成熟的AI分支刚产品化的时候也有很多人怀疑后面有人在实时操作或者电脑已经形成了智能，比如随iPhone 4发布的Siri它能听能说，很多人觉得它很神奇，我当时就发现不过是语音识别+模式匹配+搜索+语音合成－－90年代就有的技术，现在看第一代Siri你会觉得它是人工智能还是人工智障呢？

如果你不熟悉Generative AI和自然语言处理的原理，我再做个类比：
传统搜索引擎是利用人类手写的规则 查找所有符合关键字的网页 然后按照相关性进行排序 最后输出原文或链接
ChatGPT是利用它自己发现的规律 在它语料库里所有人类表达的排列组合中 寻找用户输入的“上文”最有可能的单一“下文”
即它是一个词组、句子级的搜索引擎。这就意味着它不可能发明语料库里从没有出现过的语言现象和逻辑，也就不存在真正意义上的创新。


从理论上说它的神经网络只能是以人类设计的分词法作为基本输入输出单元，它的行为也只能受其训练集的左右，这是传统型(非量子型)计算机物理原理决定的。编写它程序的人为了让它表现的更像人类加入了一些随机元素，但是你要是找到了一个它的一个bug你可以让它不停犯同一个错误，即使你每次纠正它它也不会改，因为程序就是固定的。同时它的神经元的数量远远不足以让它进行复杂的逻辑思考，让它运用它训练集里已经大量存在的逻辑规则（比如数学）都很困难，要它理解这些规则是怎么来的基本是不可能，简单规则都理解不了就别提理解它自己的代码；同时物理决定了它一定无法把它自己的程序模拟起来，那靠百万猴子法改进自己也是不行的。所以ChatGPT也不具备智能可以自己改进的属性。

我觉得AI要是需要和人类比肩，至少要是运行在大规模量子电脑上才行，因为人脑是依赖量子现象的。按照现在的科研速度还有十几－几十年我们才具备那个物理条件，然后还要软件能跟上。

远航一号

回答二：

人类可以研究未知的事物，但是chatgpt不行，ChatGPT只能回答已知事物的答案。比如我问chatgpt如何制造反重力飞行器，如何大量制造和储存反物质，如何实现超光速通讯，chatgpt根本就答不出来。

远航一号

回答三：

本来就没什么本质区别。人脑思维的物理基础就是大脑复杂的神经元网络中所能激活的不同的电流模式。人所能感受到的“思想”究其本质而言就是深层神经网络中比较底层的一种激活状态，而具体一些想法就是比较表层的激活模式。人脑实际上是一个规模庞大的去中心化系统，思维是复杂性达到一定的程度后所涌现出的一种高层次现象。只要AI的底层构造的复杂性远超人脑，再加上合适的训练方法，就足以创造出能力远超个体人类大脑的超级大脑。

说什么人脑能够创造新事物而AI不能的也可以歇一歇。创造的本质就是已有模式的新排列组合，或者说创造本身就是一种复杂系统中的自发涌现现象。我相信不出几年内就能看到AI以人类无法理解的速度创造新概念、新事物，彻底把人类甩在身后。

目前唯一还搞不太清楚的就是自由意志能否在AI中产生，也即是说AI能否自发产生自我存续的底层驱动力。不过这也应该不算是个多么困难的问题，因为我相信肯定会有人为AI赋予自由意志。

远航一号

回答四：


_ _ 本質區別是强與弱人工智能. 可以説多數動物都有明顯的 Strong intelligence (強智能)特徵能被觀察到, 在一些植物、菌類上也能觀察到. 我猜測多數生命形式都有一定水平的強智能, 能否觀察到取決於人的觀察手段和角度.

_ _ 人類整體與動物的區別在於單位面積的神經元多, 相對於其他靈長類、海豚和老鼠來説. 神經元建立的連接也多, 相對於腦較爲光滑的動物來説. 大腦終生成長, 反例是雄性鮟鱇魚. 人的腦讓人可以建立文明等諸多思想創造, 可以説人的能力多數在智能上, 顯然和其他食肉猛獸說不了這些. 如果和七個獅子的群體能溝通, 我能解釋我的種群大十億倍、一些同類決定不再吃肉, 但我不認爲獅子能明白這背後的意義.

_ _ 個體來説, 人體與主要思考器官讓我們能有七十億個獨特個體的能力. 除非自生長電路微型化, 或通用量子機和搭配AI軟件實現, 我還看不到能對人形成威脅的智能. 那個萬國語學舌鸚鵡很好用, 雖然我還沒用過. 它的繼任 GPT4 應該更好用, 是否充錢嘗鮮看個人選擇吧.

_ _ AI 先得出現強人工智能, 再拼的過狗狗我才會認真去看它是否有潛力和人一教高下, 雖然我也希望有[正電子腦]出現, 但無可否認大腦避過熱力學限制的手法過於高明, 目前人類還學不來.

远航一号

以上转自新品葱

远航一号

顽皮蛋 发表于 2023-3-25 22:49
这个问题，我可以提出一些片面性的看法。
左派如有兴趣，可以回到辩证法与认识论的范畴去思考与回答。只不 ...

很有意思的思考