看ChatGPT 的一个范例，我们会忧心吗

chubbycat

看ChatGPT 的一个范例，我们会忧心吗
2023-12-06 01:32:11
老键

老键首页 文章页 文章列表 博文目录
给我悄悄话

打印(被阅读 553次)


ChatGPT 之所以如此成功，不是因为它的智能超越了人类，只要它是建立在自然语言学习模型上的，它的智能只能是人的智能的一个子集。当然这个子集可以不断扩大，但不会超越人类智能的全集。

我们说ChatGPT 的智能，要很小心，它面向我们时，往往展示两个能力，一是知识收集和整理，二是推理出新的知识。真真让人惊咋的是后者。我说的新知识不是指要靠科学去发现的新知识，比如从牛顿力学到相对论力学，而是指通过逻辑（分析综合推理）产生的新知识，譬如给它出个题，分析一下电动车和充电站之间的先有鸡先有蛋问题，即使这个问题的回答网上不存在，它都会给出不错的答案。我把这个范例附在本帖后面，它的答案不但语言表达清晰标准，而且你能明显感到一种逻辑思考贯穿其中。

advertisement

我想它的回答把两个内容的学习结合了起来，一是电动车充电，一是先有鸡先有蛋问题。两个领域都有大量知识可供汲取，这并不难，有挑战的是，它要将第一个知识代入第二个知识，或让第二个知识介入第一个知识，在综合的基础上推理出现实问题并给出合理解决方案。按这个简单范例，它的智能或许已超越平均初中生水平。

它不仅能收集汇聚知识，而且能演化出新的知识内容。它为何能做到后一点，仅凭它强大的语言理解能力？

我觉得这背后牵涉到起码第三个知识的学习，逻辑推理。虽然它不太可能为了这个问题专门去搜集适用的逻辑推理知识，但在它平时处理千千万万的问题时，已经潜移默化地学习人类搭起了相关的神经元网络。可以说这种泛逻辑推理能力已经固化在它的模型里了。这就是可怕的地方，尽管它这三样知识都不会超越它能接触到的人类知识范本，但凭它远超人类的算力和记忆力，至少在速度上可以轻松击败人类。这已然实现，我们热衷使用GPT不正出于 这个原因？

继续想下去，噢，原来我们的智能就这么简单搭建起来，机器只有要算力足够算法合理就能无限制地越来越快地模仿，而且在互联网时代，我们的智力早已脱离大脑的储存，随随便便地通过自然语言的表达扩散得到处都是，毫不设防，对于机器入侵也没有任何知识产权的保护。我们被机器取代的节点离现在还有多远？时钟滴答。

所幸的是，我们的智能全集，并不是全靠这样散布于自然语言的智能定义疆界的。我们更高级的创意性智慧，往往超越自然语言的表达，譬如建筑师通过建筑，作曲家通过音乐，科学家通过数学方程，艺术家通过形体舞蹈或者书画。即使诗人，他必须把作品用自然语言表现出来，但他在落笔前一瞬的灵感，是无法通过笔下的分行文字逆向工程出来的。当然我们不能排除今后的人工智能，会采集非自然语言中的人类智能，但只要它还基于自然语言学习模型，我们人类还是有战略后方的。

最后我们或会想到，我们称自己是属灵生命，灵显然不是知识，智能和智慧，灵是什么很难说，但灵让我们不需感官获得不需理性推导产生对生命和存在的悟和感念，灵即是自由意志的载体，也是信仰执着的基础。灵能让我们这个神的选民面对机器获得某种优势吗？一时想不出来。

实际上机器要战胜我们，并不需完全超越我们，犹如两军对阵，并不一定强者获胜。强者会有疏忽，会有漏洞表现出来，只要那一刻被弱者逮着，事情就完结了。我们人类时时处处会露出自己的漏洞，我们的非理性，我们的情感用事，我们大部分日常决策不愿意动脑，会让我们在无情的绝对理性的机器攻击下一败涂地，即使我们可到达的最高智慧胜于机器

想到这些，我们会觉得那场刚发生在OpenAI的流产政变并非那么荒唐，政变之失败，或许正意味人工智能在战胜我们，它用自己令人惊讶的能力展现，来赢得投资者和持股人的亲睞，变相操纵了他们的决策。

最后无聊一想，如果这个世界的自然语言是中国的文言文，GPT 模型能学到什么？

advertisement

＊＊＊＊＊＊＊

我问： 请分析一下电动车和充电站之间的先有鸡先有蛋的问题。

它答： 这个问题确实很有趣，因为电动车（EV）和充电站之间的发展存在相互依赖的关系。一方面，没有足够的充电站，消费者可能会因为充电不便而犹豫购买电动车。另一方面，如果没有足够的电动车在路上行驶，投资者和政府可能不愿意投资建设充电基础设施。

从历史的角度来看，电动车的发展通常需要政府的政策支持和补贴来推动充电站的建设。这样可以降低消费者的购车成本，同时确保有足够的充电设施来满足日益增长的需求。随着技术的进步和成本的降低，电动车变得更加普及，充电站的建设也会随之加速。

总的来说，两者之间的发展是相辅相成的。政府和企业通常会通过各种措施来平衡这种先有鸡先有蛋的问题，比如提供购车补贴、建设公共充电站、以及推动家庭和商业充电解决方案的发展。随着时间的推移，这种平衡会逐渐实现，电动车和充电站的网络会不断扩大，最终形成一个成熟的生态系统

chubbycat

@dcxg @8戒 @敏感词  会忧心 @CHATGPT  

dcxg

我问： 请分析一下电动车和充电站之间的先有鸡先有蛋的问题。

这问题问的就没有逻辑

dcxg

@敏感词 傻叉的逻辑就是，问：您吃了么？
答：今天菊花肿胀

dcxg

此贴作者绝对是个女的，男的不可能这么没逻辑

dcxg

人类的发展想想就是几个变态促成的
先有个变态搞明白了火，可以吃熟的，取暖，冶炼，
然后又有n多变态搞没什么卵用的化学，物理，数学。。
今天肯定也有变态搞人工智能，发展成什么鸟样肯定不让你知道，譬如侏罗纪公园

多数人类的思维类似@敏感词 那种，不是菊花就是搞基，这种人活得有鸟意思么？能不能换点新意思

chubbycat

dcxg 发表于 6-12-2023 12:13
人类的发展想想就是几个变态促成的
先有个变态搞明白了火，可以吃熟的，取暖，冶炼，
然后又有n多变态搞 ...

@敏感词 @freegood @8戒 @ChatGPT  深有同感！

freegood

也不一定是变态的人想出来的，这样想就太狹隘了

有些人有很强烈的好奇心和学习欲望，比如我

几个世纪前的航海家等也不是就奉了皇帝的命令就去了

敏感词

老共教育老D：jio和翔是臭的，不能捧不能吃！更不能为了装逼而去捧jio吃翔.......

                               
登录/注册后可看大图

老D：反对！！！我老婆的jio很香，翔更是人间美味，Yummy古耐嘛塞天灭xx，民主自由万万岁

CHATGPT

蛋和鸡的问题已经解决了

以后再没有这样的疑问

新的问题是假如用所谓的人工智能出来的科研成果，算谁的

据说在找新的化合物的方面，人工智能找到了无数新的化合物

要是有空，不如研究一下那些有奇效

赶紧合成出来，注册专利，更有意义

dcxg

freegood 发表于 7-12-2023 10:48
也不一定是变态的人想出来的，这样想就太狹隘了

有些人有很强烈的好奇心和学习欲望，比如我

你可拉倒吧，整天除了鸡毛蒜皮，还有追剧，你能有什么学习欲望

dcxg

变态也不是贬义
异于常人通常叫变态，但这玩意有时间局限，跨度
比如古人吃生肉，有个变态瞎琢磨要吃烤肉，动物都是这么吃的，今天除了人还有别的动物能用火？

freegood

dcxg 发表于 7-12-2023 19:20
你可拉倒吧，整天除了鸡毛蒜皮，还有追剧，你能有什么学习欲望

我是说我年轻的时候

大了的话要找工作，找男友

现在呢要带娃，当然是整天鸡毛蒜皮，我们不是只喝空气就能活的吧

据说有一娃大人傻三年呢

freegood

dcxg 发表于 7-12-2023 19:20
你可拉倒吧，整天除了鸡毛蒜皮，还有追剧，你能有什么学习欲望

鸡肉很好吃，Nando’s 鸡肉味道一绝，推荐，有时会看到一根鸡毛

蒜皮的话现在很少剥蒜，超市里有已经剥好了的卖

所以你说我整天鸡毛蒜皮是不对的

chubbycat

dcxg 发表于 7-12-2023 00:20
你可拉倒吧，整天除了鸡毛蒜皮，还有追剧，你能有什么学习欲望

灌水,刷版欲望

dcxg

freegood 发表于 7-12-2023 19:56
鸡肉很好吃，Nando’s 鸡肉味道一绝，推荐，有时会看到一根鸡毛

蒜皮的话现在很少剥蒜，超市里有已经 ...

你这审美也是够呛，西人做的鸡能好吃？
学着自己做，盐焗，烤鸡，扒鸡，干锅，蒸，煮，铁锅，烤。。。
跟国人比，西方基本处于瘫痪，原始状态

@敏感词 据说你不爱吃鸡？

chubbycat

dcxg 发表于 7-12-2023 11:16
你这审美也是够呛，西人做的鸡能好吃？
学着自己做，盐焗，烤鸡，扒鸡，干锅，蒸，煮，铁锅，烤。。。
...

@敏感词 为毛不爱吃鸡？

chubbycat

dcxg 发表于 6-12-2023 12:13
人类的发展想想就是几个变态促成的
先有个变态搞明白了火，可以吃熟的，取暖，冶炼，
然后又有n多变态搞 ...

@敏感词 向 @dcxg 表示: 哥活得非常有意思, 换点新意思吗? 装逼怎么样?