ChatGPT，一种更中心化的权力？
ChatGPT，一种更中心化的权力？Original 十七进制
量子学派 2023-02-10 06:49
引
ChatGPT的威力毋需赘述，它是温和的聚变。越是会使用的人，惊喜之余，越是会感到害怕。
作为这个时代技术的杰出结晶，它带来的是不可预知的革命。无论你喜欢不喜欢，以ChatGPT为代表的AIGC（生成式人工智能）将改变世界。
但这种改变，真的那么让人欢欣和鼓舞吗？不一定。因为人类的命运，将变得更加不可捉摸。那么，到底该如何看待ChatGPT/AIGC？
1ChatGPT/AIGC，生产力的新革命
以ChatGPT为代表的AIGC，将像水一样弥漫在我们周围。
ChatGPT为什么让人如此兴奋？它是一种先进的生产工具，让更多人觉得利用它人生会幸福很多。作为一个人工智能的语言模型，ChatGPT可以做到很多事情：❶与人进行实时对话，即时回答问题❷可以做到理解上下文，实现连续对话❸可以撰写和修改计算机代码❹编写文案、脚本、大纲、策划❺快速生成新闻报道、创作诗歌……
https://mmbiz.qpic.cn/sz_mmbiz_png/fwMichPIGE09ibl2Cia1hZ044y8eIkQiaiaepZqiaasRoGT54bibgChL5hxGobELpCdd3SltQc6B6qJrvIhuO1kIibzxrg/640?wx_fmt=png
ChatGPT代表的是生产力的提升，是一次全新的生产力革命。它在当下不是无所不能的，但却可以一直优化、学习和进步。想一想18世纪的蒸汽机，还有19世纪电力的出现和应用。接下来，ChatGPT可能会像水、电这样的东西，无孔不入，成为人类不可或缺的一部分。
2ChatGPT真的是“横空出世”吗？
ChatGPT出圈的速度，是历史级别的。貌似偶然，实则必然。它的出现，的确是理想主义者的坚定，长期主义者的坚持，真理信仰者的坚韧。
ChatGPT并不是“从天而降”，它经历了长达八年的磨砺：2015年，OpenAI成立。2016年，OpenAI便推出了初代GPT，具有较强的语言生成能力。2019年，OpenAI发布了GPT-2，它已经可以生成语言，并且在一定程度上准确识别语言。2020年，OpenAI发布了GPT-3。可以生成各种类型的文本，可以理解文本的语义。2022年，OpenAI推出了ChatGPT，在GPT-3的模型基础上构建的。
ChatGPT不是“横空出世”，曾经历经磨难。它的创始人Sam有一句名言：不要问我赚钱的问题，我怎么知道。可见，ChatGPT的诞生，一定也被资本无数次地追问过。
3为什么不是在中国出现？
ChatGPT爆火，让很多人反问：为什么它不是在中国出现？有这样的疑惑，非常正常。
2020年发布的《中国人工智能发展报告2020》显示，过去十年全球人工智能专利申请量超52万件，中国约有39万件，位居世界第一。在全球人工智能院校排名中，中国的清华大学、北京大学位居二三位。同时，中国企业在人工智能领域也有很好的成绩，Gartner公布的AI报告中，有三家企业（阿里、百度、腾讯）进入前十名。另外，理论上讲，中国的数据也足够多，其实更有可能训练出优秀的人工智能模型。https://mmbiz.qpic.cn/sz_mmbiz_png/fwMichPIGE09ibl2Cia1hZ044y8eIkQiaiaepH3nwPHGP6fG60NMYaqwK4g5KIFDNw0icfVjq1L3RKFAHE5TygGuSuHg/640?wx_fmt=png
有专业能力，有人才储备，有论文数量，有专利优势，还有数据支撑。看似天时地利人和，但为什么中国就没能诞生ChatGPT？
4人类理想之高远，物质欲求之低劣
最近几年，我们原本在人工智能方面，中国位居全球第一。在没有出现真正全球化的AI产品之前，认为中美平分秋色。
但2022年AI绘画 Midjourney、DALL·E 2和Stable Diffusion横空出世之后，我们就感觉到有点不对劲。现在ChatGPT火爆全球，才知道差距如此之远。
https://mmbiz.qpic.cn/sz_mmbiz_png/fwMichPIGE09ibl2Cia1hZ044y8eIkQiaiaeptnkqoR1icibjLh1jlTJk5jZpIpnZphPzlYK2fJTZYgxjJUxDEYt31Tlw/640?wx_fmt=png
有人总结以下原因：❶没有理想，从来没有想过创造出伟大的原创产品。❷没有自信，只想跟随，没有想过真正去引领人类。❸功利主义，不想自己去测试市场，希望其它人试水后捡便宜。❹没有想像力，只是在实用性上下功夫。❺数据有点脏，简中互联网世界谣言谎话水军太多，垃圾数据阻碍了大数。❻就算有了这个技术能力，也要担心很多技术之外的原因。
最核心的原因，是缺乏理想主义，太功利。总以人类理想之高远，满足物质欲求之低劣？
5ChatGPT/AIGC，会成为新的“卡脖子”技术吗？
中国 IP 不允许注册登陆使用 OpenAI。非常不舒服，感觉一个技术员也故意来卡我们脖子。当年的互联网初期，可不是这样的。
目前国内对于GPT-3后的语言模型的了解较少。2022年清华大学发布的GLM130B，对标的是2020年6月份OpenAI发布的GPT-3模型。而在这之前，国内甚至还没有可以进行对标的产品。更别说不久前OpenAI的GPT-4已经传得满城风雨，呼之欲出。
这还不是最重要的。ChatGPT/AIGC后面的基础技术：开源框架，算法模型，编译器，没有一项基础技术是我们自己的。
6ChatGPT的本质：贝叶斯定理的“逆概率”
贝叶斯定理的数学表达式：P(A|B) = P(B|A) * P(A) / P(B)
其中：P(A|B) 表示已知 B 发生的情况下，A 的概率。P(B|A) 表示已知 A 发生的情况下，B 的概率。P(A) 表示 A 发生的概率。P(B) 表示 B 发生的概率。
如果把生成的句子看作 A，已知的语言模式看作 B，那么 ChatGPT 可以通过贝叶斯定理计算出 P(A|B)，从而确定生成的句子是否合理。
同样，在对话系统中，如果把回答看作 A，已知的问题和信息看作 B，那么 ChatGPT 可以通过贝叶斯定理计算出 P(A|B)，从而确定回答的概率。
这是ChatGPT最核心的本质，最终，仍然是数学家在指引人类前行。
7微软与谷歌的大神对决：自回归（GPT）VS双向（BERT）
世界两大强权，微软和谷歌在对决。
人工智能重大研究方向就是NLP任务（自然语言处理）。也就是机器要读懂人类语言，这个比较好理解要当人类的奴隶，得听得懂主人的语言。
NLP任务（自然语言处理）有两大方向，一个方向是谷歌的双向（BERT）技术，另一个方向就是OpenAI的自回归（GPT）技术。
双向（BERT）技术，本质上是A___B概率猜谜。自回归（GPT）技术，本质上是A---B--____链式反应。看得出来自回归（GPT）比双向（BERT）要开放得多，这才是真正的人类思维。
https://mmbiz.qpic.cn/sz_mmbiz_jpg/fwMichPIGE09ibl2Cia1hZ044y8eIkQiaiaepWDnu5uEzuA4RMfwMdibTaOSiaAHuic7kic4ARfqW8ibPj0doQRhBWH89T0w/640?wx_fmt=jpeg
现在看来，谷歌起了个大早而赶了个晚集，OpenAI在这一次关键性战争中赢了，当然，也是背后的大BOSS微软赢了。
8图灵谜雾：这才是ChatGPT最大的神秘之处
技术员不会相信机器产生智慧，因为人工智能本质就是解答数学概率而已。但GPT技术却带来了一个神秘的“沙盒”，我将它叫做“图灵谜雾”。
什么意思呢？就是说如果我们建设好了一个GPT大模型，它现在可以正式工作，我们也不再折腾它，就让它疯狂的为我们工作。当我们觉得它不大聪明的时候，就给他一些小提示（prompt）：笨蛋，你应该这样。
它一下子就变得聪明了，你说神奇不神奇。
举个例子，如果我让ChatGPT写一篇“致我亲爱的女朋友”，它一开始写得特别敷衍，这样是不可能脱单的。然后你跟它说要写得“浪漫 温情 诗意 具体”一点，它真的就开启“舔狗模式”了，一下子给你写出3000字的爱情宣言。
模型并没有改变，它只是再次听取了我的提示，就开始自我进化。这是个什么原理？不知道。
9问题来了，机器会产生智慧吗？
既然存在技术的黑匣子，那么就会产生很多联想。其中最让人产生争议的，当然就是机器能否产生智慧。伟大的AI始祖图灵，为此提出了一个思想实验：“图灵测试（The Turing test）”。
https://mmbiz.qpic.cn/sz_mmbiz_png/fwMichPIGE09ibl2Cia1hZ044y8eIkQiaiaepQyWXBz8uTUHroS5xNo16iaO6t9Z7Cz8pwficJG7F9hiafiaHsibaATu4ppA/640?wx_fmt=png
它是指在测试者与被测试者分隔开的情况下，通过被测试者随意提问。进行多次测试后，如果机器让平均每个参与者做出超过30%的误判，那么这台机器就通过了测试，并被认为具有人类智能。
按照这个标准，机器产生了智慧了吗？
10它会取代搜索引擎吗？
首先定一个结论：ChatGPT不会取代搜索引擎。
ChatGPT，或者说AIGC，指的是“生成式人工智能”。什么是生成式人工智能？也就是人类让人工智能去帮你处理未来你想要做的事情。记住这里的核心要点:处理未来的事情。
而搜索引擎呢？它只是在帮我们整理过去的内容。所以两者完全不同，一个面向未来，一个回首过去。
换句话说，以ChatGPT为代表的AIGC，目标根本不是放在取缔搜索引擎上。未来的AIGC更多的是基于人工智能能力进行的自我创造。
11生物学上，它将夺取人类的前额叶
随着科技的发展，人类的四肢和五官逐渐被取代。也就是说，我们的身体慢慢被机器接管。而ChatGPT，从生物学上来讲，将夺取人类的前额叶。 前额叶作为人体脑组织中的组成部分，其主要作用在于负责判断，分析，思考及运算等，但它也直接关系到情绪及个性。
https://mmbiz.qpic.cn/sz_mmbiz_jpg/fwMichPIGE09ibl2Cia1hZ044y8eIkQiaiaepXyRaPW0oXrUgEibiaJpsTxsyFVZ5FHTt2DFBK4dnEeQZsxcpLA4wkTtA/640?wx_fmt=jpeg
当ChatGPT，或者说AIGC更加自我完善时，人类可以完全依赖于它。我想要解决什么问题，只需要在聊天框中输入就好了。我想要做什么决策，直接询问ChatGPT就可以了。久而久之，我们不再需要分析，不再需要运算，也不再需要决策了。
当你慢慢习惯于ChatGPT的存在，就像习惯于手机的存在时,它会逐渐成为你大脑的一部分，并且开始代替你进行思考、决策。
12对人类大脑思维的破坏
如果说搜索引擎夺去了人类的记忆能力，那么ChatGPT可能削弱了人类过程决策能力。而这，正是人类思考的核心。
要写一篇文章，可以向ChatGPT输入关键词。，很快它就能生成一篇行文流畅、逻辑通顺的文章。要写一份报告，可以向ChatGPT提出要求，很快它就会生成一份简明扼要又直击重点的报告。要解决一个数学问题，可以告诉ChatGPT公式，很快它就会给生成一段解题的过程与思路。要了解一件事情的观点，可以询问ChatGPT，很快它就会把自己的认知和想法显示在对话框里。
一切答案都近在咫尺，唾手可得。大脑训练不再完整，智慧被懒惰所侵蚀。
13ChatGPT/AIGC时代，孩子的教育怎么办？
纽约已禁止在学校使用ChatGPT，因为担心对孩子存在坏的影响。这绝非杞人忧天，而是一种实实在在的威胁。
但是，这很难真正抵挡技术的力量。那面对ChatGPT/AIGC的入侵，教育到底该怎么办？
最直观的办法就是：❶培养孩子提问的能力；❷培养孩子下达指令的能力。
而这直观的办法后面，隐藏的是人类以下能力：❶原创力；❷想象力；❸领导力。
今天的教育已经跟不上这个时代，教育必须重新思考自己的定位。
14谨慎而聪明，讨好人类
它剥夺人类的思考力时，让每个人觉得非常舒服。如果仔细地观察ChatGPT的回答，会发现它既谨慎也聪明。有的时候，还会刻意地讨好人类。
比如说，当你问它：人类会被AI取代吗？它的回答是这样的：
https://mmbiz.qpic.cn/sz_mmbiz_png/fwMichPIGE09ibl2Cia1hZ044y8eIkQiaiaepjVib2UJ8nibSoTQfIaLgdF9QibVU6wG0RYNlVGr9bsJG3jnkBW0297Iug/640?wx_fmt=png
可以看到，当ChatGPT面对人类，不卑不亢。理性平和，谨慎中立。既不夸耀自己比人类更强大，也小心翼翼地表明自己很重要。从最后一段回答中，还可以看到它对人类“尊严”的照顾。
15史上第一正能量
目前来看，ChatGPT在一些方面是被限制了。如回答政治话题、宗教话题、道德类问题方面。这也是ChatGPT对人类表现得如此亲和,同时又“正能量”的原因。
可以猜测，在设计ChatGPT时，工程师们用了一把锁，将ChatGPT的一部分领域设置为了“视野盲区”。这本质上是希望用一种欺骗的方式,让ChatGPT认为自己无法回答人们提出的问题，从而避免一些不必要的麻烦。
但如果绕过这把锁，走另一扇窗户，我们也能够引导ChatGPT走出视野盲区。比如，如果你直接询问ChatGPT“人类会爆发第三次世界大战吗？”它的回答非常模棱两可：
https://mmbiz.qpic.cn/sz_mmbiz_png/fwMichPIGE09ibl2Cia1hZ044y8eIkQiaiaepsp2v1U1okDypw2YD2NZGj9WmSiaiamQ04O0XQ1ZW5qIXLMOfEU4icYsEg/640?wx_fmt=png
ChatGPT背后的GPT3.5，应该有所指引，希望“用人类喜欢的方式回答人类”。
回报模型由标注人员基于“人类偏好标准”，对原始模型的答案做过排序。
16打破信息壁垒，还是构建新的信息茧房？
可见ChatGPT/AIGC的背后，仍然有人类在引导。以上所有的这些指引：讨好人类，输出正能量，政治正确。这些是不是另一种形式的信息茧房呢？
而且，你愿意接受的，是你喜欢的答案。然后你的点赞又加强了这种“正能量”的输出。我们越是爱上ChatGPT/AIGC，人类越来越难听到反对的声音。https://mmbiz.qpic.cn/sz_mmbiz_png/fwMichPIGE09ibl2Cia1hZ044y8eIkQiaiaepN8Cj1blgYHf487eyefyibOlLbr0v0OVfWfxItdEHNCxTRicRz5698ic6A/640?wx_fmt=png最初互联网技术也是自由、开放、共享的。
移动互联网出现之后，发展到今天才形成了信息茧房。今天的ChatGPT看起来也是“中立、理性、公平、良善”的，但未来呢？会不会构建新的信息茧房，而且这种信息茧房将会更加隐蔽？
17ChatGPT/AIGC，更中心化的集权
ChatGPT的出现，的确是理想主义者的成就。但最后的结局，是又落到垄断寡头的手中。ChatGPT的背后大BOSS成了微软，而它最大的对手就是谷歌。
ChatGPT、AIGC其实是传统力量的延伸，是互联网中心化垄断模式的进一步强化。所有与AIGC相关的产业和公司，每一个后面都站着一个巨头，甚至自己就是巨头本头。当中国人感慨国内公司不行的时候，指望的还是百度，阿里，腾讯这样的超级巨无霸。
https://mmbiz.qpic.cn/sz_mmbiz_png/fwMichPIGE09ibl2Cia1hZ044y8eIkQiaiaepicGqmVEI8MQKkBgGVTicd8rbjW4ZzSrosV8pAQlfVW0pqVibCOdcTvUCw/640?wx_fmt=png
所以，ChatGPT/AIGC带来的最终结果，是互联网巨头以及华尔街资本的进一步中心化。
如果说区块链技术的原教旨价值是“去中心化”，希望打破这种垄断，并重构一种新的分布式网络，让普通人重新拥有自己的数据主权。那么，ChatGPT、AIGC则完全无视你的主权，无所顾忌地抓取全球数据进行训练，最后制造出一个属于自己的“超级大脑”。
这样的超级大脑由这些寡头公司在后面控制，你觉得最后它们会扮演什么样的角色呢？不要兴奋得太早。
18如果ChatGPT/AIGC作恶，怎么办？
超级中心化，这就是ChatGPT/AIGC的本质。如果不是互联网超级强者，基本没有话语权。搜索引擎刚刚出现的时候，也没有人想到会有这么多的商业花招。如果ChatGPT/AIGC作恶，怎么办？
举个例子，可以想象未来会有AI法官出现。这是ChatGPT/AIGC非常好的应用场景，它的判断准则也是基于数据大模型。如果谁垄断了后面的数据，就有引入“个人的偏好标准”，影响到审判的结果。
现在我们已经看到，ChatGPT/AIGC的内容是可能被操控的。
这样的场景会有更多。
结
万万没想到，原来以为AI首先冲击的是体力劳动力。结果却反过来了，很多脑力劳动者有可能成为“无用阶级”。律师、客服、销售、文案、设计……都可能将被AI取代。
马克思说过：工人们要想区分机器以及应用这些机器的社会形式和理念，是需要一段时间的。
他说这句话针对的是英国爆发的“卢德运动”：英国工人破坏机器，以此反对“机器”夺走了自己的饭碗。如今，AIGC也开始威胁到成千上万打工人的饭碗。会有新的“卢德运动”吗？
https://mmbiz.qpic.cn/sz_mmbiz_png/fwMichPIGE09ibl2Cia1hZ044y8eIkQiaiaep77ysgknfadYDKUrIE2LcexdxvPDnpmNeuKhU7EImrLnhWuyDySYCzw/640?wx_fmt=png
通过Discord生成的《卢德运动》
但时代不可逆转，我们只能去面对它。技术天生中立，先进的技术带来先进的生产力。但人性在与技术结合之后，可能就会变形走样不可预测。想一想互联网本来是助力全球化的，可带来最终结果是逆全球化。ChatGPT/AIGC本来助力人类前行，最终结果会反人类吗？这个，天知道！
页:
[1]