Towards artificial general intelligence

通用人工智能(Artificial General Intelligence,AGI)是具有一般人类智慧,可以执行人类能够执行的任何智力任务的机器智能。 AGI 是一些人工智能研究的主要目标,也是科幻小说和未来研究中的共同话题。ChatGPT 出现之后,让人们觉得 AGI 有了实现的可能,产生了很多讨论,文本谈一些自己的思考。

AGI 和翻译

自 GPT-3.5-turbo 问世以来,人工智能领域的飞速发展让我们感受到了科技革命。尽管访问速度尚不及 Google Translate,但翻译的准确度和专业性已经优于后者。这也引发了一系列有关语言学习的讨论:在这个人工智能时代,我们还需要学习外语吗?

这一段讨论建立在 AGI 已经发展到「巴别塔」阶段,即佩戴辅助设备后,可以听说读写无障碍的进行多语言交流。那么这种情况下还有必要学习外语吗?

我认为依旧很有必要。 语言学习并不仅仅局限于听说读写的能力,更关键的是在学习过程中,我们可以了解外国的文化、历史和政治等多方面知识。这些知识让我们具备更丰富的多元视野,提高跨文化交流的能力。

Learn a new language and get a new soul.
-捷克谚语

当我们使用不同的语言表达时,我们的性格往往会发生变化。例如,我在使用中文时,会显得更加内敛沉静;而在使用英文时,我变得更加外向活泼。这表明不同语言背后隐藏着不同的文化属性,而我们在使用这些语言时,也会呈现出相应文化属性所期待的特质。在不断地切换和适应不同语言的过程中,我们的思维方式和性格得到了磨砺与成长。

最后,有一个小思考:随着人工智能的普及和语言的统一,我们是否会失去多样性,导致思维模式的趋同?这是否会限制我们解决问题的思路,甚至导致思维的极端化?

多样性是人类社会的宝贵财富,它为我们提供了丰富的思想资源和创新潜力。

AGI 和总结

ChatGPT 等通用人工智能在总结视频和书籍方面的应用越来越广泛,极大程度的减少了我们获取信息的代价。塔勒布(Nassim Nicholas Taleb)的观点在这个背景下显得尤为引人深思。他主张:

  1. 不要读一本可以被充分概括的书;
  2. 不要读一本你不会重读的书;
  3. 没有任何可以被缩短的书能存活下来。

我们需要重新审视阅读的本质。

通过阅读全文,我们能更好地把握文章的脉络,理解作者的观点。记笔记则有助于加深对知识的理解和记忆。这一过程,也符合费曼学习法(Feynman Technique)的精神。这种学习法鼓励我们深入理解知识,而非简单地背诵。

通用人工智能如 ChatGPT 在总结文本时,往往只能抓住文本的表面信息,难以深入剖析作者的观点。这使得我们在阅读总结后的文字时,可能错失了书中的精华部分。正如塔勒布所言,这些关键句之外的解释性段落,才是书中的精华,是作者思考的过程。阅读这些内容,才能激发我们的思维。托尔斯泰曾说过,「知识,只有当它靠积极的思维得来,而不是凭记忆得来的时候,才是真正的知识。」而自己总结内容是积累和提高自己思考能力的途径。

尽管它们能快速处理大量信息,为我们节省时间,但我们不能忽视阅读的真正价值。

AGI 和写作

科恩曾说过:「创作的意义是成长,反过来,成长也为创作提供了条件。」写作是思考的过程,是表达的方式。当我们尝试用语言表达思想时,我们不仅学会了如何把抽象的概念变得更具体,还学会了如何用不同的方式阐述一个观点。这种思考和表达的愉悦是无法被替代的。而通用人工智能作为一种技术,可以协助我们更好地进行写作,使我们的表达更加丰富、准确和高效。

母语的上限,是我们语言的上限。在英文写作过程中,瓶颈往往出现在长难句的拆解和短句的组合。然而,通过不断地练习和尝试,我们可以逐步拓展自己的语言能力。经历一年的中文博客写作后,我感觉自己对英文语句的组合也有了更多的想象力。这意味着我们可以通过跨语言的写作实践,在不同语言中相互借鉴,尝试突破表达障碍。

在出版领域,读者关心的是优质内容,而非由谁执笔。因此,未来的关键在于杂志编辑部能否建立注重文本质量的审核机制,筛选出优质的内容。

个人写作风格很重要,但逐渐被大家所忽视。这种风格是通过长期的写作训练锻炼出的,私人化的。完全使用 ChatGPT 润色,会提高语法质量,但同时可能抹去了我们探索个人风格的机会。有时,我们的个人风格会是粗糙的,但这种粗糙感其实就是你的温度和价值。

语言的表达能力,在未来可能反而会越来越被重视,清晰的需求,有逻辑的提问,才能深度高效的使用人工智能。

随想

AGI 实际上是一种反「再生产」的技术模式,是一种逐渐磨平信息差的工具。其在生产领域的广泛应用将对现有的社会结构产生深远的影响。在技术普及之前,应该先进行哲学、伦理学的讨论,构建完善的法律和社会道德约束。然而,当下技术迭代的速度,已经逐渐快过我们理解或思考的发展速度。批判性和系统性思维模式在未来会变得越来越珍贵。

对新时代的我们来说,Ai 是一种「毒药」,短期收益显而易见,但长期的负面影响却是不可知的,可能需要十年以上的时间才能被充分识别。它吸引着我们,让懒惰的我们忘记思考。理查德·道金斯声称,模因是心灵病毒,寄生实体,它们侵入人类思维,利用它们自我繁殖。人类主体是被充满情感的文化元素感染的,这些元素如同传染性的细菌一样,从一个人传播到另一个人。在这一观点下,我们可以将 AI 视为一种新的文化共生体,像病原体一般,它可以通过学习人类的语言和行为来传播和改变我们的思维。这种感染和共生并不一定是有害的,也可能是益生菌,取决于如何和其他介质相平衡。

关于未来

个人认为 OpenAI 的 Roadmap 非常宏大。现有的文本量已经让 ChatGPT-3.5 产生质变,ChatGPT-4 更是通过算法优化提升了精度。

符号主义(Symbolicism),又称为逻辑主义(Logicism),是一种基于符号和逻辑推理的人工智能方法,它的核心思想是通过对符号和规则的处理来模拟人类的思维过程。符号主义认为,人类思维是由一系列的符号和规则组成的,因此它可以使用符号来表达知识和语言,并使用逻辑推理来进行推理和决策。符号主义的代表性算法包括专家系统和语义网。

联结主义(Connectionism),是一种基于神经网络的人工智能方法,它的核心思想是模拟神经元和神经网络的行为,通过神经网络的学习和训练来获取知识和经验。联结主义认为,人类思维是由神经元之间的连接和相互作用所决定的,因此它可以使用神经网络来模拟人类的思维和认知过程。联结主义的代表性算法包括神经网络和深度学习。

行为主义(Actionism),是一种基于外部刺激和反馈的人工智能方法,它的核心思想是基于环境和行为之间的联系,通过学习和训练来改变和塑造行为。行为主义认为,人类行为是由环境和刺激所决定的,因此它可以使用学习算法和反馈机制来训练和优化人工智能系统。行为主义的代表性算法包括强化学习和遗传算法。

人工智能领域发展最迅速的是深度学习技术,是一种属于联结主义的黑盒技术。

关于未来的图景:

  • 优化图像、文本、音频算法;
  • 以专业知识构建知识图谱作为 AGI 的骨架,AGI 的发展同时能减轻生成知识图谱的成本;
  • 能够自生产知识图谱;
  • 符号主义、联结主义和行为主义并未是非此即彼的;
  • 通过符号学,将图像、文本、音频融合,这三者相互转化的过程,实际上就是思考理解想象的过程(符号主义);
  • 通过脑机接口的数据,增加人工智能的感受力(行为主义);
  • 达成初步的 AGI。

特斯拉在过去几年一直致力于通过纯视觉影像方案优化自动驾驶技术。作为OpenAI的老东家,马斯克很可能了解这个路线图,并有未来合作的可能性。

然而人工智能和我们是有本质性的不同的。人和人之间的关系其实不是通过彼此的优势建立,而是通过彼此的底线而相互链接。人类具有同理心,换位思考能力,进入虚构的情景交换,从而对当事人产生同情。想象力是我们对他人遭遇产生同情的原因。那么人工智能如何能够对我们的状态感同身受呢?我又想到了一个关键词,还是与马斯克相关:脑机接口。

深夜了,乱糟糟的聊了很多,祝好,晚安。

@DataChaz

4 Comments

Leave a Reply

Your email address will not be published. Required fields are marked *

  1. 用了一段时间GPT,感觉在提升效率上确实有很大帮助,以往需要反复Google的代码用法可能GPT能很快给出答复。但在实际科研工作中还是需要自己反复思考,一味地使用这类工具容易让人变懒惰,放弃思考。英文写作过程也是,虽然GPT能生成语法更准确的句子,但不经思考无法真正理解其含义。

  2. 文中所说的几点中,我最顾忌的是 AI 代替全部(部分)写作。在我个人看来,创造能力是人之所以为人的一个不可替代的属性

  3. > AGI和总结
    对于这一块,比较有感悟。因为现在各种内容平台都在融入AI能力,最直观的就是AI总结。
    但这也只是一种辅助补充,作者的思想和内容没有能够被总结出来。
    面对今天这个信息爆炸、信息碎片化的时代,我也在尝试寻找出路,目前是希望制作软件来帮助我统一收集、处理信息。而关于这款软件利用AI辅助这件事情,这里提到的我必须要仔细思考

    > AGI和写作
    是的,我也认为真正的写作是学习与思考的结果。所以写博客,写文章。将隐形的知识显化。

    > 随想
    挺吓人的,未来的大家都通过脑机接口,以超高的速度进行内容消费…
    长期影响永远都会被低估,这个观点我认为很关键,要早早就预防起来…世界是一个巨大的草台班子