置于 AI 之于信息时代 犹如 电力 之于工业时代 革命性 ！

        自从能以 强大的 自然语言能力，与人类进行 有意义 对话的人工智能 聊天机器人 ChatGPT 去年底降临 人间 以来，这个世界就变了。真的变了。

        从那时起，生成式人工智能 （ Generative AI ） 就以迅雷不及掩耳之势飞速发展，谷歌 等几家公司和 中国等 大国纷纷跟进，推出这类产品；  而开发 ChatGPT 的 OpenAI 公司也很快推出了 升级版，而且连升 两级。大家你追我赶，要抢占人工智能的最前沿。

       “ 人工智能 ”（ Artificial Intelligence，简称 AI ） 迅速窜起成为 媒体上 的热门名词，铺天盖地，翻开报纸，没有一天不见 AI，有些天还不止一次，而且 新闻、言论、副刊版 都有。在饱受有关 AI 的信息疲劳 轰炸、避无可避之下，我这个建国一代为了不想被时代抛在后头，加上朋友不断来问 AI 究竟是何物，也只好 临老 入 AI，学习拥抱它了。

       然而身为 电脑 科技门外汉，我只能用自己熟悉的“ 找新闻 ”方法，通过阅读关于 AI 的报道和专题文章，去了解这方面的发展情况，并尝试应用 ChapGPT，亲自体验一下。其中，《 纽约客 》 杂志 （ The New Yorker ） 最近的 两篇 深度专题报道“ 黄仁勋 的英伟达如何推动人工智能革命 ”和 “ 微软 与 OpenAI 合作的 内幕故事 ”，对我了解美国 AI 业界的最新情况有很大的帮助。

        阅读之余，11月中 有幸参访北京 清华大学 新闻与传播学院 属下的一个 AI 实验室，体会 中国 AI 技术的一些最新发展和应用。负责讲解的年轻人很专业也很坦率，知无不答，让我的脑洞大开，也拓展了视野和思维方式，获益极大。回国之后，又有机会到刚于 11月21日 由副总理 黄循财 主持开幕的 韩国“ 现代汽车集团新加坡创新中心 ” 参观，近距离观察该集团的 第一个 全球创新中心的实际运作，尤其是以 AI 为灵魂的 智慧工厂 和 智慧农场，也让我大开眼界。

       我当然明白，无论是在 清华大学 或在 现代汽车厂，我所能看到的只是 AI 的皮毛，但“ 窥一斑而知全豹 ”，从这 两个 参访中多少可以推测 AI 的全貌，感觉 AI 的厉害。

        同样的，有限的阅读也只是让我推开 AI 的 半扇门，窥探一下，虽然看不透整栋深宅大院的乾坤，却已能感受到“ 庭院深深深几许 ”了！

        既然如此，就应该与读者分享，哪怕是野人献曝。但必须先做个免责声明： 这篇文章是 外行 写给 一般人 看的，请内行人看到这里自动止步。

        AI 将凌驾人类？

       ChatGPT 的发明是 AI 的一个大跃进，它在瞬间成为历史上增长最快的消费者 应用程序，将大多数人引入 AI 世界，但它只是 AI 的众多应用之一。它的出现使许多人蓦然意识到 AI 的存在，并惊觉它原来已经在许许多多领域中广泛并加速应用，包括 语音 和 图像 识别、自动驾驶、医学诊断、经济发展、工农业生产、科技研发、教育、保安、军事 …… 几乎无所不在，你能想象到的它都在，无法想象的它也能 …… AI 这个名词在 1950年代 已经出现，雏形概念开始形成，但几十年来没有太大进展，直到越来越精细的尖端 晶片 在近年来推陈出新，它才取得突破，然后就突飞猛进，一发不可收拾。如今，AI 技术可说是人类有史以来为改善生活质量而发明的 最强 工具之一。

        AI 的目的本来是 模拟、执行 和 取代人类的 智能任务，在减轻人类 体力 和 脑力劳动 的同时大大 提高 生产力，但最新的 AI 却拥有连其创造者都感到错愕的力量，最可怕的是没有人完全知道它们能做到什么。

        若毫无限制地任它以目前的惊人速度发展下去，AI 的智能最终可能会 超越 人类，凌驾人类 —— 也就是说，AI 这个精灵已经从 潘朵拉盒子 被释放出来，人类可能再也控制不了！

       很耸人听闻是吗？  走笔至此，猛然想起其实自己 50多年前 就曾经与 AI 有过一次“ 接触 ”却懵然不觉，直到最近恶补了 AI 之后才产生了联想。

        也许重温一下 50多年前 的一部科幻电影，可以帮助大家了解这个“ 噩梦成真 ”的可能性。

        年纪较大的人可能看过 《 2001太空漫游 》（ 2001: A Space Odyssey ） 这部被誉为“ 电影和科学界史诗级作品 ”的经典科幻片。对我来说，那是我和 AI 的第一次近距离接触，惊艳不已，至今难忘。

        这部由 美国著名导演 库布里克 （ Stanley Kubrick ） 执导的电影，以精致的特效为观众呈现了极具艺术性和震撼力的画面，尤其是那些令人目不暇给的星球之旅场景，被认为是视觉效果的巅峰之作，后来者一直无法超越它。

        库布里克 和负责编剧的 科幻小说家 克拉克 （ Arthur Clarke ） 以非凡的创意，为电影注入丰富的科幻想象。影片在 1968年 首映时，且不说人类还没有登上月球、星际太空船还没出现，连平板电脑、触控屏幕、AI 机器人等这些今天的“ 身边事物 ”也都还没面世，但编导却让它们理所当然地出现在电影中，不但有了“ 发现一号 ”这艘飞往木星的载人太空船，这些当时还未发明的实物和应用，也都已各就各位在太空船中自然运作了，让观众眼界和脑洞大开。

       编导的想象力天马行空，在电影中创造了“ HAL9000 ” 这个虚构的 AI 角色，扮演大反派。这是一台 有感知 和 认知能力 的通用电脑，负责控制“ 发现一号 ”的系统并与太空人互动。太空船上除了它和两名太空人 鲍曼 及 普尔 之外，还有 三个 正处于冬眠状态的科学家。

       故事的高潮是，由于 HAL9000 和 两名 太空人发生了摩擦，互相猜疑，使这次太空漫游变成一趟可怕的旅行。HAL 发现 太空人 打算将电脑主机关闭，这无异等于要杀死它，决定先发制人，杀害 那 三个 冬眠中的科学家，并制造假故障让 普尔 去太空船外修理，然后用小型艇将他的氧气剪断，导致他缺氧而死。而幸存的 鲍曼 此时已到达木星，不由自主地在太空飘游 ……

       这只是电影的梗概，老实说，第一次看这部异想天开却又充满哲思的影片时，对其中许多情节、意象和含义都看不明白，有些部分甚至完全不理解，过后在重演时又看了 两三次，再加上阅读了一些影评和请教了维基百科，总算真正看懂。

       虽然起初似懂非懂，但对于本应听命于人类的 HAL9000 这个 机器人 不但违抗 太空人 命令，还动起杀机把他们都杀掉这个情节，却是历历在目的。那是我第一次见识到 AI 机器人 的厉害，虽然那时根本不知道什么是 AI。

       《 2001太空漫游 》 的想象力实在太超前了，不要说 2001年，即使快进到现在，载人太空船的星际旅行也还没实现，但电影中的平板电脑、触控屏幕 等早已成为人们习以为常的工具，而 AI 机器人口 也已迅速增长，充斥地球各角落了。

        既然电影中的好些“ 预测 ”都已一一实现，有什么理由相信 HAL9000 这个大反派不会横空出世？ 拥有人类 情感 和 思维能力 的 AI 超级电脑，是否正在世界某个实验室研发？  假如 人工神经元 （ artificial neuron ） 也像 生物神经元 一样可以被训练的话，就好比是在训练人类的 大脑，而这个“ 大脑 ”的 容量 和 能量 又远远 超过 人类，那这种 AI 超级电脑的出现并非无法想象。

       这也许正是令 各国政府 和 联合国 对 AI 的发展感到忧心忡忡的原因之一。

        AI 带来灭绝风险？

       其实不只是政府和国际机构，连 AI 的尖端 开发商 都对本身产品的潜在危险感到担忧。OpenAI 的总裁 奥尔特曼 （ Sam Altman ） 今年5月16日 在 美国 参议院司法委员 的听证会上，就主动要求加强对 AI 的监管，避免这种存在着 道德、法律 和 国家安全 隐患的技术被错误使用，对社会乃至世界带来伤害。5月30日，更有超过 350名 AI 科技业领袖 与 专家 发表联名公开信警告：“ 降低 AI 带来的 灭绝风险 应该成为全球优先事项，与 大流行病、核战争 等其他 社会规模的 风险并列。”

       这不禁令人想起备受尊崇的已故 英国物理学家 霍金 （ Stephen Hawking ） 在 2014年 的预言：“ 全面的 AI 可能意味着 人类的 终结。”

       AI 不受人类 控制 或被 坏人利用 的其他风险包括： 它可能被用于发展自主武器系统，威胁世界安全；  AI 系统所掌控的大量数据可能被滥用，导致个人 隐私 被侵犯；  它在 音频 和 视频 方面的深伪 （ deepfake ） 技术可以用来制造 多媒体 假信息，进行诈骗或误导公众，扰乱社会治安等等。

        持这类观点的 AI 精英 被称为“ 末日论者 ” （ doomers ）， 他们认为应该在继续推进 AI 发展之前，采取严格的防范和监管措施。从最近的态势看来，他们似乎已渐处下风；  而与他们对立的“ 猛进论者 ” （ boomers ） 则人多势众，后者淡化对 AI 灾难的恐惧，而强调其推动人类进步的巨大潜力，主张迅速推进。

        两派人马 不断在硅谷进行斗争，终于在 OpenAI 上个月 爆发的“ 政变 ”和“ 反政变 ”中达到高潮。

       吊诡的是，今年5月 还倾向“ 末日论 ”的 奥尔特曼 如今却主张 迅速推进，结果他在 11月17日 被公司董事部 开除了。但过后形势急转突变，三天后 他又在公司最大 投资者微软 的支持和绝大多数员工的“ 起义 ”之下恢复了职位。

        奥尔特曼 的胜利，是否意味着 企业界 的“ 猛进论者 ”从此将高歌猛进，不顾一切地推动 AI 的发展，目前还不清楚。但可以确定的是，各国 政府 以至 国际社会 对 AI 的风险日益关切，已经不再坐视不理了。

        11月1日和2日，英国政府 在 布莱奇利园 （ Bletchley Park ） 主办了一个 AI 安全峰会，共有 28国 参加，除了 中美 这两个 AI 大国，还包括 欧盟成员、日本、韩国、印度、澳大利亚 和 新加坡 等。与会国签署了《 布莱奇利宣言 》，呼吁开发前沿 AI 技术 的参与者保持 透明度 和 问责制。

       峰会的一个重要意义在于，中美 两国愿意在有关 AI 威胁 人类安全 的问题上进行 国际层面 的合作。

       接踵而来的一个重要发展是，中国国家主席 习近平 和 美国总统 拜登 在 11月15日 的 旧金山峰会 上同意，两国应该通过 双边对话 来解决先进 AI 系统的风险。中美 在进行激烈的技术竞争之际还愿意在这方面进行 双边合作，反映了它们都认识到 AI 对 全人类 的潜在巨大威胁，程度不下于 核子军备 竞赛。

       对 AI 的危害进行管控，看来将成为 中美 之间另一个“ 既竞争又合作 ”的领域，就像它们在 地缘政治中 的博弈那样，也类似 冷战时期 美苏两强 在展开 核军备 竞赛的同时也协调进行 核裁军 一样。但 AI 与 核武器 的最大不同是它不受政府 控制，而是掌控在 私人企业 手中，这大大增加了 国际合作的 困难和复杂性。

        作为小国，新加坡 虽然可以通过 国际论坛 或 组织 发声，但对管控 AI“ 军备竞赛 ” 的影响毕竟有限。我们能做的是如何在发挥 AI 的 正能量 和 防范 AI 被滥用方面贡献一份力量。在这方面，我国早有筹谋，这可以从 政府 12月4日 发布的《 全国人工智能策略2.0 》 报告中明显看出。

        对一般人来说，卫生部长 王乙康 11月21日 在北京举行的 第五届 新中论坛的演讲中说的这番话，也许可以作为座右铭：“ 我们要成为可以善用人工智能的人，来加强自身能力。未来的雇主不是在人类和人工智能之间选择，而是在一个会利用人工智能和一个不会利用的人之间做选择。此外，我们也须要学习如何‘ 做人 ’—— 做好不被机器替代的人。”

       诚哉斯言！ 既然我们无法摆脱 AI，不如就拥抱它好了。

       作者 林任君  前报刊总编辑  撰写本文过程中曾与 ChatGPT 进行对话


.