网络安全专家忧虑 ChatGPT 彻底融入人类生活而不受控制
“ 从知识来说，它像一个博士生，学识广博 但还不会活学活用；从情商来说，它像一个油滑的中年人，说什么都滴水不漏，绝不得罪用户。但是，它实际上真正的能力像一个小孩子，需要进行问题和答案的训练来学习技能。再聪明的孩子都要通过训练才能解答没学过的奥数题。”360创始人 周鸿祎： ChatGPT 可能两三年内就会产生 自我意识 威胁人类
2月23日，360创始人 周鸿祎 在接受媒体采访时，再次提到大热的 聊天机器人 ChatGPT，并分享了他心中 ChatGPT 的“ 三重人格 ”。
ChatGPT 热潮正席卷全球。这款由“ 美国 AI 梦工厂 ”OpenAI 制作的 AI 聊天机器人软件，只用了两个月时间，月活跃用户达到 1亿，是史上月活用户增长最快的消费者应用。此前，周鸿祎 曾经多次在公开场合谈到他对 ChatGPT 的观察。在他看来，ChatGPT 已经 拥有 或 接近拥有 了人类智慧，并正处于通往“ 通用人工智能 ”的临界点。“ 我们认为它是一个通用人工智能的 奇点，而通用人工智能也还有一个隐含的 拐点，它可能是一个强人工智能。”
ChatGPT 具有类人特征： 有编故事的能力
在采访现场，周鸿祎完全不掩饰他对 ChatGPT 的兴奋。 在他看来，ChatGPT 是一种生产力强大的再造工具，而不仅仅是赋能特定行业。“ 过去说大数据像‘ 石油 ’一样，但大数据不能直接用，ChatGPT 像一个发电厂，烧了石油，把石油灌进去之后就可以产生电力，用云服务的方式把它接入到千家万户、千行百业，它对整个产业都会发生巨大的影响。所以，这直接决定未来 下一个十年 中国和其他国家的科技产业差距： 是形成落后还是迎头赶上。”
ChatGPT 将通过 上千亿 的系统参数，实现原先设计者预想不到的能力。“ 这就像 从猿到人 的过程中肯定有一个临界点，当大脑的神经网络链接数目、脑细胞数目等多到一定程度时，人的智力和动物相比就产生了质的飞跃。”
周鸿祎 表示，ChatGPT 和其他人工智能最大的区别、也是其 类人特征 是原来的人工智能并没有实现对知识全部的理解和编码，本质都是按照关键字匹配已有的回答，但 ChatGPT 没有“ 固定答案 ”：“ 我当时问了它一个问题，赵匡胤 为什么招安了 宋江，杀掉了 岳飞，这个无厘头的问题，它也煞有介事地回答了一遍，能够自己‘ 编 ’故事，这才是它的真正智能所在。”
“ ChatGPT 可能在 2-3年内 就会产生 自我意识 威胁人类。” 在采访现场，周鸿祎“ 语出惊人 ”。他提到，任何行业的 APP、软件、网站、应用，如果 加持 上 GPT 的能力，都值得重塑一遍。“ 不要把它当成一个媒体工具、搜索引擎、聊天机器人，这都有点把它看的太小儿科了。”
他表示，ChatGPT 和传统人工智能的训练不一样，需要经过多维度的训练。首先是囫囵吞枣、不求甚解的读上 几百万本 书，获得人类知识，但是依然不具备解决问题的能力。其次需要专业的 人工智能训练师 去培养它回答问题的能力，其中也催生出大量的新就业机会。
最大的 安全问题 是产生 自我意识后 是否能被控制
作为网络安全问题的专家，周鸿祎 也分享了他心中的 ChatGPT 的安全问题。在他看来，ChatGPT 的安全性从技术问题变成社会伦理问题。ChatGPT 掌握了很多编程和网络安全漏洞的知识，可以成为网络犯罪的有力工具。有许多黑客演示了利用 ChaGPT 写钓鱼邮件和攻击代码，所以从某种角度而言 ChatGPT 也成为了黑客的“ 帮手 ”。
“ 国内的互联网公司普遍太讲究实用主义，都是把 人工智能 和自己的 业务 紧密结合，但没想到 ChatGPT 的更多可能性，360 目前还在追踪和钻研这些技术，希望能迎头赶上。” 周鸿祎 表示，360 正在探索“ 以其人之矛攻其人之盾 ”，用 ChatGPT 扮演“ 正义助手 ”的角色，建立 对攻击自动监测、发现 的知识库，用人工智能进行网络安全数据的自动化处理。
“ 目前 ChatGPT 最大的安全问题就是 产生自我意识 后是否能被控制。” 周鸿祎 表示，假如放开限制，让 ChatGPT 尽情在网页中学习，可能会导致它产生对物理世界更强的控制能力，未来在发展上会产生更多不安全性，也有可能被人诱导干出“ 糊涂事 ”，而是否能 控制强人工智能，正是 ChatGPT 是否彻底融入人类生活的“ 边界点 ”。
至于外界关注的 ChatGPT 是否可能造成普通人失业？在周鸿祎看来，短期内不会，“ 目前它的定位还是人类工具，这也是它的创造力所在。目前它的 自我意识 还没有出现，所以需要发挥自己的想象力和创造力。”
周鸿祎 也对中国开发出属于自己的 ChatGPT 充满期待。在他看来，中国在人工智能领域与 微软、谷歌 的差距并没有想象中的大。在 ChatGPT 领域，中国具有很大优势，有希望在 2-3年内 达到世界领先水平，应该对 ChatGPT 技术探索给予充分支持。
具体而言，周鸿祎 表示，中国的互联网公司在 数量与算力 有一定的优势，同时也有较强的科研和高校储备力量，必须将科研机构、学校、科学家等学术圈人士，和产业、工程、产品结合起来，充分调动和统筹资源。
工程师红利 是中国的一大优势，但也面临不利条件，就是缺乏开源的传统。在 ChatGPT 研发中，用了许多开源模型，没有此前的 开源 就没有在巨人肩膀上的积累，每个公司都要从黑暗中摸索，这对国家整个产业发展速度是不利的，“ 这么牛的技术，也确实不应该被垄断在一两家公司手里。”
周鸿祎 认为，解决原创问题需要科研机构的努力，而科研机构也需要和产业公司的合作，OpenAI 与 微软 的合作创造了一个产业公司和创业公司的合作范例，“ 我认为国家还是应该充分的支持 ChatGPT 产业发展，开源、合作、交流、打造生态。”
周鸿祎 希望国内有更多企业参与 AI 生态的构建，并形成公开的市场竞争，这样才有进步。“ ChatGPT 让很多行业应用就插上人工智能的翅膀。”周鸿祎 表示，“ 光是 ChatGPT 煽动不了一场产业革命，但是如果将来各行各业都被人工智能赋能，就会带来巨大的改变。”
此前 2月9日下午，周鸿祎 在与搜狐 张朝阳 的对话中表示，虽然 ChatGPT 现在还不完美，但要看到它无限的潜力，未来会有非常多的场景，不仅仅是辅助搜索引擎搜索答案。“ 这就是为什么所有公司都争先恐后地都要搭上这班车，如果搭不上就有可能被淘汰。”
“ 我觉得 ChatGPT 真的不是一个工具，它对人类自然语言的充分理解，可能代表着人类在人工智能历史上开始一场真正的革命。”谈及 ChatGPT 的诞生，周鸿祎 表示， ChatGPT 是通过一个 上千亿参数 的大语言模型，相当于把网络上很多人类的知识都进行了理解和训练，模拟了人脑对知识的储存，使得回答问题完全像一个成熟、油滑的人，而不是机械地给出搜索答案。
.
在一切讲效率的事情上，人都会输给AI或者机器 知识积累方面，人远远不如 AI 或者机器 ；
情感方面 AI 或者机器 永远不可能超越人。 一路陪伴 发表于 2023-2-26 07:44
知识积累方面，人远远不如 AI 或者机器 ；
情感方面 AI 或者机器 永远不可能超越人。 ...
那要看什么情感，如果是创造性的情感那另当别论
好莱坞十多年前不是有部片子，就是讲一个人与AI恋爱的故事吗？如果AI没有情感，那怎么人类会爱上它 legs+ 发表于 2023-2-26 10:20
那要看什么情感，如果是创造性的情感那另当别论
好莱坞十多年前不是有部片子，就是讲一个人与AI恋爱的故 ...
哈哈哈 ……
灵感灵犀灵动 :victory:
页:
[1]