网络安全专家忧虑 ChatGPT 彻底融入人类生活而不受控制
病友交流
2283 人阅读
|
4 人回复
|
2023-02-23
马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。
您需要 登录 才可以下载或查看，没有账号？立即注册
x
“ 从知识来说，它像一个博士生，学识广博 但还不会活学活用；从情商来说，它像一个油滑的中年人，说什么都滴水不漏，绝不得罪用户。但是，它实际上真正的能力像一个小孩子，需要进行问题和答案的训练来学习技能。再聪明的孩子都要通过训练才能解答没学过的奥数题。”
360创始人 周鸿祎： ChatGPT 可能两三年内就会产生 自我意识 威胁人类
2月23日，360创始人 周鸿祎 在接受媒体采访时，再次提到大热的 聊天机器人 ChatGPT，并分享了他心中 ChatGPT 的“ 三重人格 ”。
ChatGPT 热潮正席卷全球。这款由“ 美国 AI 梦工厂 ”OpenAI 制作的 AI 聊天机器人软件，只用了两个月时间，月活跃用户达到 1亿，是史上月活用户增长最快的消费者应用。 此前，周鸿祎 曾经多次在公开场合谈到他对 ChatGPT 的观察。在他看来，ChatGPT 已经 拥有 或 接近拥有 了人类智慧，并正处于通往“ 通用人工智能 ”的临界点。“ 我们认为它是一个通用人工智能的 奇点，而通用人工智能也还有一个隐含的 拐点，它可能是一个强人工智能。”
ChatGPT 具有类人特征： 有编故事的能力
在采访现场，周鸿祎完全不掩饰他对 ChatGPT 的兴奋。 在他看来，ChatGPT 是一种生产力强大的再造工具，而不仅仅是赋能特定行业。“ 过去说大数据像‘ 石油 ’一样，但大数据不能直接用，ChatGPT 像一个发电厂，烧了石油，把石油灌进去之后就可以产生电力，用云服务的方式把它接入到千家万户、千行百业，它对整个产业都会发生巨大的影响。所以，这直接决定未来 下一个十年 中国和其他国家的科技产业差距： 是形成落后还是迎头赶上。”
ChatGPT 将通过 上千亿 的系统参数，实现原先设计者预想不到的能力。“ 这就像 从猿到人 的过程中肯定有一个临界点，当大脑的神经网络链接数目、脑细胞数目等多到一定程度时，人的智力和动物相比就产生了质的飞跃。”
周鸿祎 表示，ChatGPT 和其他人工智能最大的区别、也是其 类人特征 是原来的人工智能并没有实现对知识全部的理解和编码，本质都是按照关键字匹配已有的回答，但 ChatGPT 没有“ 固定答案 ”：“ 我当时问了它一个问题，赵匡胤 为什么招安了 宋江，杀掉了 岳飞，这个无厘头的问题，它也煞有介事地回答了一遍，能够自己‘ 编 ’故事，这才是它的真正智能所在。”
“ ChatGPT 可能在 2-3年内 就会产生 自我意识 威胁人类。” 在采访现场，周鸿祎“ 语出惊人 ”。他提到，任何行业的 APP、软件、网站、应用，如果 加持 上 GPT 的能力，都值得重塑一遍。“ 不要把它当成一个媒体工具、搜索引擎、聊天机器人，这都有点把它看的太小儿科了。”
他表示，ChatGPT 和传统人工智能的训练不一样，需要经过多维度的训练。首先是囫囵吞枣、不求甚解的读上 几百万本 书，获得人类知识，但是依然不具备解决问题的能力。其次需要专业的 人工智能训练师 去培养它回答问题的能力，其中也催生出大量的新就业机会。
最大的 安全问题 是产生 自我意识后 是否能被控制
作为网络安全问题的专家，周鸿祎 也分享了他心中的 ChatGPT 的安全问题。 在他看来，ChatGPT 的安全性从技术问题变成社会伦理问题。ChatGPT 掌握了很多编程和网络安全漏洞的知识，可以成为网络犯罪的有力工具。有许多黑客演示了利用 ChaGPT 写钓鱼邮件和攻击代码，所以从某种角度而言 ChatGPT 也成为了黑客的“ 帮手 ”。
“ 国内的互联网公司普遍太讲究实用主义，都是把 人工智能 和自己的 业务 紧密结合，但没想到 ChatGPT 的更多可能性，360 目前还在追踪和钻研这些技术，希望能迎头赶上。” 周鸿祎 表示，360 正在探索“ 以其人之矛攻其人之盾 ”，用 ChatGPT 扮演“ 正义助手 ”的角色，建立 对攻击自动监测、发现 的知识库，用人工智能进行网络安全数据的自动化处理。
“ 目前 ChatGPT 最大的安全问题就是 产生自我意识 后是否能被控制。” 周鸿祎 表示，假如放开限制，让 ChatGPT 尽情在网页中学习，可能会导致它产生对物理世界更强的控制能力，未来在发展上会产生更多不安全性，也有可能被人诱导干出“ 糊涂事 ”，而是否能 控制强人工智能，正是 ChatGPT 是否彻底融入人类生活的“ 边界点 ”。
至于外界关注的 ChatGPT 是否可能造成普通人失业？ 在周鸿祎看来，短期内不会，“ 目前它的定位还是人类工具，这也是它的创造力所在。目前它的 自我意识 还没有出现，所以需要发挥自己的想象力和创造力。”
周鸿祎 也对中国开发出属于自己的 ChatGPT 充满期待。在他看来，中国在人工智能领域与 微软、谷歌 的差距并没有想象中的大。在 ChatGPT 领域，中国具有很大优势，有希望在 2-3年内 达到世界领先水平，应该对 ChatGPT 技术探索给予充分支持。
具体而言，周鸿祎 表示，中国的互联网公司在 数量与算力 有一定的优势，同时也有较强的科研和高校储备力量，必须将科研机构、学校、科学家等学术圈人士，和产业、工程、产品结合起来，充分调动和统筹资源。
工程师红利 是中国的一大优势，但也面临不利条件，就是缺乏开源的传统。在 ChatGPT 研发中，用了许多开源模型，没有此前的 开源 就没有在巨人肩膀上的积累，每个公司都要从黑暗中摸索，这对国家整个产业发展速度是不利的，“ 这么牛的技术，也确实不应该被垄断在一两家公司手里。”
周鸿祎 认为，解决原创问题需要科研机构的努力，而科研机构也需要和产业公司的合作，OpenAI 与 微软 的合作创造了一个产业公司和创业公司的合作范例，“ 我认为国家还是应该充分的支持 ChatGPT 产业发展，开源、合作、交流、打造生态。”
周鸿祎 希望国内有更多企业参与 AI 生态的构建，并形成公开的市场竞争，这样才有进步。“ ChatGPT 让很多行业应用就插上人工智能的翅膀。”周鸿祎 表示，“ 光是 ChatGPT 煽动不了一场产业革命，但是如果将来各行各业都被人工智能赋能，就会带来巨大的改变。”
此前 2月9日下午，周鸿祎 在与搜狐 张朝阳 的对话中表示，虽然 ChatGPT 现在还不完美，但要看到它无限的潜力，未来会有非常多的场景，不仅仅是辅助搜索引擎搜索答案。“ 这就是为什么所有公司都争先恐后地都要搭上这班车，如果搭不上就有可能被淘汰。”
“ 我觉得 ChatGPT 真的不是一个工具，它对人类自然语言的充分理解，可能代表着人类在人工智能历史上开始一场真正的革命。”谈及 ChatGPT 的诞生，周鸿祎 表示， ChatGPT 是通过一个 上千亿参数 的大语言模型，相当于把网络上很多人类的知识都进行了理解和训练，模拟了人脑对知识的储存，使得回答问题完全像一个成熟、油滑的人，而不是机械地给出搜索答案。
.
|
|
|
|
|
|
|
|
|
知识积累方面，人远远不如 AI 或者机器 ；
情感方面 AI 或者机器 永远不可能超越人。 |
|
|
|
|
|
|
|
|
那要看什么情感，如果是创造性的情感那另当别论
好莱坞十多年前不是有部片子，就是讲一个人与AI恋爱的故事吗？如果AI没有情感，那怎么人类会爱上它 |
|
|
|
|
|
|
|
|
哈哈哈 ……
灵感 灵犀 灵动  |
|
|
|
|
|
|
|
|
