8BTCCI: 12014.36 +0.46% 8BTCVI: 6676.21 -0.50% 24H成交额: ¥3966.55亿 -20.00% 总市值: ¥16670.92亿 +0.11%
崛起的超级智能,它会不会有独立意志?

崛起的超级智能,它会不会有独立意志?

中国5G链网产业创新峰会 发布在 海盗号 23340

9月7日,由南京链网移动科技研究院、巴比特联合主办的中国5G链网产业创新峰会于南京江北新区研创园召开。

下午,围绕《崛起的超级智能》一书,主持人童琳和三位嘉宾展开了一场互联网大脑如何影响科技未来的论坛分享,三位嘉宾为《崛起的超级智能》作者,人工智能学家主编刘锋、东南大学科技与社会研究中心主任,著名科技哲学研究专家吕乃基、南京大学科学技术与社会研究所所长,哲学系博士生导师潘天群。

背景:

《崛起的超级智能》一书主要阐述当人类为人工智能春天到来而兴奋,同时又为人工智能是否超越人类而恐慌的时候,一个更为庞大、远超人类预期的智能形态正在崛起,种种迹象表明50年来,互联网正在从网状结构进化成为类脑模型。

而所谓互联网大脑就是互联网向与人类大脑高度相似的方向进化过程中,形成的类脑巨系统架构。互联网大脑具备不断成熟的类脑视觉、听觉、躯体感觉、运动神经系统、中枢神经系统、自主神经系统。

它有传感器为基础的感觉神经系统,有云机器人和智能设备构成的运动神经系统,有大数据作为互联网大脑记忆和智力发育的重要基础,有人工智能广泛分布在互联网大脑中并驱动运转,有云群体智能连接数十亿人、数百亿联网设备构建成 P2M、P2P、M2M 的更广域、泛在、万物互联的左右大脑。

它还有类脑神经元网络,有云反射弧。所有的这一切,其实可能最终进化成基于互联网大脑模型的Ω超级智能。

人类大脑和互联网大脑在形成的过程中有一个共同的特征,那就是它们都是自然涌现而不是人为规划的。

那么,这个新的超级智能的崛起与人工智能5G和区块链的兴起有什么关系,对人类的科技、产业、经济、国家竞争将产生怎样深远的影响?

以下内容来自现场分享,巴比特现场报道。

 

16847293

▲分论坛现场

 

刘锋:互联网大脑模型会不会产生独立的意志?

 

互联网大脑模型会不会产生独立的意志?这个风险不会发生在大数据,可能我的有些数据被黑客,可能我的隐私被曝光产生一些威胁,我们不要太担心,关键是我们运动神经发动以后,如果这个运动神经系统被云端被黑客或者坏人控制了以后,这个运动系统带来的危害就要比以前的单一版机器人强大的多。比如说连网一个水坝的大闸被黑客侵入把闸打开一下子就会被淹没。

50年来,100多个科学家发展到今天几百亿设备连接在互联网上面,十几亿人口在使用,假设我们有一万年进化下去,互联网终点是什么?我们书最后提出关于生物总群知识库的观念,提出来包括互联网本质上还是包括人类其他生物总群,从知识的这个角度进一步的脱颖而出的一个重要的工具,就像二十万年前我们能够说话能够交流,我们把知识放在书本上面,互联网就把这种知识连接作为革命性的提升,这种革命性的提升对于我们人类从未来的角度来说影响会非常巨大,同时这样一个结构我们说发展的时间点会带来什么影响?或者说我们会产生极值,一个最大值,这个会导致我们新的研究,跟人工智能基础领域的研究。

 

吕乃基:人类社会正在向虚拟世界移民

 

刚刚说到区块链,我认为现在人类社会正在向虚拟世界移民,人的本性,精神不可能极大提升,我们说我为人人,人人为我,我们说前半句做不到,后半句你想得美,未来的发展是我管人人,人人管我,AI是生产力,区块链是生产关系,如果各种东西交换都可以用区块链来做,信任这个问题不就解决了。

 

潘天群:未来将人机共生

 

技术越强大,人越渺小,我们人受技术奴隶、伤害越大,当然有可能未来一段时间我们制度的完善或者说抗争,可以限制技术的伤害。但是技术在发展过程中对我们人类制造某一阶段的伤害是很巨大的,就像在工业革命的时候,人在工厂,人和机器的融合,人变成了机器的一部分。

在互联网世界人伤害也很大,机能退化,现在小孩儿语言不会,语言是人类可以说最伟大的发明,人类走出动物界不是一个工具,而因为你的语言。

现在大家讨论机器能不能操作人这样一个话题。机器可以在一些领域给人类帮助,在专门的某些领域它们会强很多,但是机器不能够参与到人类的整体生活方式,不能够像人一样,就是人有人的自我生活世界。人工智能必须有传统,必须有脉络,我们从哲学史上找到一些思想家,思考这样的问题。当然这是一个观点。

未来人机共生,未来的生活方式就是人和机器共同构建我们的生活方式。

 

提问1:随着人工智能奇点的到来,机器超越人的智能,人还是万物的尺度吗?生物智能(人)一定能超过机器智能吗?

潘天群答:奇点是一个概念。基点的超级智能应该说我们无法想象,有句话叫他们的世界你不懂。奇点之后的超级智能,他想的你不懂。相当于黑洞,黑洞底下到底是什么我们不知道。我们只能在我们人类世界讨论这个话题,机器语言是什么,我们不清楚。

机器能不能形成自己的概念,并且形成自己的知识,这是我们所不懂的。一旦真的如此,那是很可怕的东西。

 

提问2:汽车造出来的时候没有想到会撞死人,人工智能需不需要防范?

 

吕乃基答:伦理的问题,我感觉现在社会这种状况没法通过我们在人类中间拿一个法去解决,只有解决人的问题以后,才能解决像这样一个事情。所以刘慈欣的《流浪地球》要碰到人类毁灭这样一个事情,没有到这一天的话人机之间没法达成这样的。

潘天群答:在哈佛,以及其他国家,像韩国大学就建立了人工智能伦理或人工智能人物应用,硬要叫伦理和大学相配合,不能纯粹研究人工智能。

刘锋答:机器是没有统一进化方向的,我们每个人按理说也没有统一进化方向。那么我们就不应该有统一的伦理。但最新研究发现可能我们有统一的进化方向,但这个没有统一观点,这个统一之前就没有办法形成统一的伦理。

我们真正要关注到互联网,人工智能能不能成规范的问题。不是所有应用场景都是有危害的,你用了大数据,最多是数据泄露,但人工智能是可以对现实世界有影响的,这个时候哪些可以连,哪些不可以连,哪些连了以后代码编写要有相关的制约。我们要考虑这个。

 

提问3: 继续发展下去,人的能力会越来越弱?是不是人类最终会被消灭?

 

吕乃基答:现在人工智能就替代人脑,未来技术的发展步步向上,人的发展相对于这段来说肯定是停滞,如果不能降低的话。我们现在在这个场合讨论本身就组成互联网大脑的一个部分,我们在互联网大脑中发挥了我们的主观能动性,最主要我们继续思考,继续行动,或者我们做一些事情,我们就参到互联网大脑当中,我们行动成为未来人机合一中的一个,我们没有被淘汰。

但是你不关心这些事情,你一天到晚看电视,看广告你就被淘汰了。只要我们人在行动,在行动中那部分就是未来。现在问题就是架构观。

我想科技是双刃剑,有些东西你没有做你是不知道的,你做的时候就退不回来了,每一件事情一定是一部分在搞,一部分不能搞,这是必然的事情,这是不可避免的,所以科技创新是必然发展的角度。

刘锋答:我们知道大脑最大一个特征就是可塑性特别强。随着技术的变化整个生态乃至技术的变化,他会导致我们大脑一定会发生变化,是不是退化到不一定,而是说我们大脑是在这个生态科技变化过程中里,我们会逐渐把我们大脑其实不太擅长一部分功能剥离出去,拨给人工智能。

我们某些地方一定会增强。比如说检索能力,我们发现相关设施出现什么问题,我们迅速捕捉到这个问题背后需要什么支持,去网上找到这个支持去解决问题。我们人核心的智力是逐渐被解放出来,被增强。有些东西是退化的,但是我们核心的东西始终是有效红线,这个红线是自然界的,目前这个自然界是通过什么画出来的?是通过我们化学元素、化学原理跟我们今天说的自然圈,我们自然环境,地球的自然环境所共同形成这样一个红线,这个红线不是被我们技术所突破的,我们算法所突破的。

但是其它器官会不会退化,这个我倒觉得有可能。我们现在看整个生物、动物核心就是大脑,其他的地方都可以被替换掉,但大脑是没有办法被替换掉的。

潘天群答:我们人类大脑的脑容量,现在和古代差不多,在我看来脑容量差不多,智能差不多。人类至少在几千年,包括未来是不会有太多的变化。未来的角度来说,人的很多能力是不同的。未来人到底是什么样,后人类和超人类,未来完全比我们现在更强,是吧,对这个我们没办法预测。

文章标签: 5G链网产业峰会
评论
登录 账号发表你的看法,还没有账号?立即免费 注册