服务粉丝

我们一直在努力
当前位置:首页 > 科技 >

彭富春:为人工智能划出3条红线

日期: 来源:长江日报收集编辑:长江日报


“在人工智能的时代里,世界形成了欲望、技术和大道的新的游戏。”

湖北大学人文社会科学

资深教授彭富春

近日接受长江日报《读+》周刊专访,

针对人工智能时代可能出现的危机,

用“欲技道”理论进行了回应。

彭富春。

“欲技道”构成运动规律

什么是“欲技道”?

欲望驱使人们发明、使用并创新技术;

技术的进步也会刺激和强化人的欲望;

大道或曰智慧和真理,给欲望和技术划分边界,使之不能误入歧途;

欲望和技术也以自身日新月异的力量推动大道的更新,使旧的智慧转换成新的智慧。

如此这般,欲望、技术和大道三者就构成了一场无限的游戏活动,这便是彭富春提出的“欲技道”理论。而在人工智能时代,“欲技道”仍然在循环运作。

“人工智能是当代人类创造的最具冒险性的技术。它虽然是一个器物,但却是一个有智能的器物,是一种神器。”彭富春表示,“人工智能不断模仿人类,它不仅类人类,而且超人类。其冒险性在于不断越过人与世界存在的边界。这就需要大道的指引,给欲望和技术划分边界。人工智能必须保护人、物和机器自身,实现人、机、物的共生。在人工智能的时代里,世界形成了欲望、技术和大道的新的游戏。”

人类的欲望把人工智能当作满足自身的手段,只是考虑如何占有和消费人工智能所制造的所欲物;而人工智能作为技术,自身只是中性的,本无所谓善恶,也无法自身实现惩恶扬善。此时就需要大道,需要真理和智慧,它知道什么样的欲望可以实现,什么样的欲望不可以实现;什么样的技术可以使用,什么样的技术不可以使用。智慧为人工智能划界,让这个最冒险的技术避免危险,而转为机遇。

彭富春的著作《漫游者说》。

脑机接口会形成“怪物”吗

彭富春认为,人的基本欲望就是食欲和性欲,在此基础上,人发展了一些非基本的欲望,如物质性、社会性和精神性的欲望等。

人工智能也是作为手段来满足人类生存的基本欲望。它有的和人的身体直接相关,如陪伴性机器人、医疗机器人等;有的和人的心灵相关,如ChatGPT和Sora视频生成等;有的间接相关于人的身体和其他欲望,如人工智能赋能工业、农业、医疗和教育等,它们的产品能更加合理地满足人的欲望。这些都体现了人工智能的卓越之处。

但人工智能也是人的一种特别的欲望,亦即解放身心达到自由的最高需求的欲望。这种梦想早已表达在巫术和神话之中。人工智能就是要将这一梦想变成现实。

人不仅创造了一个有智能的自己,而且创造了一个有智能的物。人工智能让人实现了用语言创造世界,它激发和满足了人们长久以来不可实现的欲望,如长生不老、死而复活等。在历史上,人们只能通过巫术和神话来实现这些欲望,但现在的人工智能却能实现它们了,虽然只是以一种数字的或者虚拟的形态。

人工智能在不断地接近人类的智能,不断模拟人类的思考行为,越来越类似真正的人类智能。它能挑战人类智能。因此,它是一个冒险的技术。

彭富春忧虑的不仅是人工智能模仿和超越人类,更担心人工智能与生命结合,“这是一条更加冒险的道路。人工智能除了和人结合之外,也可能广泛地与高等动物结合,形成人工智能化的动物。现在的脑机接口技术已经拉开了人工智能生命化的序幕,这将诞生一个新型的人工智能生命体”。

“天人共生”是未来

如何防范危机、化危为机?彭富春主张“天人共生”,他认为这是人工智能时代的中国新智慧。

传统中国智慧占主导地位的是“天人合一”。新的中国智慧应该是“天人共生”,新的智慧来源于天人的约定,是天人共同参与制订的。天和地既不是支配人的天道的载体,也不是被人控制和改造的对象,而是人类的伴侣和朋友。人既不是天地的奴隶,也不是天地的主人,而是天地的伴侣和朋友。他们是天地人游戏中的同戏者,天人不仅共同制订此游戏规则,而且共同遵守此游戏规则。在此游戏中,天人共生,生生不息。

彭富春主张:“天人共生”应用到人工智能时代,包括如下内涵——

第一条红线是不能伤害人,而要保护人。这就需要人类对于人工智能进行训练,让它和人类的价值观对齐,分辨善恶。而且人与机器的界限不可混淆,要明确标明人工智能所制造的虚拟的人物、场景和事件,不可冒充是真实的。同时,仿真人形机器人,特别是具有明显性别特性的机器人的操纵也要确定其规范。

此外,脑机接口的运用不能让外力借助芯片对于人脑进行恶意的控制。人工智能要保证解放人的身体和心灵,让人的身体和心灵获得真正的自由。

人工智能的第二条红线是不能伤害物。要禁止培养出半人半兽的怪物。人们不能把人工智能赋能的动物只当成现代高科技控制的肉类生产者,也要让它具有动物性地活着。人工智能赋能的农业生产让其增产丰收,但也要保证它合乎其天性地生长。人工智能赋能大地资源的发现、开发和加工,但也不能把地球变成一个单一的矿山,而要注意其生态建设,让其成为人类可持续居住的美好家园。

第三条红线是不能伤害机器自身。人工智能自身暗箱的运行就可能出现内部涌现的故障,从而输出劣质和恶意的产品。同时外部的侵入或者会破坏机器的正常运行,或者会恶意控制它。这种对于机器的伤害会导致机器进一步对人和物进行伤害。因此人工智能应该自带保护自身的设置。同时,人也要加强对于机器的保护。

人工智能时代的新的智慧强调人机物三者共生。它们彼此互不伤害,相互保护,共生共荣,共同建设一个美好的世界。这就是在人工智能时代里的欲望、技术和大道的游戏。


长江日报出品

采写:记者李煦

【来源:长江日报】


相关阅读

  • 创新何以诞生?这本书一定要看!

  • 人工智能迅猛发展,科学和科技的创新发展再次受到大众关注和讨论,科学究竟是什么,科学可以怎么应用与创新,科学的未来在哪里?2024年5月14日,正值《科学的起源》新书出版之际,中信出
  • 人工智能创业公司如何影响就业?

  • 编者按:本文作者Peter Zhegin 是一名投资人。美国总统奥巴马在2016年的国情咨文中警告道:科技不仅仅取代了集装生产线上的工作,任何工作都可以实现自动化。奥巴马不是美国历史
  • 人工智能+高等教育!

  • 为深入贯彻落实国家关于开展“人工智能+”行动的战略部署,积极推动人工智能技术与高等教育融合发展,近日,人工智能赋能高等教育教学改革发展研讨会暨“人工智能+高等教育”教学

热门文章

  • 解码“新IT”的5个特征和3大价值

  • 党的二十大报告提出,要加快发展数字经济,促进数字经济和实体经济深度融合,打造具有国际竞争力的数字产业集群。在数字经济与实体经济深度融合的产业浪潮中,以智能设备、边缘计算
  • OPPO k1的低价高配真实么?网友:不看不知道

  • 近日OPPO一款新机OPPO k1,摒弃了高价低配,就连自家老大哥r17都要怼一下。更是放弃了请代言人,以往的OPPO手机还没出来,各路流量小生,花样美男的代言就先来了。还有线下销售人员的
  • 一招教你手机无限制成为一台新设备

  • 大家平时用手机去注册app,肯定会遇到检测设备异常,交易关闭,等问题 这个都是手机已经不止1-2次注册过此app,不断更换手机仅是一个暂时的方法,却不是长久之计,手机总归会用完
  • 从零开始如何开网店

  • 随着互联网的高速发展,人们的生活发生了翻天覆地的变化,生活节奏越来越快,网购已经成为家家户户生活中离不开的一种购物方式了。网购的发展使得越来越多的人想要涉足电商事业,那

最新文章

  • 彭富春:为人工智能划出3条红线

  • “在人工智能的时代里,世界形成了欲望、技术和大道的新的游戏。”湖北大学人文社会科学资深教授彭富春近日接受长江日报《读+》周刊专访,针对人工智能时代可能出现的危机,用“
  • 山东济南济阳区:厚植生态底色,扮靓绿色家园

  • 新黄河记者:王静静 初夏时节,漫步济阳,到处都是郁郁葱葱,绿意盎然,黄河健身公园、安澜湖公园、澄波湖、口袋公园陆续投入使用,人与自然和谐共生的和美图景在这里铺陈,绿色成为济南