您好,欢迎来到金属加工网 登录 | 免费注册 | 忘记密码
当前位置: 首页 > 新闻中心 > 展会新闻 > 为什么总有大佬让人类警惕人工智能?

为什么总有大佬让人类警惕人工智能?

http://www.b2b.hc360.com 中国金属加工网 信息来源:Author发布时间:2019年11月25日浏览:511

  1272.jpg

“我们不希望机器人有自我意识!机器人无需有自我意识,好好地做我们让它做的事情,做人类的忠仆,这样就很好了。”

  以上这句话是微软全球资深副总裁、微软亚太研发集团主席洪小文近日的公开表态。从一些科学家、商业大佬等的言论来看,他们都对人工智能的发展也表现出了一定程度的担忧。

  霍金:人工智能会导致人类灭亡。

  比尔盖茨:人类需要敬畏人工智能的崛起。

  马斯克:人工智能是人类文明最大的威胁。

  然而,对商界大佬们的隔空喊话不以为意的研究者们,正在一步步尝试打开这个潘多拉魔盒。今年初,美国哥伦比亚大学实验室训练出的一款机器人,据称可以自主认识自己身体!

  该实验室负责人霍德·利普森教授表示,这也许就是新生儿做的事情:了解自己是什么。并推测这可能是人类自我意识的进化起源,虽然机器人想象自我的能力与人类相比还很弱,但这种能力可以通往自我意识。

  也就是说,该机器人正在拥有“自我想象”和“自我学习”的能力并进行“自我改进”,机器人与人类的故事,或正在驶入危险的深水区。

  为什么大佬呼吁警惕人工智能的声音不绝于耳?机器人为何不能有自我意识?人工智能又给人类文明带来了哪些威胁?本期前瞻经济学人邀请到行业机构一起探讨。

  大佬们对人工智能如此担忧的原因主要在于:科技的发展速度越来越快,甚至超出了科学家的预测。一旦具有自主意识的人造智能体或机器人被发明出来,很难保证其会完全在人类的控制下,那后果可想而知。


  这种担忧非常有必要,我们需要未雨绸缪,提前做好一切准备。我们认为可以从以下多个方面采取措施进行预防,例如:

  针对人工智能立法,就像禁止克隆人一样,禁止研发制造具有自主意识的人工智能系统;

  全球各国要联合起来,就像禁止核武器一样,共同禁止各国政府、企业或个人研发制造具有自主意识的人工智能系统;

  如果最终具有自主意识的人工智能系统被发明出来,我们要采取一切手段做好协调和防卫工作,以保障人类不会受到伤害。

  当前不止名人大佬,普通老百姓也害怕人工智能会威胁到自己的生存,跟自己抢饭碗。但我们认为这个事情不必过分担忧。

  虽然人工智能的出现会代替很多人的工作,但是也会为人类带来更多。因为人工智能可以帮人类创造价值和财富,但是他们不怎么会消耗财富。就好比一个农民,之前没有人工智能的时候,他是自己种地养活自己;有了人工智能之后,可以让机器人帮他种地,为他创造更多财富。

  此外,很多危险的、伤身体的工作,以前只能由人类自己完成,有了人工智能以后,人类就可以避免做这种工作,去做很多更有意义的工作,比如科研、艺术、创作等等。而且,人们也会有更多的时间去享受生活。

  综合上述机构观点,前瞻经济学人认为,科学是一把双刃剑,尽管人工智能在造福人类、提高社会生产效率上起到重要作用,但作为新生事物,发展中隐藏的某些潜在风险,不得不引起我们重视和警惕。

  其一,人工智能自我意识觉醒或超出人类控制

  自我意识是对自己身心活动的觉察,即自己对自己的认识,具体包括认识自己的生理状况(如身高、体重、体态等)、心理特征(如兴趣、能力、气质、性格等)以及自己与他人的关系。

  长久以来,非人类的“意识”,都是被科学界视为禁忌的。

  我们先来看看这则耐人寻味的科幻漫画:

  漫画男主角高价购买了一个机器人女友,双方相处融洽,男主甚至愿意为她倾尽所有。后来男主怀疑机器人女友劈腿,一气之下把女友毁灭了。

  故事结尾出现惊人反转,这个男主角才是机器人,而那个机器人女友是才是对他进行测试的人类科学家。

  在人类与机器人的相处中,具有自我意识的机器人,因无法处理感情问题出现故障,作出杀人举动。

  虽然只是一则漫画,但也给我们一个启示——拥有自我意识的机器人可能成为人类的朋友和工作伙伴,也可能失去人类控制毁灭人类,因为机器人有“自己的想法”。

  科学产物的发展,从来不按科学家的意志为转移。

  人工智能自我意识觉醒之后将如何发展?拥有超智能的机器人,如果不具备伦理道德意识,会做出什么样伤害人类的举动?这个有想法同时比人类更聪明的家伙会甘愿臣服在人类之下?还是和人类争夺资源、利益、权威引发地球大战?

  这一连窜问号,目前科学界不能给出明确答案,一切都是无法预知和控制的。并且目前全球政府暂未达成共识,禁止研发具有自我意识的机器人,这也是大部分大佬所担忧的。

1273.jpg

  其二,人工智能被恶意利用对人类将是灾难性的危害

  马斯克对于人工智能最大担心在于,它可能被恶意利用伤害人类。“它们可以散布假新闻,利用欺骗性的电子邮件账号发布虚假的新闻通讯稿,从而挑起战争。”他说,“笔比刀更厉害。”

  马斯克的担忧不无道理。事实上,当前市场上正频繁爆出一些负面新闻,直指一些机器人存在的安全漏洞,更可怕的是厂商对此问题不以为然。

  例如能轻易对人类造成扭伤或骨折等严重人身伤害的工业机械臂,这类机器人大多数在工厂里与工人协同工作,一旦被黑客攻击,后果不堪设想。

  类似的漏洞还有能轻易被黑客改变安全程序,被变成“摄像机”的机器人,它们观察并记录主人的一举一动,窃取主人隐私信息散布出去。

  其三,有关人工智能的法律监管不足

  人工智能作为一个新兴的行业,全球法律监管目前仍存在不足。而且随着越来越多人工智能产品的研发,或将带来更多社会问题,都需要法律去完善保障人类权益。

  当前人工智能的法律风险主要集中于利用人工智能危害社会,造成刑事犯罪的风险。例如近年来无人机频繁闯入各地机场净空区,多次造成航班晚点,甚至对航空飞行安全构成了威胁。

  还有一些“擒拿格斗机器人”产品,因其具有高度自主性,可以自行对目标进行攻击,一旦程序出错失控,则很可能向人群进攻,成为人类公共安全的重大隐患,这都需要通过立法进行规制。

  此外,自动驾驶汽车的安全性问题已经引起了广泛关注,从自动驾驶汽车的生产资质、上路许可,到发生事故后的责任分担,当前法律均处于空白状态。

  因此,因人工智能引发的安全问题,迫切需要通过立法,为明确责任、解决纠纷提供有效的法律依据。

  其四,人工智能可能导致失业和社会动荡

  另外一部分担心来源于人工智能可能会导致失业和社会动荡。

  “未来机器人可以做任何工作,无一例外。”

  工厂自动化已经让众多传统制造业工人失业,人工智能的兴起很可能会让失业潮波及到中产阶级,最后只给人类留下护理、创造和监督工作。

  人工智能和日益发展的自动化,到超人工智能时代,将可能大量取代中产阶级的工作,导致社会更加不平等,甚至帮助少数人压迫多数人,引起严重的政治动荡等。(来源于前瞻网)


分享到:0

免责声明: 凡注明来源本网的所有作品,均为本网合法拥有版权或有权使用的作品,欢迎转载,注明出处。非本网作品 均来自互联网,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。

【我要评论】 【全部评论(共0条)】

  • 还可输入(1000个字符)
  • *网友评论仅供其表达个人看法,并不表明中国金属加工网同意其观点或证实其描述
精华文章

AMTS 2020 | 激光工程展区-聚焦集成化激光智能制造

汽车工业步入柔性化模块式生产,传统加工工艺不能满足新型生产方式的需求,这[更多]

2019华南工业智造展今天在深圳会展中心开幕! 首日人气沸腾、亮点连连

(2019年12月4日,中国深圳)2019华南工业智造展览会(下称”SMF 2019”)今天[更多]

2019中国(广州)国际机器人、智能装备及制造技术展览会暨2019华南国际工业博览会

由中国机械工业集团有限公司主办,国机智能科技有限公司、中国机械国际合作股[更多]

2019中国机器人产业创新论坛在广州成功举行

2019年11月30日下午,由中国机械工业集团有限公司主办,国机智能科技有限公司[更多]

“工业重镇”武汉正在努力打造世界级产业集群

武汉市作为是中国的工业重镇,是中部地区最重要的工业中心。随着中部崛起战略[更多]