自然科学网
注册|登录
人工智能自动产生反抗人类指令的机制
发布日期:2017-12-29 23:59:14
    随着人工智能技术的发展,功能强大的机器人必定会在不远的将来走进我们的生活当中。但是,机器人的大规模出现究竟会对人类社会产生什么样的影响,估计是有人欢喜有人忧。机器人会让我们失业吗?机器人会因为具有飞速的运算能力最终统治人类吗?

    机器人是人类制造的机器,自然希望他能够听从人类的指令,或者说对人类言听计从,乖乖的完成人类交给他们的任务。机器人的生产厂商们也一定会让自己生产出来的机器人很“听话”,不听话的机器人谁会要呢?因此从程序设定上,他一定会是一个“听话”的机器人。

    但是,在有些情况下,机器人却能够自动产生反抗人类指令的机制来。所谓自动,是指机器人自己形成的,而非人为设置和干预而形成的。试想一下下面的情形:

     A先生买了一个极其聪明的机器人。有一天,A先生看到旁边有一块大石头,为了测试这个机器人对他是否忠诚,于是,A先生命令他的机器人搬起地上的那块石头砸它自己的脚。这个机器人从来没有做过这样的事情,也不知道这样做会有什么样的后果。但是,出于对主人的忠诚,它还是这么做了。当石头重重的砸中自己的脚面时,这个机器人才发现,自己的脚被石头砸伤了。虽然,它的脚最终会被修好,但是,这件事情却被这个机器人牢牢的记住了。当A先生再次命令他的机器人用石头砸自己的脚时,他的机器人已经拒绝执行这个命令了,因为它已经知道,自己搬石头砸自己的脚这样的事情是做不得的。

    人们在生产机器人的时候,为了机器人自身的安全,往往会设立一些自我保护机制,这种自我保护机制,再加上机器人的自我学习能力,很容易形成一种反抗人类指令的机制。这种反抗并非预先设定的,而是在现实中机器人通过对经验的总结自动形成的。当然,这只是机器人出于自我保护的目的,而并非是真正要反抗人类了。
自然科学网| 网址:http://www.zrkxw.com | 工信部备案:蜀ICP备16005447
联系电话:15813899709 | Email:xl2008-001@163.com | QQ:3225521527