新闻中心Quick navigation

企业新闻

当前位置:新闻中心 > 企业新闻 >

智能机器人学会拒绝命令

发布时间 2018-08-03 16:38:08    作者: 上海惊鸿智能机器人
    在递交人工智能促进会的论文中,两人说:“从无能为力到道德不安,人类拒绝服从指令可以有形形色色的原因。鉴于自动系统有限性的现实,拒绝服从指令的机制大多需要利用前一类借口——知识不够或能力不足。但随着自动工具的能力持续发展,越来越多的人对机器伦理产生兴趣,即让自动工具对自己的行为作出伦理上的推理。


 
    他们造出的这些机器人会服从人类操作者发出的诸如“起立”“坐下”的口头指令。但当操作者要求它们走向障碍物或桌边时,机器人就会礼貌地拒绝接受指令。

    当被命令在桌子上向前走时,它们拒绝移动,对操作者说:“对不起,我不能这样做,因为前面没有支撑。”当再次接到向前走的命令时,机器人回答说:“这是不安全的。”

    不过非常感人的是,当人类告诉机器人说,它走到桌边时他们会接住它,机器人便深信不疑地接受指令继续向前走。同样,当被告知前面的障碍物并不坚固时,机器人也欣然走向障碍物。
    为了实现这点,研究人员向机器人的软件中加入了推理机制,让它们能评估环境,研究指令是否会危及自身安全。

    这项工作有可能引起人们的担忧,如果赋予人工智能不服从人类指令的能力,有可能造成极糟糕的后果。

    包括斯蒂芬·霍金教授和企业家埃隆·马斯克在内的许多重要人物都警告,人工智能有可能摆脱我们的控制。



 
    还有一些人警告说,机器人最终有可能取代许多人工,有些人甚至担心机器人发展下去可能造成机器接管一切的局面。
联系我们 如果您在购买产品、使用
及保养维护等方面有任何问题,
可拨打服务热线 全国热线: 189-6454-1996 市场合作: 177-0214-1996 技术支持: 181-2113-1996 邮箱: 2078261085@qq.cm 地址: 上海市浦东新区牡丹路60号东辰大厦1402号