网络资源分享

担心AI毁灭人类?谷歌正在研发控制它们的“紧急按钮”

担心AI毁灭人类?谷歌正在研发控制它们的“紧急按钮”图片

新浪科技讯 北京时间6月9日晚间消息,国外媒体报道,谷歌旗下人工智能部门DeepMind日前表示,正在研发一种“保险开关”,以防止机器人在某些情况下失去控制而对人类造成伤害。

特斯拉和SpaceX公司CEO埃隆·马斯克(Elon Musk)上周还对人工智能的发展表示担忧,他在出席Code Conference大会时称,按照人工智能的发展,未来人类在智力上将被超越,并沦落为人工智能的宠物。

但如今,马斯克应该可以舒口气了,因为谷歌正在想方设法确保由人类控制一切。DeepMind日前在一份学术论文中称:“有时,可能需要由人类来按一个红色的紧急按钮,以阻止机器人的一些破坏性行为。”

这种安全机制将会时刻处于人类的监控下,而且在必要时候能够通过按下红色的按钮来阻止机器危及人类、环境,并确保该机制能在安全的环境下运行。谷歌称:“在许多情况下,对机器人采取安全中断措施是非常有必要的,否则将导致一些无法控制的后果。”

有业内人士称,谷歌这种做法的前提是:确保人工智能不会脱离人类的控制,确保人工智能无法阻止这个中断。但如果人工智能真的发展到能与人类抗衡的地步,谁又能保证它无法找到破坏这种安全机制的方法呢?(李明)

本站所分享的资源均来自互联网公开渠道收集整理,仅供学习和交流测试。
如涉及侵权请邮件与我们联系删除admin@zhumengwl.com。
筑梦网络传媒 » 担心AI毁灭人类?谷歌正在研发控制它们的“紧急按钮”

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址