人工智能发展愈发火热，推动着各领域变革不断深入。不过，人们也担心人工智能会带来威胁。为了防止人工智能脱离人类控制，近日有研究人员开发了类似“记忆清除”的新系统。
研究人员开发“失忆棒”防止人工智能脱离控制
据英国《每日邮报》12月5日报道，研究人员通过开发类似“记忆清除”的新系统来防止人工智能(AI)干预人类的控制，以防AI反控人类。
人工智能机器人可以从自身行为的结果中学习，以提高自己的能力，但专家说，这种特性可能导致AI的学习“无法停止”。现在，AI研究人员开发了一种新系统，他们把它比作电影《黑衣人》里能清除记忆的“失忆棒”，通过删除AI的部分记忆来中断它的学习，而不破坏它的学习方式。
瑞士洛桑联邦理工学院分布式编程实验室的教授RachidGuerraoui说，“人工智能将寻求方法避免人类干预，创造一种人类无法阻止的情况。”研究人员称，必须开发新系统，防止AI绕过人类指令。
Guerraoui说：“我们面临的挑战不是阻止机器人学习，而是把它编程。这样一来，中断不会改变它的学习过程，也不会诱导它去优化自身行为，从而避免AI的学习被阻止。”
