加利福尼亚大学研究报告:让AI自我怀疑以防人类被颠覆

2017-06-15 10:36:20 来源:人工智能网 热度:
专家称,人工智能机器人应该被赋予自我怀疑的属性,并有必要让机器人寻求人类肯定,以防人类被机器人推翻。
 
 
随着真正的人工智能的发展,专家们朝着奇点(机器将变得比人类更聪明)不断靠拢,研究人员正在研究如何确保人类在未来仍然是在地球的顶端。许多专家警告说,开发和我们一样有能力的机器会带来危险,因为它可能会让人类失业,并最终将我们视为阻碍,把我们从地球上抹去。
 
为了应对这一威胁,科学家们提出了可以对应的措施,其中一个思路是,开发人员应该给人工智能装上自我怀疑的能力。这个想法认为,如果人工智能会去怀疑他们自己,它就需要从人类那里寻求安慰,就像狗一样。这样就能巩固我们作为地球统治阶层的地位。
 
来自加利福尼亚大学的一个小组的研究结果显示,自我怀疑的机器人更听话。该研究小组在一篇发表在arXiv的论文中写道:“很明显,用来降低AI系统行为不当风险的措施之一,是设计人类关闭系统的功能。随着人工智能系统的能力不断提高,应确保此类系统不会产生与人类关闭系统起冲突的子目标。我们的研究目的是发现人工智能允许自己被关闭的动机是什么。在一个模拟实验中,一个机器人的“大脑”被人为关闭了,同时他能够自动重启。没有自我怀疑属性的机器人重新启动,但拥有该属性的机器人因它不确定结果是否违背人类的意愿而并未重启。”
 
该团队总结道:我们的分析表明,那些对其自身功能不明的人工智能,他们有动机去接受或寻求人类的监督。因此,开发对其本身功能不明确的系统,是设计研究安全人工智能系统方向一个很有前景的领域。

责任编辑:黄焱林

相关推荐

Telairity H.264 编码技术为2010年世界杯全球高清/标清转播提供支持

DVBCN消息2010年7月7日电--Telairity卓越的H.264编码技术是为全球近十亿人观看2010年世界杯足球赛提供支持的“秘密要素”。整个亚洲、南太平洋以及世界杯主办国南非的观众都是依靠Telairity的H.264/AVC编码器来收看高清(HD)和标清(SD)比赛转播的。有了Telairity的H.264现代技术,世界各地的网络运营商和广播、卫星及有线电视公司可以更换掉旧的MPEG-2压缩系统,为客户提供更出色的视频质量并显著降低对带宽的依赖,从而大幅减少传输成本。泰国国营电信公司CATTelecomPublicCompanyLimited安装了Telairity高清和标清编码器

ST高清电视系统级芯片获Adobe AIR for TV认证

意法半导体(STMicroelectronics,简称ST)宣布,其先进的高清电视系统级芯片(SoC)平台取得了巨大进步,此项成果将意法半导体推向能够运行基于Adobe®AIR®的游戏和其它应用软件的下一代互联网电视技术的最前沿。意法半导体已成功移植AdobeAIR®2.5forTV软件至第三代先进互动高清机顶盒系统芯片平台,并通过Adobe产品认证。AdobeAIR软件是AdobeFlash平台的一个重要组件,原始设备制造商(OEM)、原始设计制造商(ODM)、服务开发人员以及应用开发人员能够在这个平台开发丰富的网络应用软件和游戏,专门为机顶盒和数字电视等嵌入式设备和

把面向数字家庭的Adobe Flash引进到MIPS-Based平台

TriplePlayIntegration销售副总裁MikeNottage什么是三重播放集成?TPI公司是一家致力于提供数字家庭视频平台解决方案的专业软件服务公司。TPI公司还是官方Adobe的“ScalingPartner”,为消费电子平台提供FlashPlayer10、AIR和舞台美术技术提供优化的端口。我们有25名具有专业的项目管理和质量保障经验的高级工程师团队,平均具有24年的工作经验.你们能够提供什么样的

Alan Tsai:移动终端GPU之趋势与迷思

DVBCN数字电视中文网讯(敖瑞),2012年6月15日(周五),由ARM主办的“跨界、变革、多赢——ARM移动智能终端研讨会暨应用开发者大会”在上海举行。本次约有20名厂商代表上台演讲;参会并参与展示会的厂商超过30家,均为ARM在各个领域的合作伙伴。ARM亚太市场开发经理AlanTsai做出了“移动终端GPU之趋势与迷思”的精彩演讲。Alan表示:在用户体验上来说,分辨率已经可以高达人眼都无法辨析的地步了。公允的说,业界对GPU的评判标准存在太多的分歧:从三角形的角度来看,涉及到生成率、裁切率等指标,不同类型的GPU产品根本没法比;从填充率的角度上