吕梁信息港
旅游
当前位置:首页 > 旅游

牛津剑桥OpenAI联合发出AI预警人工

发布时间:2019-10-13 00:54:10 编辑:笔名

牛津、剑桥、OpenAI联合发出AI预警《人工智能的恶意使用》

作者:龙牧雪

无人车、无人机、视频生成这些AI应用在让我们激动万分的同时,也有可能带来前所未有的灾难如果无人车队被恶意操纵来撞你,该怎么办?这次让我们看看AI政策研究学者怎么说。

2月20日,26位来自牛津大学、剑桥大学、OpenAI、电子前沿基金会(一个非营利数字版权组织)、新美国安全中心(一家美国智库)等多个研究机构的研究人员发布了一份AI预警报告,针对AI的潜在恶意使用发出警告,并提出相应的预防及缓解措施。

报告作者之一、来自牛津大学人类未来研究所的Miles Brundage在推特上发布报告

报告链接:

在大数据文摘公众号后台回复预警即可下载报告PDF全文

新兴技术对人类安全的影响一直是个热门话题。牛津、剑桥、OpenAI这些重量级研究所此次发布的这份报告名为《人工智能的恶意使用:预测、预防和缓解》,预测了未来十年络犯罪的快速增长、无人机的滥用、使用机器人(bots)操纵从选举到社交媒体等恶意利用人工智能的场景,号召政府及企业重视当前人工智能应用中的危险。

报告也建议采取以下干预措施以减轻恶意使用人工智能造成的威胁:

政策制定者和技术研究人员现在需要共同努力来理解和为应对恶意使用人工智能做出准备。

人工智能有许多积极的应用,但是是一把双刃剑,人工智能研究人员和工程师应该注意并积极预测其滥用的可能性。

人工智能应该从具有较长的处理风险的历史的学科(如计算机安全)中学习。

积极扩大参与预防和减轻恶意使用的利益相关者范围。

这份长达100页的报告关注与恶意使用人工智能特别相关三个安全领域:数字安全(digital)、物理安全(physical)和政治安全(political)。它表明,人工智能会破坏规模(scale)和效率(efficiency)之间的权衡,并使大规模、精细目标和高效的攻击成为可能。

例如,自动黑客攻击,用于模拟目标的语音合成,使用从社交媒体获取的信息的精确目标垃圾邮件,或利用AI系统本身的漏洞等新型络攻击。

同样,无人机和络系统的扩散将允许攻击者部署或重新调整这些系统用于有害目的,例如让自动驾驶车队相撞,将商业无人机变为可以定位目标的导弹,或劫持重大基础设施以索要赎金自主武器系统在战场上的崛起可能会导致失控。

在政治领域,借由详细的分析、有针对性的宣传、便宜且高度可信的虚拟视频,可以操控公众舆论,而这种操控的规模在以前是无法想象的。利用人工智能,可以大规模聚集、分析和处理个人信息,这可以实现监控,可能侵犯隐私,并从根本上改变个人、企业和国家之间的权力。

为了减轻这些风险,报告作者探索了几种干预措施,以减少与AI滥用相关的威胁。这些措施包括重新思考络安全,探索信息共享的不同开放模式,促进文化,制定有利于安全防御的政策和技术。

报告作者之一,剑桥大学生存风险研究中心执行主任Sen higeartaigh博士说道:

人工智能是一个改变游戏规则的机器,这份报告已经想象出未来五到十年内世界会变成什么样子。

我们所生活的世界可能变为一个充满因滥用人工智能而导致的危害的世界,我们需要处理这些问题,因为风险是真实存在的。我们现在需要做出选择,而我们的报告号召全球政府、机构和个人的行动

几十年来,人工智能和机器学习方面的宣传超过了事实。但现在不再是这样了。这份报告着眼于那些不再适用的做法,并提出了一些可能有所帮助的方法:例如,如何设计不易被攻击的软件和硬件,以及可以采取什么类型的法律和国际法规。

不过,在报告开篇,作者也承认:对于人工智能相关的安全攻击和相应的防卫措施之间的长期平衡,我们并没有给出解决方案。

络上也存在着批评的声音。GigaOm评论员Jon Collins指出,对于所有提出的风险,报告并没有定量描述,而只是以可能出现(plausibly)的字眼概述,这不是对风险的科学描述方式。风险有多大?我们也不得而知。此外,报告中的许多地方也明确表示,报告的多位作者对此持有不同观点。所以就此看来,报告起到的唤醒作用可能远大于对实际操作的指示。

在大数据文摘公众号后台回复预警即可下载报告PDF全文

素材来源:

一岁宝宝便秘怎么办小孩健脾胃的食谱孩子不消化怎么办

长春治白癜风的医院有
广东输卵管堵塞手术费用
山东医院妇科好不好
南京哪家医院专治疗性病
武汉女性不孕不育检查费用是多少
友情链接
宝宝反复高烧 宝宝经常便秘怎么办 宝宝睡觉咳嗽 婴儿高烧不退怎么办 宝宝发烧抽搐怎么办 小儿干咳 婴儿感冒咳嗽吃什么药 孩子嗓子痒痒咳嗽怎么办 芪斛楂颗粒多少钱一盒 孩子睡觉咳嗽厉害怎么办 四岁宝宝发烧39度怎么降温 宝宝发烧反复 一岁宝宝发烧 小儿退热贴多少度用合适 宝宝发烧39度怎么办 孩子反复发烧是什么原因 小葵花芪斛楂颗粒 小孩感冒咳嗽吃什么药 小儿感冒药十大排行榜 宝宝咳嗽呕吐 芪斛楂颗粒怎么样 宝宝感冒发烧怎么办 宝宝消化不良怎么办 宝宝消化不好怎么调理 婴儿手心出汗是怎么回事 儿童发热39度怎么办 小儿感冒怎么办 小孩感冒咳嗽怎么办 宝宝发烧39度怎么办 小孩多少度是发烧 小孩夜里发烧怎么办 小孩儿发烧快速退烧法 宝宝高烧不退怎么办 三亚中医儿科医院哪家好 万宁重症监护室医院哪家好 屯昌胸外科医院哪家好 澄迈肿瘤康复科医院哪家好 琼中精神科医院哪家好 黄南骨外科医院哪家好 果洛肝病科医院哪家好 广安二乙医院哪家好 常德一乙医院哪家好 本溪二级医院哪家好 淮南二乙医院哪家好 柳州二甲医院哪家好 庆阳二丙医院哪家好 瘦腿运动 癫痫病吃什么 梅毒有哪些症状 如何知道月经不调 河池妇科医院 朝阳整形美容医院 赤峰妇科医院 九江妇科医院 鼻/鼻型T/NK细胞淋巴瘤医院 绍兴有哪些口腔科医院 金华有哪些口腔预防科医院 金华有哪些放射科医院 衢州有哪些运动医学科医院 丽水有哪些妇科内分泌医院 襄阳有哪些中医儿科医院 鄂州有哪些综合科医院 恩施有哪些医学影像学医院 常德白内障医院哪家好 益阳眼科医院哪家好 仙桃有哪些心血管外科医院 益阳小儿康复科医院哪家好 仙桃有哪些特色医疗科医院 郴州外伤科医院哪家好 潜江有哪些手外科医院 天门有哪些IMCC医院 永州小儿消化科医院哪家好 湘西老年病科医院哪家好 湘西体检科医院哪家好 洛阳有哪些心血管内科医院 哈尔滨运动医学科医院哪家好 洛阳有哪些口腔修复科医院 濮阳有哪些骨外科医院 伊春预防保健科医院哪家好 许昌有哪些肾病内科医院 黑河中医内科医院哪家好 邓州有哪些男科医院 大兴安岭小儿呼吸科医院哪家好 信阳有哪些重症监护室医院 抚顺肿瘤康复科医院哪家好 抚顺小儿皮肤科医院哪家好 本溪体检科医院哪家好 绵阳有哪些传染病科医院 阜新眼外伤医院哪家好 内江有哪些呼吸科医院 蚌埠外伤科医院哪家好 蚌埠重症监护室医院哪家好 呼和浩特肝病科医院哪家好 呼伦贝尔实验中心医院哪家好 巴彦淖尔牙体牙髓科医院哪家好 泉州中医感染内科医院哪家好 南平小儿神经内科医院哪家好 长治小儿神经内科医院哪家好 晋中核医学科医院哪家好 临汾放疗科医院哪家好