由于无人驾驶汽车的无人操作者与各国现有道路交通法规违背，适当法律和规范仍然是其发展的最重要前提条件。图为无人驾驶汽车的观测方式仿真图。

人工智能可以齐声口译、写出新闻稿、帮助医生诊治、让机器人脸识别的精度低于人类、甚至写诗和战胜棋士世界冠军，其应用于堪称“百花齐放”。数据表明，截至2017年6月，全球人工智能企业总数超过2542家，预计到2030年，人工智能将为世界经济贡献15．7万亿美元。

在今年7月国务院印发的《新一代人工智能发展规划》（以下全称《规划》）中明确提出，到2020年，我国人工智能核心产业规模多达1500亿元，造就涉及产业规模多达1万亿元。顶层设计陆续实施，巨头发力布局生态，资本市场热情洋溢，细分行业独角兽不断涌现，人工智能这片“花海”已好比“看起来很美”。

但“花海”之下仍有“荆棘”。市场研究机构埃森哲大中华区信息技术服务总裁陈笑冰坦言：“人工智能也将不会引起新的安全性和伦理问题，鉴于未来人工智能将深入生活，政府也必须贯彻为人工智能制订监管规则，确保人工智能应用于合理合规发展。”《规划》也同时明确提出：“人工智能发展的不确定性带给新的挑战。

人工智能是影响面广的颠覆性技术，有可能带给转变就业结构、冲击法律与社会伦理、侵害个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全性和社会平稳乃至全球管理产生深远影响。”人工智能发展将面临怎样的挑战与风险？又应当成立怎样的“游戏规则”，让新技术需要与人类社会良性对话？监管刚跟上人工智能大大带入人类生活的同时，也引起公众对人工智能的担忧。回应，专家回应，应当创建监管机构来引领、增进和确保人工智能的身体健康发展此前有报导称之为，“脸书”人工智能研究所中的两个聊天机器人“失控”，发展出有了人类无法解读的语言，“不得不重开”引起了普遍注目。

尽管随后被证明是一场“乌龙”，只是因为工程师记得重新加入“用于英语语法”这一条件。但对事实的高估报导，也表明出有媒体和公众对人工智能的担忧。

在北京市中盾律师事务所律师陈涛显然，随着人工智能了解带入生产和生活，必需以法律来对其安全性展开监管，给公众不吃下“定心丸”。互联网汽车的特斯拉埃隆·马斯克也回应，我们应当警觉人工智能兴起的潜在风险，并创建监管机构来引领这项强劲技术的发展。对人工智能展开法律监管，首先要解决问题人工智能用于中基本的安全性问题，以及使用者与服务提供者的责任界定问题。

以无人驾驶汽车为事例，上路前，对其安全性如何全面评判？一旦无人驾驶汽车经常出现事故，如何辨别使用者、软件提供商以及车辆制造商等多方主体的责任，如何在先前赔偿金和保险理赔中展开规定？实质上，法律监管不仅减少风险，也让服务企业需要“有据可依”，从而增进和确保人工智能的身体健康发展。从目前来看，各个国家的人工智能监管都刚被出台日程。

在美国，2016年10月，总统行政办公室和国家科技委员会公布了两份重量级报告：《美国国家人工智能研究发展战略规划》与《为未来的人工智能作好打算》，后者明确提出了发展人工智能的7项关键战略，在第三条“社会影响战略”中，明确提出“解读和确认人工智能在法律、伦理和社会领域中的影响”；在第四条“安全性战略”中，则明确提出“保证人工智能系统的安全性和对公众的隐私维护”。在欧盟，2016年欧盟法律事务委员会向欧盟递交了《欧盟机器人民事法律规则》，针对基于人工智能掌控的机器人，明确提出了用于的责任规则、伦理原则、对人类自身和财产的损害赔偿金等监管原则。英国下议院科学技术委员会在今年4月回应，也将积极开展关于人工智能监管的研究。在我国，《规划》中某种程度明确提出，到2020年，“部分领域的人工智能伦理规范和政策法规可行性创建”。

其中尤其明确提出，要“积极开展与人工智能应用于涉及的民事与刑事责任证实、隐私和产权保护、信息安全利用等法律问题研究，创建追溯到和问责制度，具体人工智能法律主体以及涉及权利、义务和责任等”，“重点环绕自动驾驶、服务机器人等应用于基础较好的细分领域，减缓研究制订涉及安全性管理法规，为新技术的较慢应用于奠下法律基础”。不过，对人工智能的监管也无法“闭门造车”。“法律的前提是理解人工智能的科学规律，必须充分准备、思索和累积，对技术变革充份理解，同时考虑到公众的实际市场需求。

”陈涛回应。安全性仍有漏洞安全性是人工智能面对的极大挑战。这其中既还包括在应用于层面的传统黑客攻击方式，也不存在着对基础设施方面展开的数据库、云服务等反击。但更加关键的安全性问题就是指最核心的算法层面发动反击两张人眼见一起一模一样的熊猫图片，一张被神经网络准确辨识为“熊猫”，另外一张却因为被再加了人眼无法察觉到的微小扰动，就被神经网络以99．3％的置信度辨识为“长臂猿”——这就是可以“欺骗”人工智能的对付样本，必要折射出人工智能所面临的安全性问题缩影。

专心于互联网安全的极棒实验室总监王海兵告诉他《经济日报》记者：“安全性是人工智能面对的极大挑战。”他回应，一方面，人工智能要面临传统的黑客攻击方式，比如在应用于层面，可以反击它的操作系统或者逻辑漏洞。“比如说，通过对智能门锁的反击，就能构建给定人脸都可以通过形同虚设。”在人工智能的基础设施方面，则可以对人工智能用于的数据库、云服务等展开反击，“比如说，机器视觉常常调用的OpenCv库，机器学习中用的TensorFlow框架，人工智能的从业者可以必要调用这些服务，但意外的是，这些基础设施某种程度有漏洞。

”王海兵说道。然而，人工智能所面临的更加关键安全性问题，正是诸如熊猫图片这样的对付样本。

王海兵回应：“用对付样本反击人工智能，只不过就就是指最核心的算法层面来反击它。”美国加州大学伯克利分校教授宋晓冬这样讲解对付样本反击的危害：“比如，无人驾驶汽车根据交通标明展开决策。如果交通标明是一个对付样本，那么人类可以几乎不不受阻碍，但无人驾驶汽车却有可能将它几乎辨识成错误信息，这将带给严重后果。

”实质上，美国伊利诺伊大学的一项测试早已证明，自动驾驶系统有可能被对付样本“欺骗”。“但公众不必过分担忧，最少现在来看，针对自动驾驶的对付样本对抗性很差。比如，它不能在0．5米的距离内让自动驾驶系统错判，但自动驾驶场景却是是渐渐相似交通标识的。

”王海兵也回应，“未来不会会有更加极致的对付样本，仍是未知数”。人工智能面临众多安全性问题，回应，开发者也在希望总结与之对付的手段。

智能家居生产厂商BroadLink高级副总裁康海洋回应：“我们不会将多方数据融合和统一分析，以提高数据的可靠程度，同时也在尽可能让整个系统显得更为半透明。此外，我们还不会及时封存所有能封存的数据，增加用户被反击的可能性。

”伦理有待具体告诉他人工智能何为“准确”，正在沦为当务之急。如果不对其演化方向和目标构成共识，人工智能的伦理规则将无法“落地”如果维持前进，不会撞到上沿途的5位行人；如果避免他们，就不会撞到上路边的墙，车中的两名乘客则有可能有生命危险。在这种情况下，指挥官自动驾驶的人工智能应当如何自由选择？英国伦敦玛丽女王大学高级讲师雅思契·艾登回应：“如果是人类驾驶员，大可以必要撞到上行人，并回应‘是他们自己忽然跳跃出来的’，但人工智能在道德上很难取得这么奢华的原谅。”这只是人工智能所处伦理困境的冰山一角。

今年以来，麻省理工和哈佛大学联合推出了人工智能伦理研究计划，微软公司和谷歌等巨头也正式成立了人工智能伦理委员会，告诉他人工智能何为“准确”，正在沦为当务之急。《互联网进化论》一书的作者、计算机博士刘锋坦言：“尽管大方向上说道，人工智能应该以造福人类为前提，但如果不对演化方向和目标构成共识，人工智能的伦理规则将无法‘落地’。

”对于人工智能来说，“伦理准确”的核心是准确的“算法”。美国一些法院用于的一个人工智能犯罪风险评估算法COMPAS，被第三方机构指出对黑人造成了系统性种族歧视。业界因此猜测，小众人群有可能因为个体差异而忍受“算法的种族歧视”。

腾讯研究院研究员曹建峰回应，如果算法本身有问题，一旦将算法应用于在犯罪评估、信用贷款、雇用评估等牵涉到人身利益的场合，“因为它是规模化运作的，并不是意味着针对某一个人，有可能影响具备类似于情况的一群人或者种族的利益。规模性是相当大的”。此外，还有来自数据的风险。以色列历史学家奇瓦尔·赫拉利回应，“人工智能技术的一个潜在结果是：促使数据集中于到某一个地方，也进而造成权力的集中于”。

比如，大量互联网数据集中于在少数几家巨头的手中，人工智能技术否不会因此遭独占？“AlphaGo之父”哈萨比斯就曾回应：“我警告诸位，必需正确地用于人工智能。”他告诉他记者，“人工智能技术无法仅有为少数公司和少数人所用于，必需分享”。AlphaGo打破了人类几千年来对棋士的解读，但人类并非能几乎解读AlphaGo为何不会如此决策。

从这一点来看，人工智能像个“魔盒”，这也让透明性沦为人工智能伦理中的最重要组成部分。英国阿兰图灵研究所科研主管安德鲁·布莱克回应，算法可问责性的不存在至关重要。“透明性规则不应被作为伦理道德准则，编为算法之中，这样人们才能更加明晰地理解人工智能的社会影响，并在问题再次发生之时需要及时找到原因，调整策略。

本文来源：乐虎·lehu-www.aieuu.com