江苏龙网

  1. 首页 > 资讯 > 科技 > >

人工智能|自动驾驶车祸谁埋单、如何防人脸造假？AI治理话题引热议


“如果算法出错 ， 应该由谁埋单？无人驾驶汽车领域显然无法逃避这一问题 ， 但除此之外还有其他诸多领域也同样如此 。 ”
在7月10日下午举行的2020世界人工智能大会分论坛人工智能治理论坛上 ， 图灵奖获得者、康奈尔大学John Hopcroft（约翰·霍普克罗夫特）在发表“人工智能的社会责任”视频演讲时 ， 提出了上述这样一个思考 。
尽管目前人工智能（AI）技术还远未到达像《银翼杀手》《西部世界》等影视作品中的水平 ， 但技术在不断进步的同时 ， 也面临着新的问题 。 尤其是当下全球人工智能发展正进入新的阶段 ， 呈现出跨界融合、人机协同、群智开放等特征 ， 在此背景下 ， 如何协调人工智能发展与治理的关系也成为全球科技界关注的热点话题 。
人工智能|自动驾驶车祸谁埋单、如何防人脸造假？AI治理话题引热议
本文插图

人工智能治理面临哪些挑战？

【人工智能|自动驾驶车祸谁埋单、如何防人脸造假？AI治理话题引热议】我国在发展人工智能的同时高度重视治理问题 。 2019年2月 ， 我国专门成立了国家新一代人工智能治理专业委员会 ， 同年6月 ， 国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》 ， 提出了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条原则 。 去年的2019世界人工智能大会 ， 也专门增设了人工智能治理分论坛 。
上海市委书记李强7月9日在2020世界人工智能大会云端峰会开幕式上致辞时指出 ， 要更加重视应对人工智能发展带来的道德伦理、隐私保护、安全风险等问题 ， 加快研究制定相关法规制度 ， 让人工智能更好为人所用、为人服务 。
随着AI技术和经济生活的联系愈加紧密 ， 全球以及我国人工智能治理的现状如何？
国家新一代人工智能治理专业委员会主任薛澜今日在发表“人工智能治理现状与趋势”的报告时表示 ， 通过梳理过去六七年的基本情况 ， 他们发现全世界各个国家都围绕AI治理做了不少举措：将人工智能纳入战略性布局的国家越来越多了 ， 而且各国对讨论并纳入规划的应用领域越来越广 ， 另外 ， 全球也开始探讨如何保护人工智能知识产权的问题 。

在薛澜看来 ， 我国AI治理当前面临的主要挑战是数据治理和算法争议两个问题 。 对此 ， 薛澜对未来我国人工智能治理的发展也提出一些建议 。 他说 ， 首先要加强基础研究 ， 降低技术风险 。 第二 ， 要建立多元共治的人工智能伦理治理体系 ， 涉及到很多伦理的问题应该让社会各方面的声音都有发声的渠道和平台 。 第三 ， 建议把数据和算法作为当前重点治理的对象 。
作为推动技术落地运用的主体 ， 企业在人工智能治理中也扮演的重要一环 。 人工智能公司旷视科技CEO印奇分享了一个例子 。 他说 ， 在北京、上海这样的超大型城市的火车站、机场以及通关口岸 ， 人流量非常大 ， AI技术能够帮助人们高效通行 ， 但是人流密集的地方也有很多安全性问题 。 如何通过一个更好的技术去无感知地实现这些城市治理也是他们思考的问题 。 同时 ， 人工智能治理也需要每个企业从自我约束做起 。
而在学界 ， 从事人工智能领域研究的专家也在教育层面关注AI治理 。 复旦大学计算机学院院长姜育刚说 ， 有一些技术可以欺骗人工智能 ， 比如躲避检测、误导自动驾驶系统 ， 还有一些利用技术来省城虚假内容 ， 比如换脸 。 面对这些情况 ， 技术可以在人工智能治理当中发挥非常重要的作用 。

“攻和防是博弈和互促的技术 ， 存在攻击就更要发展防御的方法 。 比如针对那些换脸视频我们可以用技术来检测是否是人为生成的等等 。 ”姜育刚表示 ， 他们目前正在加大这方面的研究力度 ， 而且会尽快开设人工智能治理的相关课程 。


推荐阅读


上一篇：互联网|“逃债”卸载支付宝，能不还花呗吗？网友：难怪马云不着急！

下一篇：自动驾驶|马斯克：不照搬美国，特斯拉在中国要做的是原创设计和工程开发