让军事智能化步入科学发展轨道( 六 ) 要点提示●基

着眼人工智能引领新一轮产业变革的趋势，处理好机遇与挑战的关系

人类近代史上历次科技革命和产业变革，都对军事领域产生了颠覆性影响，直至改变战争形态。正如恩格斯所说：“用什么方式生产，就会用什么方式打仗。 ”目前，世界各军事强国纷纷加大人工智能应用的投入力度，致力于打造具有常识、情景感知和效能更高的军事系统，抢占未来军事竞争制高点。然而，人工智能技术是柄“双刃剑” ，既要抓住千载难逢的历史机遇，又要客观理性地看待面临的风险和挑战。风险处理不好，小则造成经济损失，大则影响未来战争成败。全球性人工智能投资热潮越高涨，我们越是应着眼防范国家安全重大风险，重视军事智能化的潜在风险研究，实行对应用技术、应用成果的有效管控。

算法风险。作为人工智能的主流算法，深度学习本身是一个复杂系统，随着算法层级的增多，对这个生成和反馈数据的“黑盒子”里为什么能够给出有效输出、何时能够给出有效输出？算法专家也无法用逆向工程来分析并给出答案，可能在不知不觉中失去了发现错误、纠正错误的机会。美军F-35战机控制系统的智能化程度非常高，拥有几千万条代码，最近几年暴露出来的200多个问题几乎都与其智能软件的算法高度关联。任何一个问题的出现，不但影响战机的作战性能，甚至连安全起降都成问题。国际人工智能协会主席迪特里奇在前年发表的主席报告中，针对人工智能技术缺少稳健性，提出了“稳健人工智能”的发展目标。