人工智能对国家安全的影响浅析

人工智能对国家安全的影响浅析

姜礼德

国防大学联合勤务学院，北京市 100039

人工智能是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。自2006年深度学习算法被提出，人工智能技术应用取得突破性发展。2012年以来，数据的爆发式增长为人工智能提供了充分的“养料”，深度学习算法在语音和视觉识别上实现突破，令人工智能产业落地和商业化发展成为可能。人工智能进入国家安全领域的趋势不可阻挡，我国开展人工智能研究正处于初步阶段，必须持之以恒加大投入，抢占人工智能发展的制高点。

一、人工智能发展现状

（一）国际社会人工智能发展现状。一是专用人工智能取得重要突破。面向特定任务的专用人工智能系统由于任务单一、需求明确、应用边界清晰、领域知识丰富、建模相对简单，形成了人工智能领域的单点突破，在局部智能水平的单项测试中已经超越人类智能。二是通用人工智能尚处于起步阶段。目前，虽然专用人工智能领域已取得突破性进展，但总体发展水平仍处于起步阶段。目前的人工智能系统可谓有智能没智慧、有智商没情商、会计算不会“算计”、有专才而无通才。因此，人工智能依旧存在明显的局限性，依然还有很多“不能”，与人类智慧还相差甚远。三是人工智能创新创业如火如荼。全球产业界充分认识到人工智能技术引领新一轮产业变革的重大意义，纷纷调整发展战略。人工智能领域处于创新创业的前沿。2018年全球人工智能核心产业市场规模超过555.7亿美元，比上年度增长50.2%

（二）我国人工智能发展现状。当前，我国人工智能发展的总体态势良好，但也存在过热和泡沫化风险。总体而言，我国人工智能发展现状可以用“高度重视，态势喜人，差距不小，前景看好”来概括。一是高度重视。作为新一轮产业变革的核心驱动力和引领未来发展的战略技术，国家高度重视人工智能产业的发展。2017年国务院发布《新一代人工智能发展规划》，对人工智能产业进行战略部署；在2018年3月和2019年3月的政府工作报告中，均强调指出要加快新兴产业发展，推动人工智能等研发应用，培育新一代信息技术等新兴产业集群壮大数字经济。二是态势喜人。总体来说，我国人工智能领域的创新创业、教育科研活动非常活跃。在人工智能基础层、算法层、技术层和应用层，国内已经涌现出一批有相当实力的人工智能企业。我国已成为全球人工智能投融资规模最大的国家，在人工智能领域专利申请数量与论文数量均居世界首位，人工智能企业数量全球第二。三是差距不小。目前我国在人工智能前沿理论创新方面总体上尚处于“跟跑”地位，人工智能技术生态布局相对滞后，技术平台建设力度有待加强，国际影响力有待提高。参与制定人工智能国际标准的积极性和力度不够，国内标准制定和实施也较为滞后，对人工智能可能产生的社会影响还缺少深度分析，制定完善人工智能相关法律法规的进程需要加快。四是前景看好。我国发展人工智能具有市场规模、应用场景、数据资源、人力资源、智能手机普及、资金投入、国家政策支持等多方面的综合优势，人工智能发展前景看好。我国发布的《新一代人工智能发展规划》提出，到2030年人工智能核心产业规模超过1万亿元，带动相关产业规模超过10万亿元。在我国未来的发展征程中，“智能红利”将有望弥补人口红利的不足。

二、人工智能对国家安全的影响

作为一项革命性新技术,人工智能在政治、军事、经济、社会等各方面均有巨大应用潜力,对国家安全而言, 将会是国家安全领域的颠覆性力量，既蕴含着机遇,也存在风险,将深刻改变军事、信息和经济领域安全态势。

（一）军事领域。军事安全是国家安全之根本。在军事领域，人工智能的发展将产生新的能力，例如现有的机器学习技术能够使卫星图像分析和网络防御等劳动密集型活动实现高度自主化；功能强大且廉价的智能化“蜂群”将取代昂贵的单一化平台等等。可以预见，在不久的将来，人工智能的进步可让更多的自主机器人支援作战人员，加快战争形态从有人作战向无人作战的转变。同时随着自主性的完善和成熟，智能化的自主机器人系统可与更多作战要素匹配，形成新质作战力量，最终改变军事力量对比和各国在国际安全体系中的地位。

（二）信息领域。信息安全是国家安全的战略基石。在信息领域，人工智能技术未来的进步将深刻影响情报收集、数据分析和数字媒体的创造能力，这一能力将在维护国家安全，开展价值宣传、战略欺骗和情报行动中发挥极为重要的作用。可以预见，在不久的将来，人工智能信息合成与伪造技术将对政府工作、新闻传播、社会稳定以及诸多国家安全领域产生深远影响，很多机构的信任基础将受到侵蚀威胁。

（三）经济领域。经济安全是国家安全的重要保证。在经济领域，人工智能的发展将会带来一次新的产业革命，重新塑造世界经济中的劳资关系。人工智能技术的进步将推动技术创新，导致劳动力的自动化水平不断提高，劳动力需求也将大幅下降。可以预见，在不久的将来，人口数量对于国力来说将变得不那么重要，在人工智能技术上有重大优势的小国家将发挥远远超过其实力的作用。而对人口大国来说，由于自主化的提升，为个人、经济、社会打开新机遇的同时，所造成的劳动者失业问题，将会影响到数以百万计人的生活。

三、意见建议

对于人工智能这一有望深刻改变未来社会生产和战争形态的技术，我们既要保持清醒的头脑，更要充分激发其活力，必须牢牢把握人工智能发展的重大历史机遇，搞好战略规划，密切跟踪前沿技术，以积极主动的作为有效维护国家安全。

（一）重视完善人工智能标准。标准、基准、测试平台，以及人工智能在军事领域的应用对于引导和促进人工智能技术的研发来说是必不可少的。一是制定人工智能标准。我国在人工智能技术应用方面走在世界前列，在人工智能国际标准制定方面应当掌握话语权，并通过实施标准加速人工智能驱动经济社会和军事领域转型升级的进程。二是建立人工智能测试平台。研究人员可以使用测试平台实际运行数据，在现实系统和良好测试环境下的想定中进行建模并实验，应当抓紧建立安全且精准的测试平台，为人工智能提供独特的研究机会和实验方法。

（二）加强人工智能安全防护。从技术层面看，人工智能应用利于减少专业人员数量，降低培养和维护成本，可以最大限度保障人的生命安全;人工智能不会感到疲倦，也不受感情因素影响，可以避免人为失误，从而准确完成任务。但人工智能也存在着易被技术复制和黑客攻击等不足，且人工智能系统的性能在很大程度上受到人机交互的影响，人的反应变化可能会影响系统的安全性等等因素，这就要求我们必须加强人工智能的安全和防护，包括改进可解释性和透明度、建立信任、加强验证和确认、制定防攻击安全策略等，使人工智能系统最终实现“自我改进”，从而确保人工智能长期的安全性。

（三）构建自主可控的创新生态。我国人工智能技术创新生态布局相对滞后，技术平台建设力度亟待加强。要系统布局并重点发展人工智能领域的“新核高基”：“新”指新型开放创新生态，如产学研融合等；“核”指核心关键技术与器件，如先进机器学习技术、目标识别技术、低功耗智能计算芯片等；“高”指高端综合应用系统与平台，如机器学习软硬件平台、大型数据平台等；“基”指具有重大原创意义和技术带动性的基础理论与方法，如脑机接口、类脑智能等。主攻关键核心技术，并确保人工智能关键核心技术牢牢掌握在自己手里。