当前,人工智能是影响网络领域的主要技术趋势之一。人工智能和机器学习正在以惊人的速度发展,越来越多的应用程序将人工智能作为其解决方案的一部分。人工智能赋能的攻击性网络行动将具有高效、精确、难以归类等特征。
①网络物理领域的级联效应。
物理领域中的大部分操作都依赖网络,在后勤和运输领域,陆地(公路和铁路)、海洋和空中交通控制在许多方面依赖于数字系统。关键基础设施(系统、工厂、流程、网络和设备)的中断或破坏将对民众健康、安全、经济和社会福利以及治理结构产生严重影响。网络信息在提高效率和效力的同时,也为攻击者提供了新的漏洞。恶意行为体可对关键基础设施发动具有连锁效应的攻击。人工智能解决方案可以探测目标并运送爆炸物以消除恐怖主义目标。无人机为恶意攻击者提供了部署或重新利用这些系统的条件,以达到有害目的,如撞毁自动驾驶汽车车队,将商用无人机变成面向目标的导弹等。
②人工智能在国家支持的信息行动中具有重要作用。
人工智能在政治领域的作用主要表现为,虚假信息对公众舆论的导向功能。利用人工智能大规模收集、分析公民信息并对其采取行动的能力,可以使监控和侵犯隐私的行为达到新的水平。日益增长的视觉信息文化以及人工智能技术的进步,将为欺骗和造假行动提供便利。预计,用于信息行动的人工智能支持技术将最易被冲突阈值以下的恶意行为体所采用。
需关注的问题:
1. 人工智能支持的首次网络攻击发生的时间、原因。
2. 在信息物理系统中,关键基础设施之间的联系。
3. 如何预测可能产生的级联效应,以及有能力、动机和意愿使用级联效应的行动体。
4. 非西方政府将如何利用人工智能,人工智能将对西方国家构成怎样的威胁,这些技术是否会出口到其他民主程度较弱的国家,从而促进进一步的反民主化。
5. 西方国家将如何在利用技术保障国家安全与保护公民隐私之间取得平衡。