“算法缺陷”不可不察，必须对其缺陷缺点进行纠错和改进

(相关资料图)

“算法缺陷”不可不察

近年来，战争算法受到人们的高度关注，成为军事及相关学界研究讨论的焦点和热点。有人甚至断言，战争算法或将改变未来战场的样式和规则，影响未来战争的进程和结局。

应该说，基于人工智能技术的战争算法，为运用数学方式对战争进行定性定量分析和科学辅助决策提供了崭新的方法和手段，由此提高了战争决策的科学性和稳定性。不仅如此，算法在精确制导武器中的关键赋能作用也更加突出，从坦克、装甲车的自动防护系统，到军用飞机的自主控制系统，再到防空反导武器的捕捉拦截系统，深度嵌入算法已成为现代主战武器装备的“标配”和“必配”。然而，自深度学习算法出现误判错识图像、外卖配送系统算法存在“围困骑手”等错误后，人们对“算法缺陷”也开始重视起来。毫无疑问，战争算法在实际应用中存在着种种缺陷和偏差，并已在相关实践中频露端倪，应该引起我们的高度关注和切实警惕。

譬如，某些战争算法存在先天缺陷，容易产生与人们主观愿望相悖的不利结果。据资料显示，美军F-35战机拥有几千万条代码，严重依赖控制系统软件，在试验过程中曾出现100多个问题，几乎都与软件的算法高度关联。一旦算法无法适应武器装备的战术技术性能，或遇到垃圾数据影响而出现各种差错，或其本身存在某些漏洞，都极有可能导致武器装备无法正常运转，进而招致不堪设想的后果。故而，武器装备若不能克服和修补算法的各种缺陷，不仅会降低战技融合的效果，而且影响战争行动的成败。

又如，“发现即摧毁”等现代战争的新样式新形态，要求以强大的战场态势感知能力作支撑，先敌感知态势，先敌发现目标，先敌实施打击。人工智能技术与大数据的深度融合，使得战争算法日益成为支撑战场态势感知的关键技术和重要载体，对态势预测、规律洞察、决策辅助等形成强大支持和推动作用。但是，一旦战争算法出现问题，嵌入作战控制系统中的算法软件就可能影响其建立自主性态势感知和认知启发模型，就不能再进行精确的海量数据分析处理，并将简单的逻辑计算跃升至自主的推理决策，就难以将微观“计算”有机有序有效地统一于宏观“算计”之中，最终降低战争算法的科学性和可靠性，影响战争决策的准确率和制胜率。

再如，战争算法系统的数据输入与输出存在无法观测的“黑箱”空间，致使嵌入其中的人工智能容易与决策机构及人员产生分歧、无法协调一致而影响作战行动。从已知情况看，人工智能往往会产生独特而“合理”的算法偏差，且这种偏差还会在系统中层层叠加，最终可能导致意想不到的结果。倘若一方作战人员进入一个有算法偏差的图像识别系统，通过成百上千张图片分析评估将敌方作战人员定位在某个非作战人员密集的区域，一旦攻击发生错误，后果不堪设想。

尤须指出的是，人始终是战争胜负的决定性因素，过度夸大战争算法的作用，无益于发挥人在战争中的主导作用，并因此削弱人脑的运筹谋划功能。现代战争，战场情况千变万化，当遭遇算法本身无法应对的突发情况和意外局面时，只能依靠人来处置，需要人充分发挥其主观能动作用。倘若人们平时依赖基于人工智能的战争算法而缺乏自主谋略、筹策等必要训练，战时一旦出现“断档”，就可能“抓瞎”而贻误战机。现实生活中，不少人因为习惯于用计算机打字和作文，以致大大削弱了自身对文字的书写驾驭能力。一味或过度依赖战争算法的结果，可能与此如出一辙。

唯物辩证法告诉我们，一件事物越是发挥重要作用，越是不能轻信其无所不能的神话，越是需要关注和洞悉它的各种缺陷和不足，进而一面通过发现其缺陷和不足而尽力避免错误，一面经过努力修补改进使其日臻完善。战争算法也一样，必须对其功能性能洞察入微，对其缺陷缺点进行纠错和改进，使之真正成为人工智能和指挥控制系统的核心要素和实施智能决策、智能指挥的关键环节——这也是打赢未来战争必须关注的战略制高点和制胜着力点。（胡建新）

来源：中国军网-解放军报

关键词：