L'IA a enshittifié le chasseur furtif avancé américain

L’intelligence artificielle a enshitifié le F-35, l’avion de combat furtif américain de 5e génération, longtemps assiégé. Produit par Lockheed Martin et disponible en trois versions différentes, le F-35 s'appuie sur un système d'IA appelé Autonomic Logistics Information System (ALIS) pour entretenir l'avion. L’idée était qu’ALIS maintiendrait le F-35 en état de vol à moindre coût et facilement.

La réalité a été tout le contraire. « ALIS est l'épine dorsale du soutien à la maintenance de l'avion F-35. Les escadrons en dépendent pour soutenir les opérations aériennes quotidiennes et les activités de maintenance… ALIS a démontré une faible convivialité et a entravé, plutôt que facilité, les opérations de maintenance efficaces », a déclaré un rapport gouvernemental récemment révélé sur les nombreuses défaillances du F-35.

Le rapport provient du Bureau du directeur des tests opérationnels et de l’évaluation, un département du Pentagone de l’ère Reagan qui teste les systèmes d’armes américains. C'est hautement classifié, mais le Project On Government Oversight, un groupe de surveillance à but non lucratif qui enquête sur les dépenses gouvernementales, s'est déchaîné avec une demande en vertu de la Freedom of Information Act. Le rapport de 382 pages est un réquisitoire approfondi du F-35 émanant du DoD lui-même. Greg Williams de POGO a examiné le rapport en profondeur et en a ressorti les éléments les plus scandaleux et ridicules.

Lockheed Martin a présenté le système d'IA ALIS dans une vidéo YouTube il y a sept ans. Il a comparé le système à un téléphone portable. L’idée était qu’un serveur central servirait de centre d’information et de maintenance sur les jets. Le F-35 est équipé de nombreux capteurs et ALIS gérerait les données et indiquerait à l'équipe de maintenance quoi en faire.

« Le F-35 fournit plus de données de maintenance provenant de ses capteurs que tout autre chasseur et ALIS les convertit en informations exploitables pour que le F-35 reste prêt à la mission », indique la vidéo. « ALIS rassemble les fonctions de formation, de planification, de maintenance et de support dans un seul système, ce qui permet d'économiser du temps et de l'argent tout en augmentant la disponibilité des avions. »

Il s’agit d’un système d’IA qui fonctionne sur un serveur qui nécessite une pièce de la « taille d’un conteneur d’expédition » pour fonctionner. Cela ne s'est pas bien passé. Selon le rapport du DOTE, ALIS continue de dire au personnel d'assistance que les choses ne vont pas avec les F-35 individuels alors que tout va bien. « Les efforts visant à lutter contre les taux élevés de fausses alarmes n'ont jusqu'à présent pas donné lieu à des progrès majeurs vers le respect des seuils requis », indique le rapport.

Le DoD a tenté d'utiliser des filtres logiciels pour filtrer les absurdités d'ALIS, mais cela ne fonctionne pas toujours. Et chaque fois qu'il y a un nouveau matériel ou une mise à jour logicielle, tout se brise à nouveau. « Même si l'entreprise a peaufiné ces filtres depuis lors, un grand nombre de fausses alarmes aboutissent toujours à des ordres de travaux de maintenance non exploitables », indique le rapport. « L'une des causes des taux élevés de fausses alarmes est que les nouveaux chargements de logiciels d'avion, ou les nouvelles versions de matériel, ont tendance à produire de nouvelles fausses alarmes, et les filtres PHM sont en retard sur le rythme des mises à jour du système. »

« ALIS était peu convivial, nécessitait beaucoup de temps de la part du responsable pour accomplir les tâches de l'application, connaissait des interruptions fréquentes, ne fournissait pas aux responsables toutes les informations et capacités souhaitées et ne présentait pas d'informations cohérentes aux responsables », indique le rapport. Les problèmes avec ALIS étaient si graves que les responsables de la maintenance du F-35 ont commencé à s'en méfier et ont développé leurs propres solutions de contournement lorsqu'il s'agissait du système d'IA.

Les problèmes d’ALIS et du F-35 en général sont connus du public depuis longtemps. Il y a quatre ans, le Government Accountability Office a qualifié ALIS de buggy cauchemardesque que les équipes de maintenance détestaient utiliser et en qui ils ne faisaient pas confiance. En réponse, Lockheed remplace ALIS par un système appelé Operational Data Integrated Network (ODIN). Mais ODIN n'a pas encore été testé et consiste, dans un premier temps, simplement à migrer les systèmes ALIS existants vers le cloud.

Le F-35 est nul depuis longtemps. Il y a tellement de problèmes qu’il a fallu au Pentagone 382 pages pour les développer tous. ALIS n’est que l’un d’entre eux. Les Marines ont perdu un F-35 en Caroline du Sud l'année dernière. En 2021, l’un des avions s’est suicidé et a causé 2,5 millions de dollars de dégâts. Malgré ces problèmes et une myriade d’autres problèmes et crashs, le Pentagone est sur le point de dépenser des milliards pour cette chose et d’en gagner des millions de plus en les vendant à ses alliés.