Sully, ou les limites de l’intelligence artficielle

Publié le 4 novembre 2018 par Herve Kabla

Sully – alias Captain Chesley Sullenberg – est le surnom de ce pilote de ligne qui, un jour de janvier 2009, posa son Airbus d’US Airways sur l’Hudson, sauvant la vie à 155 passagers et membres d’équipage. De cet exploit, Clint Eastwood a tiré un film qui s’inscrit parfaitement dans cette série que l’acteur-réalisateur consacre, depuis quelques années, à ces antihéros qui forment le fondement de l’Amérique moderne.

Car loin de jouer les bravaches, Sully met cet exploit avant tout sur le fait d’avoir fait son boulot, comme des milliers d’autres pilotes de ligne le font au quotidien. Et lorsque la commission d’enquête se pose des questions sur cet exploit, et prétend, simulations à l’appui, que l’appareil aurait pu être sauvé si Sully avait tenté un atterrissage sur l’une des pistes les plus proches, par exemple à La Guardia, là encore, Sully fait le job: non, ce n’était pas possible, seul un pilote expérimenté pouvait comprendre, dans un laps de temps réduit, ce qui était en train de se dérouler. Un simulateur ne sait qu’enchaîner une liste de tâches, comme un programme informatique le ferait, sans prendre en compte les délais incompréhensibles dûs à l’évaluation de la situation. Ce sont ces quelques 30 secondes tragiques qui, sur les 208 secondes que dura le vol, déterminent le sort des passagers.

Inévitablement, dix ans après la catastrophe, et en regardant le film, on se pose la question de ce qu’aurait fait un programme basé sur des algorithmes dotés d' »intelligence artificielle » dans pareil cas. Car la mode est à la réflexion sur les transports autonomes. Du côté des trains et des métros, c’est en cours. Du côté de la voiture ou des camions, on s’approche de la mise en service. Quid du côté du transport aérien? S’il est à peu près clair qu’un avion pourrait être piloté par un programme suffisamment intelligent, il reste des incertitudes sur ce que ferait un tel programme en cas de panne majeure, comme c’est le cas pour le vol 1549, qui traverse un groupe d’oiseaux peu après son décollage, et dont les deux réacteurs tombent simultanément en panne.

Les algorithmes d’IA basés sur l’apprentissage – ceux qui ont fait merveille au jeu d’échec ou au go – ont besoin d’être alimentés par des cas réels, des situations déjà vécues, des parties déjà jouées. Perdre ses deux réacteurs deux minutes après le décollage – et s’en sortir – c’était du jamais vu jusqu’à ce vol. Comment aurait réagi un programme dont le fonctionnement s’appuie sur un historique prédéterminé en l’absence de tout historique? Bien évidemment, lorsqu’on alimente un tel programme – ou un simulateur – avec une partie déjà jouée, il s’en sort parfaitement. Mais quelles initiatives prendrait-il en l’absence de référentiel?

C’est le point essentiel sur lequel se joue ce drame: l’expérience accumulée. Les Quarante années qiu ont précédé l’incident sur l’Hudson ont été déterminantes. Si Sullenberg avait eu vingt ou trente années de moins, dieu sait ce qui se serait passé dans la même situation. Dans un passage de When to Rob a Bank, un pilote interviewé par les auteurs enfonce le clou, et accuse les compagnies low-cost, en faisant appel à des pilotes moins expérimentés et probablement moins bien formés, de mettre en danger la vie des passagers et des équipages. On se souvient de la catastrophe du Rio-Paris, due à une erreur d’interprétation d’un des pilotes, le plus jeune et le moins expérimenté. Un programme serait-il capable de faire mieux? Et la FAA sera-t-elle prête, un jour, à confier les commandes à un algorithme dont les résultats ne sont déterminés qu’en fonction de la richesse des données sur lesquelles fonder ses interprétations?

Sur le même sujet, revoir cette vidéo qui date d’il y a 9 ans, et qui retrace une simulation du vol 1549.