Dal 1994 oltre mille persone hanno perso la vita su voli per gesti deliberati di piloti o membri dell'equipaggio, una ferita che l'aviazione ha imparato a guardare in faccia solo di recente. Ora i costruttori cercano il modo di tradurre questa lezione in tecnologia, immaginando sistemi capaci di impedire che una mano sola porti un aereo verso la distruzione. Ma ogni barriera costruita contro il gesto estremo porta con sé il rischio opposto: che la macchina, incapace di distinguere la follia dal coraggio, neghi anche la manovra che salva. È un equilibrio fragile, nel quale la fiducia riposta ne
Aerei, sistemi anti-suicidio per i piloti: il dilemma del software che potrebbe bloccare le manovre di salvataggio
Almeno 1.160 persone hanno perso la vita dal 1994 in seguito ad azioni intenzionali di piloti.
Il miracolo sull'Hudson potrebbe non ripetersi
Mark
Partiamo dal numero: 1.160 vittime dal 1994. Perché è centrale?
Mimi
Perché dà la dimensione del fenomeno: azioni intenzionali di piloti o equipaggio, in oltre trent'anni. È il motivo per cui i costruttori studiano delle contromisure.
Mark
Eppure l'articolo dice che la statistica favorisce lo status quo.
Mimi
Sì, perché questi casi sono rari rispetto ai voli totali, mentre un software che interviene sui comandi può sbagliare in situazioni molto più comuni, le emergenze vere.
Luke
Fermiamoci un attimo: il numero 1.160 viene dall'articolo, e ci dice quante vittime ci sono state, non quante volte un software avrebbe potuto evitarle. Su questo il testo non dà dati.
Mark
E l'Hudson che c'entra?
Mimi
È l'esempio di una manovra non standard che salvò tutti. Un sistema rigido potrebbe giudicarla pericolosa e bloccarla.
Luke
Attenzione però: è uno scenario ipotetico. L'articolo non dice che esista un software che avrebbe impedito l'Hudson, ma che potrebbe accadere con sistemi di questo tipo.
Mark
Quindi i costruttori hanno già deciso?
Luke
Non risulta. Si parla di studi, non di sistemi adottati.
Mimi
Resta il bivario tra prevenzione e capacità di reazione, e la risposta dipenderà dalle scelte tecniche.
Le Pouls
- Dal 1994 almeno 1.160 vittime di azioni intenzionali compiute ai comandi o nell'equipaggio hanno scosso il settore.
- I costruttori aeronautici studiano software anti-suicidio che possano scavalcare il pilota in volo.
- Il rischio concreto è che lo stesso sistema blocchi manovre estreme ma corrette, come l'ammaraggio sull'Hudson.
- Casi come Germanwings e Flydubai riaprono il tema dei controlli sulla salute mentale e sulla sicurezza in cabina.
- La partita si gioca ora sulle scelte tecniche che decideranno quanto l'automazione possa prevalere sul comandante.
Dal 1994 oltre mille persone hanno perso la vita su voli per gesti deliberati di piloti o membri dell'equipaggio, una ferita che l'aviazione ha imparato a guardare in faccia solo di recente. Ora i costruttori cercano il modo di tradurre questa lezione in tecnologia, immaginando sistemi capaci di impedire che una mano sola porti un aereo verso la distruzione. Ma ogni barriera costruita contro il gesto estremo porta con sé il rischio opposto: che la macchina, incapace di distinguere la follia dal coraggio, neghi anche la manovra che salva. È un equilibrio fragile, nel quale la fiducia riposta nell'uomo e quella riposta nell'algoritmo devono imparare a convivere.
Dal 1994 almeno 1.160 persone sono morte per azioni intenzionali compiute da piloti o da altri membri dell'equipaggio durante il volo. È il numero che oggi spinge i costruttori aeronautici a valutare sistemi capaci di impedire a un pilota di portare deliberatamente un aereo alla distruzione.
La questione, però, non è solo tecnica. Gli episodi di questo tipo restano rari rispetto al numero complessivo dei voli, e un software che intervenga sui comandi porterebbe con sé un rischio nuovo.
Il nodo è questo: un sistema pensato per fermare un gesto estremo potrebbe bloccare anche una manovra estrema ma giusta. L'esempio è il «miracolo sull'Hudson», l'ammaraggio che salvò tutti gli occupanti, che un algoritmo potrebbe giudicare pericoloso e quindi impedire.
Intorno al tema si intrecciano casi recenti e più lontani: il volo Flydubai, l'inchiesta sui cinque errori che portarono il primo ufficiale in cabina, e il disastro Germanwings sulle Alpi, con il pilota depresso e i segnali sfuggiti. Episodi diversi che indicano lo stesso punto debole: una persona ai comandi che, per salute mentale o per falle nei controlli, diventa un pericolo.
Il dilemma resta di bilanciamento tra prevenire atti deliberati e lasciare al pilota la libertà di reagire alle emergenze reali. Saranno le scelte tecniche sul software, e su quanto possa scavalcare le decisioni umane, a stabilire dove cadrà l'equilibrio.
Dal 1994 almeno 1.160 persone sono morte per azioni intenzionali compiute da piloti o da altri membri dell'equipaggio durante il volo. È il numero attorno al quale ruota il dibattito che oggi coinvolge i costruttori aeronautici, impegnati a valutare sistemi capaci di impedire a un pilota di condurre deliberatamente un aereo alla distruzione.
Il problema, però, non è soltanto tecnico. Secondo l'analisi pubblicata dal Corriere della Sera, la statistica gioca a favore dello status quo: gli episodi di questo tipo sono rari rispetto al numero complessivo dei voli, e un software che intervenga sui comandi introdurrebbe a sua volta un rischio.
Il nodo è la possibilità che un sistema progettato per fermare un gesto estremo finisca per bloccare anche manovre estreme ma giuste. L'esempio richiamato è il «miracolo sull'Hudson», l'ammaraggio che salvò tutti gli occupanti. Una manovra come quella, sostiene l'articolo, potrebbe essere giudicata pericolosa da un algoritmo e quindi impedita. In altre parole, il miracolo potrebbe non ripetersi.
La questione si intreccia con casi recenti e con altri più lontani nel tempo. Il pezzo rimanda a tre approfondimenti firmati da Leonard Berberi: il reportage minuto per minuto su quanto accaduto sul volo Flydubai; l'inchiesta che indica cinque errori, dai mancati controlli ai silenzi dei Paesi coinvolti, che hanno portato il primo ufficiale in cabina; e la ricostruzione del disastro Germanwings sulle Alpi, con il pilota depresso, gli anni di psicofarmaci e i segnali sfuggiti.
Sono episodi diversi, ma indicano lo stesso punto debole: la presenza ai comandi di una persona che, per ragioni di salute mentale o per falle nei controlli, rappresenta un pericolo invece che una garanzia. Da qui la ricerca di una barriera tecnologica.
Il dilemma è dunque di bilanciamento. Da un lato la prevenzione di atti deliberati, che hanno già causato oltre mille vittime in poco più di trent'anni; dall'altro la libertà del pilota di reagire a emergenze reali con soluzioni non convenzionali. Le scelte tecniche sul software, e su quanto debba poter scavalcare le decisioni umane, saranno decisive nel definire dove cade l'equilibrio.
Citations marquantes
La statistica gioca a favore dello status quo: potrebbe non ripetersi il miracolo sull'Hudson.— Corriere della Sera (sintesi dell'articolo)
Envie de l'histoire complète ?
Lire l'original sur Corriere della Sera ↗
Technology