I.A. au volant, gare au tournant

Vous roulez en voiture, et soudain, deux personnes surgissent devant vous. Vous n’avez qu’une seule option possible : viser une personne pour sauver l’autre. Qui écrasez-vous : la femme enceinte, ou le grand-père ? La plupart répondront, d’un air désolé, la personne âgée. Deux vies valent mieux qu’une, surtout lorsqu’elles ne font que commencer, nous dicte la morale.

Imaginons maintenant qu’une voiture autonome soit confrontée au même scénario. Qui écrasera-t-elle ? Elle a beau être bardée de capteurs, cette voiture ne distingue pas encore le ventre d’une femme enceinte de l’embonpoint d’un papy, ni leurs âges respectifs. Et quand bien même : la loi autorisa-t-elle le constructeur à programmer la voiture pour qu’elle sacrifie en priorité la personne âgée ? Quid des assurances ? Et les enfants et petits-enfants que l’accident laissera orphelins, ne comptent-ils pas ?

Ce cas d’école, rappelé par l’eurodéputée Mady Delvaux-Stehres lors d’une conférence sur l’intelligence artificielle, nous donne un aperçu du monstrueux casse-tête à venir.

Oui, cette nouvelle ère placé sous le signe de l’algorithme annonce de formidables progrès. Pour reprendre l’exemple automobile, les voitures autonomes ne ralentissent pas pour regarder un carambolage, ne carburent pas au whisky ou n’écrivent pas de textos au lieu de regarder la route. Bref, les routes seront indéniablement plus sûres et plus fluides.

Mais comme tout progrès, il faut se préparer au meilleur comme au pire. Le pire, c’est peut-être l’allié maudit de la sécurité : l’aliénation. L’homme moderne, bardé d’assistants technologiques, sera-t-il plus libre ?

La Chine nous livre déjà un sinistre présage. En 2020, les chinois seront soumis à un système de notation qui récompensera ou punira les citoyens en fonction de leur actions. 600 millions de caméras dotées d’intelligence artificielle épieront les gens, chaque jour, partout, ou presque. Vous traversez en dehors des clous ? Interdiction de prendre le train jusqu’à nouvel ordre. Vous collez une affiche dissidente ? Au trou ! Bref, quand les robots se mettent au diapason de l’intelligence humaine, la menace n’a rien d’artificielle…

Romain Van Dyck