Le Haut-Commissaire aux droits de l’homme a mis en garde lundi contre les «risques sans précédent» posés par les systèmes d’intelligence artificielle les plus avancés.

«J’appelle les États et les entreprises à se mobiliser de toute urgence dans le cadre d’instances multilatérales pour définir une voie d’action visant à encadrer les modèles d’IA de pointe», a indiqué Volker Türk dans une lettre ouverte envoyée aux États et aux entreprises du secteur. «Nous sommes à l’aube d’un changement irréversible qui nous concerne non seulement nous, mais aussi les générations futures de l’humanité», a-t-il ajouté, déplorant qu’actuellement «nous dépendons presque entièrement d’un petit nombre d’entreprises puissantes pour opérer les bons choix en matière de développement de l’IA pour l’ensemble de l’humanité».

Les inquiétudes vont croissant autour des conséquences de l’essor rapide de l’IA sur l’avenir de l’humanité. Selon le Haut-Commissaire, «tous les droits humains sont menacés» par cette technologie, y compris les droits à la vie et à l’alimentation, à la vie privée, à la santé et à la sécurité.

Des patrons américains du secteur technologique ont eux-mêmes plaidé pour un ralentissement des avancées dans le domaine.

Samedi, le patron d’Anthropic, Dario Amodei, s’est exprimé en faveur d’une décélération, afin de permettre de mieux appréhender les risques découlant des nouvelles capacités de l’IA. Sa proposition est intervenue après plusieurs incidents qui ont fait craindre que les concepteurs d’agents d’IA ne perdent le contrôle de leur produit. Il a évoqué une IA «capable de prendre le contrôle de l’intégralité d’Internet» d’ici 6 à 12 mois.

Dario Amodei a été soutenu publiquement par son homologue d’OpenAI, Sam Altman, ainsi que par Elon Musk. Les valeurs des grandes entreprises technologiques mondiales ont reculé lundi face aux appels à mettre un coup de frein à l’IA.

Selon le Haut-Commissaire, «la course actuelle vers une IA toujours plus puissante marque un changement radical, exposant tous les aspects de nos vies à des risques existentiels accrus». «Nous croyons vraiment, sincèrement, que l’IA pourrait tuer tous les humains», a affirmé la semaine dernière un des responsables de la sécurité chez Anthropic.

«Risque existentiel pour l’humanité»

«Des défaillances impliquant des systèmes d’IA agentique», des interfaces capables d’effectuer des tâches de façon autonome, «pourraient paralyser des services essentiels, interrompre les communications, déstabiliser des infrastructures critiques et porter atteinte au cœur même des institutions démocratiques», alerte Volker Türk. «Des populations entières pourraient se retrouver privées d’eau potable, de chauffage et de services financiers. L’IA agentique accélère déjà le rythme et l’ampleur des conflits armés, tout en érodant les garde-fous qui nous séparent du lancement d’armes de destruction massive», a-t-il encore averti.

Le chef du renseignement chinois a également averti dimanche que l’IA était de nature à menacer la sécurité nationale, des puissances étrangères pouvant utiliser cette technologie pour déstabiliser le pays.

Volker Türk avait déjà alerté, le 7 septembre devant le Conseil des droits de l’homme de l’ONU, sur le fait que l’IA pourrait constituer un «risque existentiel pour l’humanité».

Les entreprises à la pointe du développement de l’IA «qui se situent principalement en République populaire de Chine et aux États-Unis, ont à la fois la responsabilité et la capacité d’agir sans délai pour réduire les risques», a-t-il demandé lundi.

«L’autorégulation du secteur est une première étape urgente, mais elle est loin d’être suffisante à elle seule», a-t-il estimé, soulignant que le petit nombre d’États qui accueillent les leaders de l’IA doivent les contraindre à agir de manière responsable et harmoniser leurs règles pour éviter que la concurrence ne pousse à assouplir les réglementations.

Et de conclure : «Aucun pays ne peut réguler seul cette technologie. Aucune entreprise ne devrait pouvoir décider seule des risques que le monde doit accepter.»