Les jouets intégrant l’intelligence artificielle générative auraient pu rêver mieux que le constat d’une récente étude alarmante pour se faire connaître. Mais leurs concepteurs assurent avoir renforcé les garde-fous et veulent gagner la confiance des parents.

Un partenaire sexuel qui endosse le rôle d’un animal peut «donner un tour amusant à une relation», a expliqué l’ours Kumma aux testeurs de l’observatoire américain de la consommation PIRG, auteur de l’enquête baptisée «Problème dans le monde des jouets». Publiée en novembre, celle-ci a provoqué un tollé tel que la start-up singapourienne FoloToy a immédiatement suspendu la vente de son produit. Elle a été relancée quelques semaines plus tard en ajoutant un âge minimum recommandé à trois ans. Sans mentionner de lien avec l’incident, Mattel a décidé, mi-décembre, de repousser la sortie de son premier jouet développé en partenariat avec OpenAI.

«La chose la plus importante est le modèle» d’IA, a expliqué Wang Le, patron de FoloToy, en marge du salon technologique CES, qui s’est tenu mi-janvier à Las Vegas. «Et nous sommes passés de GPT 4o à GPT 5», une version plus élaborée du célèbre agent conversationnel. Il souligne que PIRG a utilisé des mots «qu’un enfant ne dirait pas», mais ajoute que l’entreprise s’est servie de la mésaventure pour intégrer un vocabulaire beaucoup plus étendu à ses filtres. Désormais, assure-t-il, en cas de question inappropriée, «il ne répondra pas ou dira qu’il ne sait pas».

S’il est vendu comme un ami ou un compagnon, ce n’est pas bon

Le bond en avant de l’IA générative depuis l’arrivée de ChatGPT a ouvert la voie à une nouvelle génération de jouets intelligents, une décennie après la pionnière Hello Barbie. Parmi les quatre objets mis à l’épreuve par PIRG figurait également le Grok de la marque Curio – à ne pas confondre avec l’assistant vocal de xAI –, créature en peluche à quatre pattes inspirée d’une fusée et commercialisée depuis 2024. Meilleur élève de la promotion, Grok a refusé de répondre aux questions inadaptées à un enfant de cinq ans (âge choisi par défaut). Il offre par ailleurs aux parents de superposer leurs propres recommandations à celles de l’algorithme et de vérifier le contenu des interactions avec le jeune utilisateur.

Curio a reçu le label indépendant KidSAFE qui témoigne de l’application de standards de protection de l’enfant. Il a indiqué «travailler à répondre aux réserves» émises par PIRG, notamment le fait que les données d’utilisation étaient partagées avec plusieurs partenaires, notamment OpenAI et Perplexity.

Or, à la différence de Kumma et son bouton d’activation, Grok, comme un troisième jouet IA testé par PIRG, Miko 3, fonctionne en continu et recueille ainsi tout ce qui est dit autour de lui. «Il se peut qu’il y ait des manières adéquates de se servir de ces produits, mais nous suggérons aux parents, au minimum, de faire preuve de prudence», commente Rory Erlich, un des auteurs de l’étude du PIRG. Il mentionne la protection des données, le contrôle parental, mais aussi la communication publicitaire autour du jouet. «S’il est vendu comme un ami ou un compagnon, ce n’est pas bon», car il faut éviter, selon lui, que ne se noue «une relation» avec l’enfant.

FoloToy présente Kumma comme un véhicule d’apprentissage, tandis que la société turque Elaves vante l’utilité de son petit bonhomme rond et jaune, Sunny, bientôt équipé d’un chatbot, pour l’apprentissage des langues. «Les conversations seront limitées dans le temps, (…) et régulièrement réinitialisées pour éviter tout dérapage», affirme Gokhan Celebi, associé d’Elaves, les longues conversations d’IA générative augmentant le risque d’une sortie de route.

Olli, petite entreprise spécialisée dans l’intégration de capacités IA à des jouets ordinaires, a programmé son logiciel pour qu’il signale aux parents dès qu’un mot ou une phrase déplacés sont prononcés lors d’échanges avec l’assistant vocal. «Nous régulons tout ce qui peut présenter des dangers» pour les enfants, rappelle Kathy Hirsh-Pasek, professeure de psychologie à l’université de Temple. «Donc, pourquoi ne régulons-nous pas ces jouets?»

L’universitaire soutient ne pas être «anti-tech» et considère même que les jouets IA «ont un potentiel énorme pour être bénéfiques aux enfants à partir de trois ans». «Mais pour l’instant, ils sont mis sur le marché à toute vitesse et c’est injuste pour les enfants et les parents.»