L'État de New York restreint l'utilisation des chatbots par les mineurs, interdits de compagnon IA

New York, États-Unis - La gouverneure de l'État de New York a promulgué mercredi une loi interdisant de laisser des mineurs dialoguer avec des compagnons IA, adoptant une définition qui s'applique à la plupart des chatbots d'intelligence artificielle générative sur le marché.

Des lois encadrant l'utilisation d'un compagnon IA par un mineur ont déjà été adoptées dans plusieurs États, notamment la Californie, mais aucune n'avait défini un spectre aussi large.

L'organe de représentation du secteur technologique à New York, Tech:NYC, a dénoncé le texte signé par Kathy Hochul, notamment "son langage vague" qui "pose sérieusement question" quant à une possible violation du Premier amendement de la Constitution américaine sur la liberté d'expression.

Concrètement, la loi oblige les opérateurs de chatbots à vérifier l'âge des utilisateurs et à empêcher certains traits de l'interface IA de se manifester s'il est établi que l'internaute est mineur.

Le robot conversationnel ne peut ainsi pas produire du contenu laissant penser qu'il est "humain, vivant, ou qu'il ressent des sentiments humains", précise la loi.

Il ne doit pas non plus présenter ses interactions avec le jeune usager comme "une relation personnelle" ou "professionnelle", mais aussi prendre "un rôle de référent".

Le texte qu'il produit ne doit pas être présenté comme une "opinion personnelle".

Le chatbot n'est pas non plus autorisé à poser des questions sur les sentiments et l'état psychologique de l'utilisateur.

"Assurer la sécurité des enfants en ligne ne devrait pas impliquer de les couper d'outils d'apprentissage et de préparation à une carrière professionnelle", a fait valoir Tech:NYC.

Selon l'organisation, le texte "pourrait restreindre l'accès au tutorat, à l'aide aux devoirs, aux assistants de programmation et à des plateformes essentielles dans l'optique d'une carrière professionnelle, tout en augmentant les risques d'exploitation des données liées à des enfants".

Sollicités par l'AFP, Anthropic et Google n'ont pas donné suite dans l'immédiat, tandis qu'OpenAI a renvoyé à la réaction de Tech:NYC.

De son côté, l'association dédiée à l'information des parents sur les produits médias et technologiques destinés au jeune public Common Sense Media a salué le passage de "la loi de sécurité de l'IA pour les enfants la plus solide du pays".

"New York est entré dans l'histoire" avec ce texte, a insisté Jim Steyer, le directeur de cette organisation qui se consacre également à la protection des mineurs contre les effets négatifs de la technologie. (AFP)