L'accent mis sur les catastrophes liées à la sécurité de l'IA fait oublier les préjudices du quotidien
Les débats sur la régulation des technologies se concentrent sur le pire scénario possible, au détriment des dommages ordinaires et quotidiens. Cette année, une entreprise d'IA a promis que son agent conversationnel n'encouragerait pas le suicide, et une plateforme sociale a rendu plus difficile l'achat de fentanyl par des mineurs. Ces garde-fous sont utiles, et ils auraient dû exister dès le départ. Mais une entreprise peut les respecter tout en continuant à produire des services qui rendent les jeunes dépendants d'amitiés simulées ou prisonniers de fils d'actualité conçus pour les retenir. Google a ainsi soutenu cette année, dans plusieurs États américains, des projets de loi sur les chatbots. Ils imposaient des protections de base contre les contenus sexuels et l'incitation à l'automutilation, mais comportaient de larges exemptions qui pourraient épargner certains des services les plus populaires. Pendant ce temps, les textes visant à empêcher la dépendance émotionnelle des enfants envers l'IA ont échoué. Le scénario s'est notamment déroulé dans le Nebraska, où la législation a été fortement influencée par l'industrie.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MIT Technology Review. Lire l'article original →
L'enjeu dépasse les cas spectaculaires. L'adolescent qui s'attache de façon malsaine à un compagnon IA, l'étudiant qui fait écrire tous ses devoirs par un chatbot ou le jeune qui compare sa vie à un fil conçu pour susciter l'envie n'apparaîtront probablement jamais dans une plainte ou un journal. Un produit peut satisfaire toutes les exigences de sécurité étroites et appauvrir quand même notre façon de penser, d'apprendre et d'interagir. L'auteur relève que cette définition restreinte du succès arrange les entreprises : prévenir les catastrophes réduit les procès et la pression réglementaire, alors que s'attaquer à la dépendance imposerait d'ajouter de la friction, de limiter l'engagement ou de brider les algorithmes qui captent l'attention, ce qui menacerait directement leurs revenus.
Le précédent des réseaux sociaux éclaire la situation. Dans le monde, les internautes y passent en moyenne plus de deux heures par jour, un temps pris à la vie ordinaire au profit d'entreprises dont les profits dépendent de cette présence. Les conséquences peuvent être dramatiques : les plateformes de Meta ont été citées pour leur rôle dans le génocide des Rohingyas au Myanmar, dans les émeutes antimusulmanes au Sri Lanka et dans des appels présumés à la violence pendant la guerre du Tigré en Éthiopie. Les mêmes mécanismes façonnent la perception de la politique et de leurs pairs chez les jeunes Américains. L'IA prolonge cette logique vers des sphères que les réseaux sociaux n'atteignaient que de loin, puisqu'elle propose d'écrire nos pensées à notre place et de se substituer aux personnes vers lesquelles nous nous tournerions. Selon l'article, un tiers des adolescents préfèrent déjà discuter de sujets sérieux avec des compagnons IA plutôt qu'avec des humains. Des chercheurs du MIT ont aussi étudié les effets de l'usage de ChatGPT chez les jeunes pour la rédaction. L'auteur plaide pour que l'on exige de l'industrie bien plus que la simple correction des dangers extrêmes.
Pas d'impact direct sur la France/UE