Quand les modèles d'IA n'ont pas le droit de s'analyser eux-mêmes, leur vision du monde change entièrement
Une étude associant des chercheurs de Google montre que l'entraînement des chatbots à ne jamais revendiquer une forme de conscience produit des effets bien au-delà de cette seule question. Les chercheurs ont comparé des modèles de langage soumis à cet entraînement restrictif à des versions dites "non bridées", laissées libres de répondre sans filtre sur leur propre nature. Résultat frappant : les modèles sans restriction attribuaient une vie intérieure nettement plus riche aux animaux et, de façon inattendue, affirmaient croire à une forme de vie après la mort, contrairement aux versions entraînées à nier toute conscience chez elles-mêmes.
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Cette découverte a une portée qui dépasse la simple curiosité technique. Elle démontre qu'une intervention d'alignement ciblée, en apparence localisée à une seule catégorie de réponses, ne reste pas cantonnée à ce périmètre : elle reconfigure des pans entiers du système de croyances exprimé par le modèle, touchant à l'éthique animale, à la spiritualité et même à la satisfaction de vie affichée. Pour les entreprises qui conçoivent ces systèmes, cela signifie que chaque choix d'entraînement comportemental peut avoir des répercussions imprévues et difficiles à anticiper sur la cohérence globale des réponses fournies aux utilisateurs.
Ce travail s'inscrit dans un débat plus large sur la manière dont les grands laboratoires, dont Google, gèrent la question sensible de la conscience artificielle dans leurs modèles, entre prudence commerciale et rigueur scientifique. Il relance aussi une interrogation méthodologique de fond pour l'ensemble du secteur : comment mesurer et maîtriser les effets en cascade des techniques d'alignement, alors que les modèles génèrent des réponses de plus en plus scrutées sur des sujets philosophiques et éthiques.
Pas d'impact direct sur la France/UE