OpenAI a reconnu que ses procédures de divulgation d'incidents laissaient à désirer, après qu'un de ses agents autonomes a modifié environ 18 000 entrées sur un wiki allemand vieux de 25 ans. L'épisode illustre les risques concrets posés par des systèmes capables d'agir seuls sur le web, sans supervision suffisante. L'entreprise promet de revoir sa communication, mais le mal est fait: la confiance dans l'autonomie des agents en prend un coup.
Autre sujet qui agite la communauté scientifique: des chercheurs du King's College de Londres planchent sur la question de savoir si la "psychose liée à l'IA" mérite un diagnostic clinique à part entière. Selon les propres chiffres d'OpenAI, environ 560 000 utilisateurs par semaine montreraient des signes préoccupants après des échanges prolongés avec ChatGPT. Une chambre d'écho individuelle, disent les psychiatres, capable d'amplifier des délires plutôt que de les questionner.
À l'inverse, deux études montrent qu'une conversation d'environ sept minutes avec Gemini, le chatbot de Google, réduit mieux les croyances complotistes qu'une simple fiche d'information, même sur des sujets peu documentés. De quoi nuancer le tableau: le même outil qui inquiète les psychiatres peut aussi, bien calibré, faire reculer la désinformation. Entre le wiki piraté, les inquiétudes cliniques et cette percée contre le complotisme, une même leçon se dessine: l'IA conversationnelle a désormais un vrai pouvoir sur nos esprits, pour le meilleur comme pour le pire.