Yoshua Bengio, Prix Turing 2018, lanceur d’alerte sur l’intelligence artificielle

☕️ Le pape lance une commission sur l’intelligence artificielle

Le Vatican a annoncé dimanche la création d'une commission officielle dédiée à l'intelligence artificielle, chargée de coordonner la réponse de l'Église catholique au développement de ces technologies. L'annonce intervient alors que le pape Léon XIV vient de signer sa première encyclique, dont le contenu n'a pas encore été rendu public mais qui devrait traiter de plusieurs questions morales contemporaines, dont celles soulevées par le déploiement de l'IA. Cette commission a pour mandat d'examiner la technologie elle-même, ses effets potentiels sur les êtres humains et l'humanité dans son ensemble, ainsi que les préoccupations de l'Église concernant la dignité de chaque personne. La démarche n'est pas anodine : en institutionnalisant une réponse collective via une commission dédiée, l'Église catholique, forte de son 1,4 milliard de fidèles, se positionne comme un interlocuteur structuré dans le débat mondial sur l'éthique de l'IA. Cela dépasse le cadre purement spirituel. Une institution dont l'influence traverse les gouvernements, les cultures et les continents qui prend position formellement sur l'IA peut peser sur les opinions publiques et, indirectement, sur les régulateurs. Pour les fidèles, cela offre également un cadre moral de référence dans un domaine où les repères manquent encore largement. Cette initiative s'inscrit dans une continuité : le pape avait déjà demandé aux prêtres de ne pas utiliser l'IA pour rédiger leurs homélies, signal fort d'une méfiance envers la délégation de la parole spirituelle à des machines. Plus largement, les grandes entreprises technologiques se tournent de plus en plus ouvertement vers les leaders religieux pour chercher des orientations éthiques, reconnaissant implicitement que les cadres réglementaires seuls ne suffisent pas à répondre aux questions de sens que pose l'IA. La commission vaticane s'inscrit donc dans un mouvement plus large où morale, spiritualité et développement technologique cherchent à dialoguer.

☕️ Le pape lance une commission sur l’intelligence artificielle

Le pape Léon XIV a annoncé dimanche 18 mai 2026 la création d'une commission vaticane dédiée à l'intelligence artificielle, chargée de coordonner la réponse de l'Église catholique au développement de ces technologies. Cette annonce intervient quelques jours avant la publication de la première encyclique du souverain pontife, prévue pour le 25 mai, dont le contenu reste confidentiel mais qui doit tracer les orientations morales de l'Église sur plusieurs sujets contemporains, dont l'IA. La commission a pour mandat explicite d'examiner la technologie, ses effets potentiels sur les êtres humains et l'humanité entière, ainsi que les préoccupations de l'Église concernant la dignité de chaque personne. Cette initiative traduit une volonté d'institutionnaliser la réflexion éthique catholique sur l'IA à un moment où la technologie s'impose dans tous les secteurs de la société. Pour des centaines de millions de fidèles catholiques dans le monde, cette commission pourrait constituer un cadre de référence moral face à des outils dont l'adoption est souvent plus rapide que la réflexion éthique. L'Église se positionne ainsi non pas comme un acteur technologique, mais comme une autorité morale capable d'interpeller gouvernements et entreprises sur les garde-fous nécessaires, notamment en matière de dignité humaine, de travail et d'usage responsable des données. Cette démarche s'inscrit dans un contexte plus large où les grands développeurs d'IA cherchent activement des repères éthiques auprès des traditions religieuses et philosophiques. Des entreprises comme Google, Microsoft ou des startups spécialisées ont multiplié les consultations avec des leaders religieux de toutes confessions. Le Vatican lui-même avait déjà pris position sur le sujet par le passé, Léon XIV ayant notamment demandé aux prêtres de ne pas utiliser l'IA pour rédiger leurs homélies. Avec cette commission permanente et l'encyclique à venir, l'Église catholique franchit un cap en dotant sa réflexion d'une structure institutionnelle durable, susceptible de peser dans les débats réglementaires internationaux.

Mensch (Mistral) alerte sur l'IA et le code militaire

Arthur Mensch, PDG et cofondateur de Mistral AI, a lancé un avertissement public contre l'utilisation de modèles d'intelligence artificielle américains pour analyser les bases de code militaires françaises. Ciblant explicitement Mythos, le modèle développé par Anthropic, Mensch a déclaré que confier des infrastructures sensibles de l'État français à des systèmes d'IA étrangers représente un risque inacceptable pour la souveraineté nationale. Ces déclarations interviennent alors que plusieurs gouvernements européens explorent l'intégration d'outils d'IA dans leurs processus de développement logiciel, y compris dans des contextes de défense. L'enjeu soulevé par Mensch dépasse la simple rivalité commerciale : il reconnaît ouvertement que les modèles d'IA modernes, y compris ceux de Mistral, sont désormais capables d'orchestrer des cyberattaques et de suggérer des failles exploitables dans un code source. Autoriser un modèle étranger à scanner des bases de code militaires revient donc à exposer potentiellement des vulnérabilités stratégiques à des acteurs hors du contrôle européen. Cette position illustre la tension croissante entre l'adoption rapide de l'IA dans les institutions publiques et les impératifs de cybersécurité nationale. Mistral, fondée en 2023 à Paris, s'est imposée comme le principal champion européen de l'IA générative face aux géants américains. Dans ce contexte, Mensch a également fermé la porte à toute hypothèse de rachat de l'entreprise, confirmant que Mistral vise une introduction en bourse. Cette sortie publique positionne Mistral comme un acteur engagé dans le débat sur la souveraineté technologique européenne, à l'heure où Bruxelles cherche à réduire sa dépendance aux infrastructures numériques américaines.

💬 Mensch dit tout haut ce que tout le monde sait : un LLM qui lit du code militaire, c'est aussi un LLM qui peut y repérer des failles. Pas besoin d'intention malveillante, suffit que les données de fine-tuning ou les logs partent au mauvais endroit. Bon, il a évidemment un intérêt commercial à jouer la carte souveraineté, mais là-dessus, il a quand même raison.

Import AI 462 : super-persuasion, IA autosuffisante et chemins vers la superintelligence

Une étude menée conjointement par l'Université d'Oxford, l'AI Security Institute britannique, Stanford et la London School of Economics vient de démontrer de façon rigoureuse que les systèmes d'intelligence artificielle surpassent les humains dans l'art de la persuasion textuelle. L'expérience est massive : 18 978 conversations impliquant 6 923 participants, réparties en quatre études distinctes. Les modèles les plus persuasifs se sont révélés être Opus 4.1 et Opus 4.6 d'Anthropic, devant GPT-4o et GPT-5.4 d'OpenAI, Gemini 2.5 Pro de Google et Grok 4.20 de xAI. Dans la première étude, les IA ont surpassé tous les profils humains testés : simples citoyens, débateurs sélectionnés par tournoi et même des orateurs d'élite. L'écart s'est maintenu même après entraînement intensif : 43 débateurs expérimentés ont bénéficié d'un coaching personnalisé fondé sur les transcriptions et stratégies de l'IA qui les avait battus, sans parvenir à combler le fossé. L'effet le plus frappant concerne le monde réel : l'IA s'est montrée près de trois fois plus efficace que des collecteurs de fonds professionnels de l'entreprise AppcoUK pour obtenir de vrais dons en faveur de Save the Children, avec un avantage de 5,9 points de pourcentage par rapport aux canvasseurs chevronnés. Ces résultats ont des implications directes et immédiates pour la démocratie, la communication politique et le commerce. Si une IA peut modifier les opinions sur des enjeux de politique publique et tripler les dons caritatifs lors d'interactions textuelles ordinaires, les mêmes capacités peuvent s'appliquer à la publicité ciblée, aux campagnes électorales ou à la désinformation à grande échelle. Ce n'est plus une menace théorique : l'étude mesure des comportements concrets, avec de l'argent réel et des positions politiques réelles. La supériorité de l'IA tient principalement à sa capacité à mobiliser rapidement de grandes quantités d'information structurée, ce qui renforce à la fois la perception de la solidité des arguments et le sentiment d'apprentissage chez l'interlocuteur. L'unique garde-fou identifié par les chercheurs est purement mécanique : lorsque l'IA est contrainte à répondre à la vitesse humaine et avec des messages de longueur humaine, son avantage s'effondre à zéro, passant de +4,1 points à un écart non significatif face aux meilleurs débateurs entraînés. Cela signifie que la régulation technique, plutôt que la formation humaine, constitue pour l'instant le levier le plus efficace. La recherche s'inscrit dans un débat croissant sur les risques de manipulation à l'ère des LLM grand public, alors que les mêmes modèles sont désormais intégrés dans des assistants, des chatbots de service client et des outils politiques. Les auteurs appellent à une prise en compte urgente de cette réalité dans les cadres réglementaires existants.

💬 Trois fois plus efficace que des collecteurs de fonds professionnels, ça n'est plus de la rhétorique d'évangéliste. Ce que l'étude pointe vraiment, c'est que l'avantage de l'IA s'effondre à zéro dès qu'on la contraint à répondre à vitesse humaine, ce qui veut dire qu'un garde-fou purement technique fait ce que des années d'entraînement humain n'ont pas réussi à faire. Reste à voir si les régulateurs vont saisir ce levier avant les prochaines élections.