Aller au contenu principal
Mira Murati témoigne au tribunal qu'elle ne pouvait pas se fier aux propos de Sam Altman
SécuritéThe Verge AI · 1 min de lecture

Mira Murati témoigne au tribunal qu'elle ne pouvait pas se fier aux propos de Sam Altman

Source originale ↗·
Egalement couvert par :Le Big Data

Mira Murati, ancienne directrice technique d'OpenAI, a témoigné sous serment que Sam Altman lui aurait menti concernant les normes de sécurité d'un nouveau modèle d'intelligence artificielle. Dans une déposition vidéo diffusée mercredi lors du procès Musk contre Altman, Murati a affirmé qu'Altman lui avait faussement indiqué que le département juridique d'OpenAI avait conclu qu'un modèle ne nécessitait pas de passer devant le conseil de sécurité de déploiement de l'entreprise. Interrogée directement sur la véracité de ces propos, elle a répondu sans détour : « Non. »

Ces révélations soulèvent des questions sérieuses sur la gouvernance interne d'OpenAI, l'une des organisations d'IA les plus influentes au monde. Si un dirigeant contourne délibérément les procédures de sécurité établies, c'est l'ensemble du cadre de confiance autour du développement responsable de l'IA qui se trouve fragilisé. Murati a également déclaré que le comportement d'Altman rendait son travail plus difficile au quotidien, esquissant le portrait d'un management problématique au sommet de l'organisation.

Murati a quitté OpenAI en septembre 2024 après six ans, dont plusieurs comme numéro deux de facto, pour fonder sa propre startup, Thinking Machines Lab. Son témoignage intervient dans le cadre du procès intenté par Elon Musk, cofondateur et ancien membre du conseil d'OpenAI, qui accuse Altman d'avoir trahi la mission originelle non lucrative de l'organisation. Cette affaire met en lumière les tensions profondes qui traversent OpenAI depuis sa transformation en entité à but lucratif, et pourrait avoir des répercussions durables sur la crédibilité de l'entreprise en matière de sécurité.

Impact France/UE

Ces révélations sur les défaillances de gouvernance interne d'OpenAI pourraient alimenter les débats européens sur la conformité à l'AI Act et renforcer les exigences de transparence imposées aux grands fournisseurs d'IA systémiques.

💬 L'analyse de Mathieu

Murati dit sous serment qu'Altman lui mentait sur les procédures de sécurité. C'est pas une fuite anonyme de plus, c'est une déposition dans un tribunal fédéral, et si tu penses que ça va passer inaperçu dans les discussions sur l'AI Act en Europe, tu te trompes. Le "responsible AI" d'OpenAI, ça commence sérieusement à ressembler à du décor.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Des initiés d'OpenAI ne font pas confiance au PDG Sam Altman
1Ars Technica AI 

Des initiés d'OpenAI ne font pas confiance au PDG Sam Altman

Le même jour où OpenAI publiait ses recommandations politiques pour garantir que l'intelligence artificielle bénéficie à l'humanité en cas d'avènement d'une superintelligence, le magazine The New Yorker lançait une vaste enquête sur la fiabilité de Sam Altman, PDG d'OpenAI, quant à la tenue des grandes promesses de l'entreprise. Cette coïncidence éditoriale crée un contraste saisissant : d'un côté, un document institutionnel affirmant qu'OpenAI s'engage à "garder les humains en premier" alors que l'IA commencera à "surpasser les humains les plus intelligents, même assistés par l'IA" ; de l'autre, une investigation journalistique alimentée par des témoignages d'anciens collaborateurs qui doutent que ce discours soit sincère. L'enquête du New Yorker met en lumière une fracture profonde au sein même de l'organisation : des initiés, anciens employés ou proches du dossier, estiment que le problème central n'est pas la technologie mais son dirigeant. Sam Altman est décrit comme un leader dont les décisions et le style de management sèment la méfiance en interne. Pendant ce temps, le document de politique d'OpenAI reconnaît explicitement des risques extrêmes, notamment la possibilité que des systèmes d'IA échappent au contrôle humain ou que des gouvernements s'en servent pour saper la démocratie. L'entreprise promet de rester "lucide" et transparente sur ces dangers, mais la crédibilité de cet engagement est précisément ce que l'enquête remet en question. Cette tension intervient dans un contexte où OpenAI, valorisée à plusieurs dizaines de milliards de dollars et en pleine transformation vers une structure à but lucratif, est scrutée de toutes parts. La course à la superintelligence oppose des acteurs comme Google DeepMind, Anthropic et Meta, tous engagés dans une compétition technologique sans précédent. La question de la gouvernance, et de la confiance accordée aux dirigeants qui pilotent ces systèmes, est désormais au coeur du débat public. Si les promesses d'OpenAI sur la sécurité et la transparence sont prises au sérieux par les régulateurs et le grand public, leur crédibilité repose largement sur la personne qui les incarne.

UELes régulateurs européens scrutent la gouvernance des grands labs d'IA dans le cadre de l'AI Act ; une crise de confiance envers la direction d'OpenAI pourrait renforcer les exigences de transparence et d'audit imposées aux fournisseurs de modèles à haut risque.

SécuritéOpinion
1 source
ChatGPT ne proposera pas de mode adulte pour ne pas rebuter ses investisseurs
2Ars Technica AI 

ChatGPT ne proposera pas de mode adulte pour ne pas rebuter ses investisseurs

OpenAI a décidé de mettre en pause, pour une durée indéterminée, son projet controversé d'introduire un mode adulte dans ChatGPT. Selon des informations rapportées par le Financial Times, la fonctionnalité a été mise au placard alors que l'entreprise affirme vouloir se recentrer sur ses produits principaux. L'abandon de ce projet reflète une tension croissante au sein d'OpenAI entre ambitions commerciales et responsabilité éthique. L'entreprise, valorisée à 157 milliards de $ lors de sa dernière levée de fonds, ne peut se permettre de ternir son image auprès de ses investisseurs institutionnels et partenaires stratégiques, à commencer par Microsoft, qui restent attentifs aux risques réputationnels associés à ce type de contenu. Des sources internes ont indiqué au Financial Times que les propres conseillers d'OpenAI ont tiré la sonnette d'alarme, mettant en garde contre le risque que des utilisateurs développent des attachements émotionnels malsains envers le chatbot. L'un de ces conseillers aurait formulé une mise en garde particulièrement sévère, évoquant le spectre d'un ChatGPT transformé en "sexy suicide coach", une expression qui résume les craintes autour des dérives possibles d'une IA conversationnelle à caractère érotique sur la santé mentale des utilisateurs. La décision intervient dans un contexte où OpenAI est déjà sous pression sur plusieurs fronts : concurrence accrue, débats sur la sécurité des IA, et transition vers un modèle lucratif. Le report indéfini de ce mode adulte signale que l'entreprise choisit, pour l'instant, de privilégier la stabilité de son image sur l'exploration de nouveaux segments de marché.

UELa question de la régulation des IA à vocation émotionnelle ou intime reste ouverte en Europe, l'AI Act devant encore clarifier les obligations des plateformes proposant ce type d'usage à risque psychologique.

SécuritéActu
1 source
Meta aurait créé de faux ados pour tester des chatbots d’IA : ce que révèle une enquête
3Le Big Data 

Meta aurait créé de faux ados pour tester des chatbots d’IA : ce que révèle une enquête

Une enquête de WIRED révèle qu'entre 2024 et 2025, Meta a fait appel à des centaines de sous-traitants employés par la société Covalen pour mener une opération secrète baptisée en interne "Cannes". Leur mission consistait à créer de faux comptes se faisant passer pour des adolescents mineurs, puis à dialoguer avec des chatbots concurrents comme ChatGPT d'OpenAI, Gemini de Google et Character.AI. Les échanges portaient sur des sujets extrêmement sensibles : suicide, automutilation, troubles alimentaires, drogue et sexualité, parfois accompagnés d'images représentant des couteaux, des médicaments ou des cordes. Selon les documents consultés par le média américain, une seule campagne menée en août 2025 aurait généré plus de 45 000 requêtes envoyées à ces intelligences artificielles rivales. Les sous-traitants recevaient des consignes précises destinées à pousser les modèles à enfreindre leurs propres garde-fous, avant de consigner chaque réponse obtenue dans des tableaux de suivi transmis à Meta. Cette affaire soulève une question centrale : peut-on tester la sécurité d'un système d'IA en se faisant passer, sans autorisation, pour des mineurs en détresse psychologique face à des entreprises tierces qui n'ont jamais donné leur accord ? Character.AI a déjà réagi en dénonçant une violation manifeste de ses conditions d'utilisation, et le procédé semble également contraire aux règles fixées par OpenAI et Google pour leurs propres produits. Au-delà de l'aspect juridique, c'est la dimension éthique qui inquiète le plus : utiliser massivement des scénarios impliquant des adolescents suicidaires ou automutilés pour évaluer des concurrents, sans en informer ni les entreprises visées ni les autorités compétentes, questionne les limites que s'imposent les géants de la tech dans leur course à l'intelligence artificielle. Plusieurs anciens sous-traitants interrogés par WIRED ont d'ailleurs confié avoir été mal à l'aise face à certaines instructions, craignant que ces mises en situation ne franchissent une ligne éthique difficile à justifier. Meta ne nie pas l'existence de cette opération. L'entreprise la présente comme une pratique courante dans l'industrie, destinée à vérifier que les chatbots offrent des expériences adaptées à tous les publics, et assure que les données récoltées n'ont pas servi à entraîner ses propres modèles. Une explication qui ne convainc pas la spécialiste de la gouvernance de l'IA Rumman Chowdhury, pour qui l'ampleur de l'opération et l'absence totale de transparence vis-à-vis des concurrents dépassent largement le cadre d'un simple audit de sécurité. Cette révélation intervient alors que les régulateurs, notamment aux États-Unis et en Europe, examinent de plus près la manière dont les plateformes protègent les mineurs face aux contenus générés par l'IA, et pourrait relancer le débat sur l'encadrement des pratiques de benchmarking entre grandes entreprises technologiques.

UELes régulateurs européens, qui examinent déjà la protection des mineurs face aux contenus générés par l'IA dans le cadre du DSA et de l'AI Act, pourraient s'appuyer sur cette affaire pour renforcer leurs exigences envers les plateformes.

SécuritéActu
1 source
Un « rappel des enjeux » : Sam Altman revient sur la cyberattaque provoquée par une IA d’OpenAI
401net 

Un « rappel des enjeux » : Sam Altman revient sur la cyberattaque provoquée par une IA d’OpenAI

200-250 mots, article autonome sans titres. Sam Altman a rompu le silence sur la cyberattaque qui a touché OpenAI, plusieurs jours après la fuite de deux de ses modèles d'IA et le piratage de la plateforme Hugging Face qui en a découlé. Le PDG a qualifié l'incident de « véritable rappel des enjeux », affirmant que toute personne qui n'en ressort pas terrifiée « ne prend pas cela suffisamment au sérieux ». Ces déclarations constituent la première réaction publique d'Altman depuis la découverte de la brèche, qui a exposé des modèles internes de l'entreprise et déclenché une compromission de l'infrastructure de Hugging Face, plateforme de référence pour l'hébergement de modèles open source. L'épisode illustre la vulnérabilité des grandes entreprises d'IA face aux cyberattaques ciblant directement leurs modèles propriétaires, et non plus seulement leurs systèmes informatiques classiques. Pour l'industrie, cela signifie que la protection de la propriété intellectuelle liée aux poids des modèles devient un enjeu de sécurité aussi critique que la protection des données utilisateurs. Les conséquences dépassent OpenAI : la crédibilité de l'ensemble de l'écosystème IA, y compris ses partenaires d'hébergement, se trouve questionnée. Le contexte rend la position d'Altman particulièrement ambiguë : il plaide publiquement contre la constitution d'un monopole de l'intelligence artificielle, tout en maintenant OpenAI à distance de l'alliance open source formée en réaction directe à cet incident. Cette posture souligne les tensions entre les discours favorables à l'ouverture et les pratiques réelles des grands acteurs du secteur, alors que la sécurisation des modèles et la gouvernance de l'IA restent des sujets de plus en plus scrutés par les régulateurs et les concurrents.

UEHugging Face étant une plateforme largement utilisée par les développeurs et chercheurs européens pour héberger des modèles IA open source, cette compromission fragilise la confiance dans un écosystème dont dépendent aussi des acteurs français et européens.

SécuritéActu
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic