BusinessLe Big Data8sem

OpenAI rachète Promptfoo pour sécuriser ses agents IA autonomes

Résumé IASource uniqueImpact UE

OpenAI a annoncé le 9 mars l'acquisition de Promptfoo, startup de cybersécurité IA fondée en 2024 par Ian Webster et Michael D'Angelo, dont les outils sont déjà utilisés par plus d'un quart des entreprises du Fortune 500. La technologie de Promptfoo, qui permet de détecter les vulnérabilités des LLM via des tests d'intrusion automatisés, sera intégrée à OpenAI Frontier, la plateforme d'agents IA destinée aux entreprises. Cette acquisition répond à une demande croissante de sécurité : selon l'IDC, 63 % des organisations citent la fuite de données sensibles comme leur principale crainte lors du déploiement de l'IA.

Dans nos dossiers

OpenAI Agents IA Cybersécurité IA

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

1MIT Technology Review

Refonte des processus axée sur les agents autonomes

Les budgets technologiques consacrés à l'intelligence artificielle devraient augmenter de plus de 70 % au cours des deux prochaines années, selon les projections actuelles. Dans ce contexte, Deloitte et Microsoft publient une analyse commune sur ce qu'ils appellent l'entreprise "agent-first", un modèle organisationnel où les agents d'IA opèrent les processus de bout en bout pendant que les humains se concentrent sur la définition des objectifs, des contraintes de politique et la gestion des exceptions. Scott Rodgers, architecte en chef mondial et directeur technique pour la pratique Microsoft de Deloitte aux États-Unis, résume ainsi le changement de paradigme : "Il faut faire basculer le modèle opérationnel vers des humains en tant que gouverneurs et des agents en tant qu'opérateurs." Ce repositionnement représente un changement structurel profond pour les organisations. Contrairement aux systèmes automatisés classiques fondés sur des règles statiques, les agents d'IA peuvent apprendre, s'adapter et optimiser des flux de travail entiers de manière autonome, en interagissant en temps réel avec des données, des systèmes, des personnes et d'autres agents. Pour les entreprises, l'enjeu est double : améliorer l'efficacité opérationnelle de façon non linéaire et libérer les collaborateurs des tâches répétitives pour les orienter vers des activités à plus forte valeur ajoutée, créatives, stratégiques, relationnelles. Rodgers avertit que les gains vraiment significatifs n'apparaissent que lorsque les entreprises conçoivent des flux de travail centrés sur les agents avec une gouvernance humaine, et non lorsqu'elles se contentent de greffer des agents sur des processus fragmentés hérités. Le principal obstacle identifié n'est pas technologique mais organisationnel. De nombreuses entreprises ne maîtrisent pas encore leurs propres leviers économiques, coût par transaction, coût de service, ce qui les empêche de prioriser les cas d'usage les plus rentables et les pousse à multiplier des pilotes spectaculaires mais sans impact structurel. Par ailleurs, les systèmes legacy ne sont pas conçus pour des agents autonomes : ils requièrent des définitions de processus lisibles par des machines, des contraintes de politique explicites et des flux de données structurées. Rodgers formule l'urgence sans détour : "Le vrai risque n'est pas que l'IA ne fonctionne pas, c'est que les concurrents redesignent leurs modèles opérationnels pendant que vous pilotez encore des agents et des copilotes." Les entreprises qui tardent à franchir ce cap s'exposent à un décrochage compétitif durable face à celles qui auront su reconstruire leurs processus autour des agents plutôt que de simplement les y intégrer.

UELes entreprises européennes sont confrontées au même défi de transformation vers des modèles opérationnels 'agent-first', avec un risque de décrochage compétitif si elles tardent à restructurer leurs processus autour des agents IA.

BusinessOpinion

1 source

2OpenAI Blog

OpenAI s'apprête à acquérir Promptfoo

OpenAI s'apprête à acquérir Promptfoo, une plateforme de sécurité IA qui aide les entreprises à identifier et corriger les vulnérabilités dans leurs systèmes d'IA durant la phase de développement.

BusinessActu

1 source

3The Decoder

OpenAI prévoit d'acquérir Promptfoo et d'intégrer directement le test de sécurité de l'IA dans sa plateforme d'entreprise Frontier

OpenAI s'apprête à acquérir Promptfoo, une plateforme de sécurité IA, afin d'intégrer des tests de vulnérabilités automatisés directement dans sa plateforme entreprise Frontier. Ces tests couvriront les jailbreaks, les injections de prompts et les fuites de données.

BusinessActu

1 source

4OpenAI Blog

OpenAI rachète TBPN

OpenAI a annoncé l'acquisition de TBPN, un réseau médiatique indépendant axé sur les conversations autour de l'intelligence artificielle. L'opération vise à accélérer le dialogue mondial sur l'IA, en rassemblant constructeurs, entreprises et acteurs de la communauté tech sous une même plateforme éditoriale. Les termes financiers de la transaction n'ont pas été divulgués. Ce rachat marque une nouvelle étape dans la stratégie de communication d'OpenAI, qui cherche à contrôler davantage les récits entourant l'IA et à renforcer sa présence dans l'écosystème des médias spécialisés. En intégrant un média indépendant, la société de Sam Altman se dote d'un outil pour toucher directement les développeurs, les décideurs et le grand public tech, sans passer uniquement par la presse traditionnelle. Cette acquisition s'inscrit dans un contexte de concurrence intense entre les grands acteurs de l'IA, où la maîtrise de l'image publique et de l'influence devient un levier stratégique au même titre que la recherche. OpenAI, sous pression croissante de la part de régulateurs et d'une opinion publique partagée sur les risques de l'IA, mise sur une présence médiatique renforcée pour façonner les débats. La question de l'indépendance éditoriale de TBPN après ce rachat reste ouverte.

UEL'acquisition d'un média spécialisé IA par OpenAI renforce l'influence américaine sur les récits entourant l'IA, ce qui peut affecter indirectement le débat public européen sur la régulation et la perception des risques liés à l'IA.

BusinessActu

1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour