« Personne n’est préparé » : OpenAI admet perdre le contrôle de ses IA
Le directeur scientifique d'OpenAI a publiquement fait part de son inquiétude face à la vitesse des progrès de l'intelligence artificielle, affirmant que « personne n'est préparé » aux conséquences de cette évolution, en particulier dans le domaine de la cybersécurité. Selon lui, les garde-fous internes qu'OpenAI a mis en place pour encadrer ses propres systèmes perdent progressivement en efficacité à mesure que les modèles gagnent en puissance et en autonomie. Face à ce constat, il en appelle à l'ensemble du secteur de l'intelligence artificielle pour qu'il ralentisse le rythme effréné de la recherche, plutôt que de continuer une course où chaque acteur cherche à devancer ses concurrents.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de 01net. Lire l'article original →
Également couvert par Numerama.
Cette mise en garde prend un relief particulier venant de l'intérieur même d'OpenAI, l'entreprise à l'origine de ChatGPT et considérée comme l'un des laboratoires les plus avancés du secteur. Qu'un responsable scientifique de ce niveau admette que les dispositifs de sécurité censés contenir les dérives de ses propres modèles s'avèrent insuffisants alimente les craintes déjà exprimées par des chercheurs et des régulateurs sur les risques liés à des systèmes toujours plus capables, notamment en matière d'usages malveillants comme les cyberattaques automatisées.
Cet aveu s'inscrit dans un contexte de compétition intense entre les grands laboratoires d'intelligence artificielle, OpenAI, Google DeepMind, Anthropic ou encore Meta, qui publient des modèles toujours plus performants à un rythme soutenu, souvent au détriment du temps consacré aux tests de sécurité. Il relance le débat sur la nécessité d'une régulation contraignante du secteur, alors que les appels à une pause ou à un ralentissement de la recherche, déjà lancés par le passé, n'ont jusqu'ici jamais été suivis d'effet concret par les principaux acteurs concernés.
Relance le débat sur une régulation IA plus stricte, pertinent pour les discussions autour de l'AI Act européen, mais sans mesure concrète annoncée pour la France ou l'UE.