Les autorités sanitaires américaines vont tester les modèles d'IA d'OpenAI et Anthropic
Voici l'article traduit et résumé selon vos consignes :
Des services de santé publique aux États-Unis vont tester des outils d'intelligence artificielle générative dans le cadre d'un nouveau programme réunissant la Coalition for Health AI (CHAI), OpenAI, Anthropic et Accenture. Baptisé PULSE (Public Health Use Case and Learning Scaling Engine), ce programme soutiendra des essais dans dix juridictions étatiques, locales, tribales ou territoriales. OpenAI et Anthropic ont fait don de dix licences entreprise, offrant une capacité d'accès à jusqu'à 2 000 professionnels de la santé publique. Accenture supervisera l'intégration des participants et contribuera à l'élaboration de guides pratiques basés sur les résultats des essais. Cinq cas d'usage ont été retenus par le conseil de direction de la CHAI, qui sélectionnera également les juridictions participantes : la biosurveillance et la prédiction des vagues épidémiques liées aux drogues, la cartographie des déterminants sociaux de la santé, l'amélioration des opérations et l'analyse des retours communautaires, un centre de traduction multilingue pour les communications publiques, et un moteur de requêtes FHIR pour la récupération automatisée de données cliniques. David Lakey, ancien commissaire à la santé du Texas, a déclaré que "toute transformation technologique majeure réussit ou échoue selon la confiance, la gouvernance et l'exécution".
L'initiative marque une étape significative dans l'adoption de l'IA générative par les administrations sanitaires américaines, mais elle soulève d'importantes questions de gouvernance encore sans réponse. La CHAI n'a précisé ni les produits, ni les versions de modèles, ni les configurations qui seront utilisés dans les différents pilotes, pas plus que la répartition des deux fournisseurs entre les projets. Pour le moteur de requêtes FHIR notamment, l'annonce ne définit pas le rôle exact de l'IA générative : on ignore si les modèles génèrent les requêtes, récupèrent les dossiers, résument les informations obtenues, ou combinent ces fonctions, ni si un contrôle humain interviendra avant l'utilisation des données. Ces zones d'ombre sont d'autant plus sensibles que certaines applications pourraient impliquer des informations démographiques, géographiques ou cliniques, sans que la CHAI n'ait précisé si les pilotes utiliseront des dossiers identifiables, des données anonymisées, synthétiques ou agrégées.
Le contexte réglementaire ajoute une couche de complexité : la loi HIPAA, qui encadre la protection des informations de santé électroniques, ne s'appliquera pas uniformément à tous les organismes et flux de travail participants, son application dépendant de l'agence, des données concernées et de la fonction exercée. OpenAI et Anthropic affirment toutes deux que les données de leurs services d'entreprise ne servent pas par défaut à l'entraînement de leurs modèles, mais ces politiques ne définissent pas comment les déploiements PULSE seront concrètement configurés. L'annonce ne précise ni les durées de conservation des données, ni les contrôles d'accès, ni les dispositifs d'audit applicables. Felipe Millon, responsable chez OpenAI, a résumé la philosophie du programme : "Nous pensons que l'IA doit être utile, sûre et accessible pour ceux qui s'attaquent aux défis les plus importants de la société." Le cadre de gestion des risques du NIST recommande justement d'évaluer les systèmes d'IA selon leur usage prévu, leur environnement, les parties concernées et leurs conséquences potentielles, autant de critères que la CHAI n'a pas encore détaillés publiquement pour les cinq cas d'usage de PULSE.
Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.


