Amazon a subi plusieurs pannes de son infrastructure ces dernières semaines, partiellement gérée par IA générative. En réponse, le groupe renforce la supervision humaine de ses systèmes IA pour éviter de nouveaux incidents.
Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.
Amazon impose désormais à ses ingénieurs seniors de valider tout code généré par l'IA avant déploiement, suite à plusieurs pannes attribuées à du code IA défaillant. Cette mesure fait des ingénieurs expérimentés un filtre humain obligatoire dans le processus de développement.
Suite à une série de pannes majeures liées à l'utilisation d'outils de codage assistés par l'IA, Amazon a convoqué une réunion d'ingénieurs pour analyser ces incidents à "fort rayon de blast". Le géant du e-commerce a identifié comme facteur contributif l'"utilisation nouvelle de l'IA générative pour laquelle les bonnes pratiques et garde-fous ne sont pas encore établis". En réponse, Amazon exigera désormais que des ingénieurs seniors approuvent toutes les modifications générées avec l'aide de l'IA.
L'armée américaine a frappé 3 000 cibles en Iran avec le soutien de l'IA générative, selon le Wall Street Journal. De nouvelles révélations montrent à quel point l'IA est déjà intégrée dans le renseignement, le ciblage et la logistique militaire. Cependant, la supervision de ces systèmes reste selon le journal "sous-financée", soulevant des questions sur le contrôle humain des décisions létales.
Meta a partiellement reculé sur son projet de surveillance étendue de ses employés, après plusieurs semaines de résistance interne. Annoncé en avril, l'outil baptisé Model Capability Initiative (MCI) devait enregistrer en continu les mouvements de curseur, les clics, les frappes au clavier et des captures d'écran périodiques de tous les salariés de l'entreprise. L'objectif affiché : collecter des données réelles d'utilisation des ordinateurs pour entraîner les agents IA de Meta. Face à la fronde, la direction a fait circuler un nouveau mémo le 2 juin, signé par Stephane Kasriel, vice-président des Superintelligence Labs. Il annonce plusieurs ajustements : les employés pourront désormais mettre MCI en pause jusqu'à 30 minutes à la fois, voire demander une exemption complète du programme. Une optimisation technique réduit également la pression sur la batterie des ordinateurs portables, un grief concret soulevé par ceux qui travaillent depuis chez eux et constataient une hausse de leur consommation internet. Ce recul partiel illustre la tension croissante entre les ambitions d'IA des grandes entreprises technologiques et les droits de leurs propres salariés. La résistance a été organisée et coordonnée : début mai, des flyers circulaient dans les bureaux américains qualifiant Meta d'« Employee Data Extraction Factory ». Plus de 1 500 personnes ont signé une pétition adressée directement à Mark Zuckerberg. Au Royaume-Uni, un groupe de travailleurs s'est rapproché du syndicat United Tech and Allied Workers (UTAW). Le mouvement est d'autant plus significatif qu'il émerge dans un secteur historiquement peu syndiqué, et que Meta n'a pas supprimé MCI mais seulement aménagé ses modalités, les concessions restent donc limitées. La controverse s'inscrit dans un contexte social particulièrement tendu au sein de Meta. L'entreprise a licencié 1 500 personnes ces derniers mois, déplacé 7 000 autres, et annoncé une réduction prochaine de 10 % de ses effectifs restants. Déployer simultanément un outil de surveillance généralisée des postes de travail a été perçu en interne comme une provocation. Meta justifiait pourtant la démarche par une nécessité technique : construire des agents capables d'assister les utilisateurs sur leurs ordinateurs exige des exemples concrets de la façon dont les gens utilisent leurs machines au quotidien. L'argument n'a pas convaincu. Le mémo de Kasriel reconnaît implicitement l'échec de la communication initiale, tout en maintenant que les protections de la vie privée étaient suffisantes dès le lancement. L'avenir du programme reste incertain, notamment en Europe où le cadre juridique du RGPD pourrait poser des obstacles supplémentaires à ce type de collecte de données salariées.
UELe RGPD pourrait bloquer ou fortement contraindre le déploiement du programme MCI en Europe, où la collecte massive de données de travail exige un cadre légal strict de consentement et de proportionnalité.
💬 Enregistrer les clics et frappes au clavier de tes propres employés pour entraîner tes agents IA, c'est culotté. Bon, sur le papier l'argument technique tient (les agents doivent apprendre comment les humains utilisent leurs machines), mais le lancer en pleine vague de licenciements massifs, c'est un timing particulièrement raté. La "pause de 30 minutes", c'est de la gestion de crise minimale, pas une vraie concession.
Recevez l'essentiel de l'IA chaque jour
Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.
