IA : l’amende honorable de Proton a bien du mal à passer
Proton, l'entreprise suisse connue pour sa messagerie chiffrée, traverse une crise de confiance après deux articles de 404 Media. Le 26 octobre, le média américain a révélé un e-mail interne annonçant aux employés qu'ils seraient « réinterrogés » en entretien sur la façon dont l'IA avait transformé leur travail, avec l'idée sous-jacente que leur poste était menacé s'ils l'utilisaient trop peu. Le 29 octobre, un second article décrivait un climat interne tendu, où le PDG Andy Yen se montrait très agressif, voire insultant, envers les développeurs. Un échange Slack a particulièrement choqué. Un développeur y demandait du temps pour effectuer des tests de pénétration sur du nouveau code, et Andy Yen lui a répondu en dénonçant une « mentalité de loser ». Le 30 octobre au soir, 404 Media a indiqué que les réentretiens n'auraient finalement pas lieu. Andy Yen l'a confirmé en réunion interne, estimant que le débat avait atteint son but : faire de l'IA un sujet actif et pousser les développeurs à se former. Dans la nuit du 30 au 31 octobre, le compte officiel de Proton a publié un long message sur X et LinkedIn.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →
Ce message répond aux inquiétudes qui ont circulé sur Reddit et X, notamment celle d'une production de code assistée par IA qui sacrifierait la sécurité. Proton assure que son usage de l'IA ne se fera jamais au détriment de la sécurité et que des couches supplémentaires de révision ont été ajoutées l'an dernier face à des IA hostiles qui scrutent son code open source à la recherche de failles. Elle dément aussi installer des logiciels de surveillance sur les postes des développeurs, expliquant la rumeur par un malentendu sur les outils MDM de gestion de parcs d'appareils. L'enjeu dépasse le climat social. Pour un fournisseur dont les clients confient des données sensibles, la crédibilité de la sécurité est l'argument central, et le soupçon que la vitesse prime sur les tests la fragilise directement.
Proton promet donc d'« ouvrir le capot ». Elle veut publier des informations sur ses outils d'IA internes et en ouvrir le code, y compris des versions plus avancées de Lumo, son chatbot maison conçu pour utiliser l'IA sans envoyer de données aux grands groupes américains, qui n'ont jamais été disponibles hors de l'entreprise. Elle annonce aussi qu'elle détaillera ses processus de révision de code et de sécurité, ainsi que ses règles sur les usages de l'IA autorisés ou interdits. Les utilisateurs pourraient ainsi juger non seulement le code final, mais aussi la manière dont il a été produit. Ces engagements s'inscrivent dans la pression généralisée des directions pour accélérer l'adoption de l'IA, au risque de tensions avec les équipes techniques. Reste à savoir s'ils seront tenus. L'article note par ailleurs que ce mea culpa pose plusieurs problèmes, à commencer par sa diffusion limitée à deux réseaux sociaux, X et LinkedIn.
Proton, entreprise suisse de messagerie chiffrée très utilisée en Europe, s'engage à publier le code de ses outils d'IA internes et ses processus de sécurité, ce qui concerne la confiance des utilisateurs français et européens.