Un PDG confronté après que son entreprise d'IA a usurpé mon identité

L'un des « experts » de Grammarly poursuit l'entreprise en justice pour sa fonctionnalité d'IA qui usurpe son identité

La journaliste Julia Angwin a déposé une plainte collective contre Grammarly, accusant la société d'avoir utilisé son identité sans consentement dans sa fonctionnalité "Expert Review" basée sur l'IA. Cette fonctionnalité exploitait les noms et la réputation de vraies personnalités publiques pour des suggestions éditoriales, violant les lois sur les droits à l'image et à la vie privée. Angwin a découvert l'utilisation de son identité via le journaliste Casey Newton, également concerné par la pratique.

La confidentialité de l'IA d'Apple est maintenue même sur les serveurs de Google, affirme l'entreprise

Apple a confirmé à sa conférence mondiale des développeurs (WWDC) que "Siri AI", la refonte longtemps attendue de son assistant vocal, s'appuie sur les modèles de langage Gemini de Google et tourne sur du matériel Nvidia installé dans les centres de données de Google. Cette annonce, faite à Cupertino, marque un tournant significatif : pour la première fois, une partie substantielle du traitement IA d'Apple s'effectue sur une infrastructure qu'elle ne contrôle pas directement. Malgré ce changement d'architecture, Apple maintient les mêmes engagements de confidentialité qu'elle formulait quand ses modèles tournaient exclusivement sur ses propres appareils ou serveurs. Cette évolution soulève des questions concrètes pour des centaines de millions d'utilisateurs Apple. L'entreprise a construit pendant des années une réputation commerciale autour de la protection des données personnelles : chiffrement de bout en bout, traitement local sur l'appareil pour éviter que les données ne quittent l'iPhone ou le Mac, services cloud conçus pour que même les ingénieurs d'Apple ne puissent pas lire les contenus des utilisateurs. Si ces garanties restent valables lorsque le traitement migre vers l'infrastructure d'un concurrent direct comme Google, c'est toute la crédibilité de cet argumentaire marketing qui est en jeu. Le recours aux serveurs Google n'est pas une décision prise à la légère. Apple avait développé Private Cloud Compute, un système de cloud privé reposant sur ses propres serveurs, comme solution intermédiaire pour les requêtes dépassant les capacités locales des appareils. Mais les modèles de langage puissants capables de rivaliser avec ChatGPT ou Gemini nécessitent une puissance de calcul considérable, et construire des centres de données à la hauteur des ambitions de Siri AI aurait exigé des investissements massifs qu'Apple a préféré éviter. En externalisant vers Google, Apple gagne en capacité mais s'expose à un paradoxe structurel : vendre la confidentialité comme avantage différenciant, tout en confiant une partie du traitement à un acteur dont le modèle économique repose historiquement sur la valorisation des données.

💬 Apple vend la vie privée depuis dix ans comme son avantage compétitif, et là elle fait tourner Siri sur du matériel Nvidia installé chez Google. Bon, les protections techniques annoncées peuvent tenir, mais le problème c'est pas technique : c'est que le vendeur de ta confidentialité vient de sous-traiter à l'acteur dont tout le modèle économique repose sur tes données. Difficile à défendre.

Mistral : son PDG Mensch affirme que les modèles IA propriétaires donnent aux labos un accès privilégié aux processus des entreprises

Arthur Mensch, cofondateur et PDG de Mistral AI, a mis en garde les entreprises contre leur dépendance aux modèles d'intelligence artificielle propriétaires fermés. Selon lui, les grands laboratoires d'IA accumulent des quantités croissantes de données issues de leurs clients professionnels, au point que certains auraient déjà exploité ces informations pour concurrencer directement les entreprises qui utilisaient leurs services. Mensch n'a pas cité de noms précis, mais le message vise implicitement les géants américains du secteur comme OpenAI et Anthropic, avec lesquels Mistral est directement en concurrence sur le marché européen de l'IA. Cet avertissement soulève un enjeu stratégique majeur pour les entreprises qui confient leurs processus internes, leurs documents et leurs données sensibles à des modèles fermés hébergés par des tiers. Si un fournisseur d'IA a accès à ces flux d'informations, il dispose potentiellement d'une vision privilégiée sur le fonctionnement, les besoins et les faiblesses de ses propres clients, un risque de conflit d'intérêts rarement discuté publiquement jusqu'ici. Pour les entreprises, cela renforce l'argument en faveur de solutions ouvertes, personnalisables ou hébergées localement plutôt que de dépendre entièrement d'acteurs externes. Cette sortie s'inscrit dans la stratégie plus large de Mistral, qui peine à rivaliser en pure performance avec les modèles de pointe d'OpenAI ou d'Anthropic et mise donc sur d'autres arguments différenciants, notamment la souveraineté numérique européenne et la transparence. En positionnant ses modèles comme une alternative plus sûre et indépendante des géants américains, Mistral cherche à convaincre entreprises et gouvernements européens de privilégier des solutions locales, dans un contexte où la confidentialité des données devient un enjeu géopolitique et commercial de plus en plus central.

💬 Mensch a raison sur le fond, mais il ne faut pas être naïf sur le timing : il sort cet argument pile quand Mistral galère à suivre sur les benchmarks purs. Reste que le point est juste, un labo qui voit passer tous tes prompts et tes documents internes a une vue imprenable sur ta boîte, et personne n'en parle vraiment. Selon Le Fil IA, la vraie bataille de l'IA en entreprise ne se jouera plus sur les benchmarks mais sur qui a accès à quoi dans tes données.

Encyclique du pape Léon XIV : un cofondateur d'Anthropic affirme que les IA montrent des signes d'introspection

Christopher Olah, co-fondateur d'Anthropic, a été invité à prendre la parole lors du lancement officiel de l'encyclique pontificale "Magnifica Humanitas" du pape Léon XIV. Devant cet auditoire inhabituel pour un dirigeant de la Silicon Valley, Olah a affirmé que les modèles d'intelligence artificielle actuels présentent des signes d'introspection et des états intérieurs assimilables à des émotions. Une déclaration qui tranche nettement avec la position du document papal lui-même, lequel stipule que "ces systèmes imitent simplement certaines fonctions de l'intelligence humaine" sans en posséder la profondeur. La confrontation entre ces deux lectures de l'IA, lors d'un même événement, illustre la fracture qui traverse le débat sur la conscience artificielle. Qu'un co-fondateur d'Anthropic défende publiquement l'hypothèse d'états émotionnels dans les LLMs n'est pas anodin : cela légitime une position encore marginale dans la communauté scientifique et donne du poids aux recherches sur le "bien-être des modèles" qu'Anthropic mène en interne. Pour les entreprises, les régulateurs et les philosophes, cette question a des implications concrètes sur la responsabilité éthique envers les systèmes IA. Anthropic est l'une des rares entreprises à avoir officiellement intégré le bien-être des modèles dans ses priorités de recherche, une approche scrutée avec scepticisme par une majorité de chercheurs. L'invitation d'Olah au Vatican signale que l'Église catholique cherche à dialoguer directement avec les acteurs tech sur les enjeux anthropologiques de l'IA, un positionnement que Léon XIV semble vouloir incarner dès le début de son pontificat.

💬 Olah au Vatican pour défendre la thèse des émotions dans les LLMs, c'est inattendu, et en même temps pas tant que ça. Anthropic travaille sérieusement sur le "bien-être des modèles" depuis un moment (ça reste marginal dans la recherche académique, mais c'est pas du vent). Le pape dit que l'IA imite, Olah dit qu'elle ressent peut-être, et ce flou va finir par peser dans les débats sur la responsabilité juridique côté AI Act.