RégulationLe Big Data2h

Peut-on manipuler les réponses des IA ? Les dessous du GEO

54

1 source couvre ce sujet·Source originale ↗·

Résumé IA

Le référencement évolue avec l'avènement du Generative Engine Optimization (GEO), qui vise à influencer les réponses des IA. Contrairement aux moteurs de recherche traditionnels, les modèles d'IA générative ne sélectionnent pas toujours explicitement leurs sources ; ils génèrent des réponses basées sur des connaissances intégrées. La "citabilité" des contenus devient cruciale : pour augmenter les chances d'être repris par l'IA, il est essentiel de fournir des informations structurées, factualisées et cohérentes. Malgré cela, la manipulation directe des réponses des IA reste limitée et dépend de la capacité à influencer les corpus consultés par les modèles d'IA.

Impact France/UE

Le Generative Engine Optimization (GEO) met en lumière une nouvelle façon de gérer le référencement, mettant en avant l'importance de la "citabilité" des contenus pour influencer les réponses générées par les IA, impactant ainsi les stratégies numériques de compagnies européennes comme OVHcloud et SAP.

Articles similaires

1TechCrunch AI13h

Warren interpelle le Pentagone sur l'accès accordé à xAI aux réseaux classifiés

La sénatrice Elizabeth Warren interpelle le Pentagone au sujet de la décision d'accorder à xAI, la société d'IA d'Elon Musk, un accès aux réseaux classifiés militaires. Elle souligne que Grok, le chatbot controversé de xAI, a déjà produit des contenus nuisibles pour ses utilisateurs. Warren estime que cela représente un risque potentiel pour la sécurité nationale.

RégulationActu

2MIT Technology Review17h

Les lieux où la technologie d'OpenAI pourrait se manifester en Iran

OpenAI a récemment conclu un accord controversé avec le Pentagone autorisant l'utilisation de sa technologie AI dans des environnements classifiés. Bien que Sam Altman affirme que l'armée ne peut pas utiliser la technologie pour développer des armes autonomes, l'accord semble plutôt exiger que le Pentagone respecte ses propres règles relativement permissives sur ces sujets. L'engagement d'OpenAI de prévenir l'utilisation de sa technologie pour la surveillance interne semble peu credible. Il est incertain quels sont les objectifs d'OpenAI, mais ils cherchent probablement à maximiser leurs ressources financières alors qu'ils dépensent beaucoup en formation d'IA et recherchent de nouvelles sources de revenus. Une question plus importante est l'avenir : OpenAI semble prêt à opérer dans un contexte militaire tendu, y compris pendant les frappes américaines contre l'Iran où l'IA joue un rôle croissant. Les applications potentielles incluent la priorisation de cibles par des modèles AI analyseant diverses informations textuelles, visuelles et vidéo, pour une validation finale humaine. Cependant, cela soulève des préoccupations sur l'efficacité et les risques d'une telle dépendance à l'IA dans des contextes militaires critiques.

RégulationOpinion

Le Trésor américain publie un guide sur les risques liés à l'IA pour les institutions financières

Le Departement du Trésor des États-Unis a publié un guide sur les risques liés à l'IA pour le secteur financier, intitulé CRI Financial Services AI Risk Management Framework (FS AI RMF). Ce guidebook, résultat d'une collaboration de plus de 100 institutions financières et organisations industrielles, vise à aider les établissements financiers à identifier, évaluer, gérer et régir les risques associés aux systèmes d'IA. Les risques spécifiques à l'IA incluent la biais algorithmique, le manque de transparence dans les processus décisionnels, les vulnérabilités cybernétiques et les dépendances complexes entre systèmes et données. Le FS AI RMF est présenté comme une extension du cadre NIST, offrant des contrôles spécifiques au secteur et des directives d'application pratique pour promouvoir des pratiques d'IA responsables et soutenir l'innovation.

UELe guide du Trésor américain sur les risques de l'IA impacte potentiellement les institutions financières européennes en mettant en lumière des défis techniques et réglementaires spécifiques, encourageant ainsi des pratiques d'IA responsables alignées avec les normes NIST, influençant ainsi le secteur financier français via OVHcloud et SAP.

RégulationReglementation