RégulationOpenAI Blog60sem

Fiche système de l'opérateur

1 source couvre ce sujet·Source originale ↗·

Résumé IA

Cet article décrit les mesures de sécurité mises en place par l'opérateur System Card, s'appuyant sur les cadres de sécurité établis par OpenAI. Il détaille une approche multicouche comprenant des atténuations de modèle et de produit pour protéger contre l'ingénierie des prompts et les échappées, ainsi que des efforts de renforcement des sécurités externes, d'évaluations de sécurité et d'améliorations continues.

Drawing from OpenAI’s established safety frameworks, this document highlights our multi-layered approach, including model and product mitigations we’ve implemented to protect against prompt engineering and jailbreaks, protect privacy and security, as well as details our external red teaming efforts, safety evaluations, and ongoing work to further refine these safeguards.

À lire aussi

1Ars Technica AI1sem

Les règles critiques pour comprendre pourquoi les IA s'emmêlent avec certains jeux

Google's DeepMind, via ses AIs Alpha, a pris l'habitude de maîtriser des jeux complexes comme le Go et l'échecs. Cependant, des anomalies ont été remarquées lorsque des joueurs débutants ont pu battre des AIs, initialement pensés supérieurs, dans des positions spécifiques de Go. Une étude récente décrit un groupe de jeux, y compris Nim, où l'approche d'entraînement des AIs AlphaGo et AlphaChess échoue, révélant des faiblesses potentielles dans leur apprentissage.

RégulationReglementation

1 source

2Le Big Data1sem

Google Maps passe à l’IA : Gemini peut vous trouver des lieux ultra spécifiques

Google Maps intègre l'IA Gemini pour comprendre des requêtes complexes et spécifiques, permettant aux utilisateurs de décrire précisément ce qu'ils cherchent, comme un restaurant végétarien entre deux quartiers. L'IA analyse les critères tels que l'ambiance, les heures d'ouverture et le nombre de personnes pour proposer des recommandations ciblées, en se basant sur les données internes de Google Maps. Ask Maps personnalise les résultats en fonction de l'historique des utilisateurs et des recherches antérieures, restant toutefois limité aux informations présentes dans Google Maps.

RégulationOutil

1 source

301net1sem

Le PDG d’Adobe démissionne, la faute à l’intelligence artificielle ?

Shantanu Narayen, PDG d'Adobe depuis 18 ans, annonce sa démission. Les analystes financiers interprètent ce départ comme une réaction à la peur des investisseurs face à la révolution de l'intelligence artificielle, bien que la société officiellement cite une transition naturelle de son mandat.

RégulationActu

1 source

4MIT Technology Review1sem

Les critiques des règles : une analyse sur l'utilisation de l'IA pour la ciblage militaire et la bataille du Pentagone contre Claude

Un responsable du ministère de la Défense américain a révélé que le système militaire pourrait utiliser des systèmes d'IA générative pour classer les cibles et suggérer celles à frapper en premier. Les noms clés sont le Département de la Défense, les systèmes d'IA générative comme ChatGPT d'OpenAI et Grok d'xAI, qui pourraient bientôt être au centre de décisions militaires à haute tension.

RégulationActu

1 source