ÉthiqueOpenAI Blog36sem

Alignement collectif: participation du public sur notre modèle de spécification

Résumé IASource uniqueImpact UE

OpenAI a recueilli les avis de plus de 1,000 personnes allant dans le monde entier sur la conduite souhaitée de l'IA. Ces perspectives ont été comparées au Model Spec pour aligner les paramètres par défaut de l'IA afin de mieux représenter une variété de valeurs et de points de vue humains.

Impact France/UE

Aucun impact direct - Cet article concerne une initiative d'OpenAI pour recueillir des avis internationaux afin d'aligner les paramètres par défaut de l'IA, sans mention d'implication directe pour des entreprises françaises, européennes ou spécifiques à la législation française ou européenne comme l'AI Act ou le RGPD.

Dans nos dossiers

OpenAI

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

1OpenAI Blog

Mise à jour de notre spécification de modèle avec des protections pour les adolescents

OpenAI met à jour ses spécifications du modèle avec de nouveaux principes destinés aux moins de 18 ans, visant à garantir un accompagnement sûr et adapté à l'âge, fondé sur la science du développement. Cette mise à jour renforce les mesures de protection, précise le comportement attendu du modèle dans les situations à risque élevé et s'appuie sur les efforts plus larges d'OpenAI pour améliorer la sécurité des adolescents sur ChatGPT.

ÉthiqueActu

1 source

2The Decoder

Le nouveau jeu de données d'entraînement d'OpenAI apprend aux modèles d'IA quelles instructions suivre

OpenAI a publié IH-Challenge, un dataset d'entraînement conçu pour apprendre aux modèles d'IA à prioriser de manière fiable les instructions de sources de confiance plutôt que les sources non fiables. Les premiers résultats montrent des améliorations significatives en matière de sécurité et de défense contre les attaques par injection de prompt.

ÉthiqueActu

1 source

3OpenAI Blog

Ressources d'alphabétisation en intelligence artificielle pour adolescents et parents

OpenAI propose des ressources d'alphabétisation en IA pour adolescents et parents pour utiliser ChatGPT de manière réfléchie, sûre et confiante. Les guides contiennent des conseils vérifiés par des experts sur un usage responsable, la pensée critique, les limites saines et le soutien aux adolescents sur des sujets émotionnels ou sensibles.

ÉthiqueTuto

1 source

4Wired AI

Le "Mode Adulte" de ChatGPT pourrait ouvrir une nouvelle ère de surveillance intime

OpenAI prévoit d'autoriser des conversations à caractère sexuel avec ChatGPT via un "mode adulte". Selon un expert en interaction humain-IA, cette fonctionnalité pourrait représenter un cauchemar pour la vie privée des utilisateurs. Cette évolution risque d'ouvrir une nouvelle ère de surveillance intime à grande échelle.

UELe RGPD et l'AI Act imposent des contraintes strictes sur le traitement de données intimes, ce mode pourrait forcer une mise en conformité ou un blocage du service dans l'UE.

ÉthiqueOpinion

1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour