Aller au contenu principal
ÉthiqueOpenAI Blog25sem

Critiques des règles : Lutte contre l'exploitation sexuelle et les abus en ligne sur les mineurs

1 source couvre ce sujet·Source originale ↗·
Résumé IA

OpenAI lutte contre l'exploitation et l'abus sexuel en ligne des enfants grâce à des politiques d'utilisation strictes, des outils de détection avancés et une collaboration avec l'industrie. Ces mesures visent à bloquer, signaler et prévenir l'utilisation abusive de l'IA.

Discover how OpenAI combats online child sexual exploitation and abuse with strict usage policies, advanced detection tools, and industry collaboration to block, report, and prevent AI misuse.

À lire aussi

1Next INpact2h

Images et vidéos pédocriminelles crédibles générées par IA se multiplient, alerte l’IWF

L'Internet Watch Foundation (IWF), organisation britannique indépendante spécialisée dans la lutte contre les contenus pédocriminels en ligne, tire la sonnette d'alarme dans un rapport publié en 2025 : les images et vidéos d'agressions sexuelles sur mineurs générées par intelligence artificielle sont devenues « routinières ». En juillet 2024, ses analystes repéraient encore les premières vidéos entièrement produites par IA — facilement identifiables à leurs défauts techniques. Un an plus tard, l'organisation a recensé plus de 8 000 images et près de 3 500 vidéos crédibles de ce type, contre seulement 13 vidéos l'année précédente. Plus alarmant encore, 65 % de ces vidéos appartiennent à la « catégorie A », réservée aux contenus les plus extrêmes — une proportion supérieure aux 43 % observés pour les contenus criminels non générés par IA traités sur la même période. Ces contenus ne sont pas moins dangereux parce qu'ils sont artificiels. Selon l'IWF, ils renforcent l'attrait sexuel pour les enfants, contribuent à normaliser des actes d'une violence extrême et peuvent accroître le risque de passages à l'acte. S'y ajoute une double victimisation : les modèles génératifs sont entraînés sur des images d'agressions réelles, ce qui signifie que l'image de survivants est réutilisée, modifiée et parfois « augmentée » pour produire de nouveaux contenus. Cette réexploitation démultiplie le traumatisme des victimes initiales. Le phénomène présente également une dimension de genre très marquée : 97 % des enfants représentés dans ces contenus générés par IA sont des filles, une surreprésentation encore plus forte que dans les affaires de pédocriminalité réelle. Des cas concrets ont illustré cette dérive, notamment en Espagne à Almendralejo, où des images de lycéennes réelles ont été manipulées par IA pour produire des contenus à caractère sexuel. L'IWF, fondée en 1996 et membre du réseau international INHOPE — auquel appartient également l'association française Point de Contact —, travaille en lien avec les forces de police et les fournisseurs d'accès à internet, auxquels elle transmet notamment une liste noire d'environ 150 000 URL de sites diffusant des contenus illégaux. Ce rapport s'inscrit dans un contexte où la démocratisation des outils de génération d'images et de vidéos par IA pose des défis croissants aux dispositifs légaux et techniques de protection de l'enfance à l'échelle mondiale.

UELe réseau INHOPE, dont fait partie l'association française Point de Contact, est directement impliqué dans la lutte contre ces contenus, et la multiplication de ces matériaux générés par IA accroît la pression sur le cadre réglementaire européen pour encadrer les outils génératifs.

ÉthiqueActu
1 source
2Le Monde Pixels1j

IA : « Le contraste entre des patrimoines incommensurables et la menace de plans sociaux massifs est vertigineux »

L'article fourni ne contient que le titre et une légende photo — il manque le corps du texte pour produire un résumé complet. Avec les éléments disponibles : l'article aborde le contraste saisissant entre les fortunes colossales accumulées par les grandes figures de la tech/finance (dont Larry Fink, PDG de BlackRock) et la menace de suppressions massives d'emplois liées à l'IA. Pour un vrai résumé, merci de coller le contenu complet de l'article.

UELe débat sur les destructions d'emplois liées à l'IA est particulièrement vif en France et en Europe, où les partenaires sociaux et le législateur (AI Act, directives sur l'information-consultation des salariés) sont directement confrontés à la question des reconversions massives.

ÉthiqueOpinion
1 source
3MIT Technology Review2j

Le mouvement de bien-être animal de la Bay Area cherche à recruter l'IA

En février à San Francisco, des défenseurs du bien-être animal et des chercheurs en IA se sont réunis lors d'un sommet organisé par Sentient Futures, fondé par Constance Li, pour explorer comment l'IA pourrait transformer la protection animale. Les participants, convaincus que l'AGI est imminente, estiment qu'il est crucial de former les systèmes d'IA à valoriser la vie animale, car ces systèmes pourraient bientôt prendre la majorité des décisions importantes. Ce mouvement, étroitement lié à l'altruisme efficace, mise sur des solutions à grande échelle comme la viande cultivée en laboratoire plutôt que sur des actions locales.

ÉthiqueActu
1 source
4Numerama5j

Moxie Marlinspike (Signal) s’allie à Meta pour « bunkeriser » vos conversations avec l’IA

Moxie Marlinspike, créateur du protocole Signal, lance un nouveau projet appelé Confer qui s'intégrera à Meta AI pour garantir la confidentialité totale des conversations avec l'IA. Dix ans après avoir sécurisé WhatsApp, il applique la même approche de chiffrement de bout en bout aux échanges avec les assistants IA, rendant les données inaccessibles même à Meta et Mark Zuckerberg.

UELes utilisateurs européens de Meta AI pourraient bénéficier d'une protection renforcée de leurs conversations IA, potentiellement alignée avec les exigences du RGPD, si Confer est déployé en Europe.

ÉthiqueActu
1 source