1401OpenAI Blog RechercheOpinion
20
Les modèles de raisonnement luttent pour contrôler leurs chaînes de pensée, et c'est bien ainsi
OpenAI a introduit CoT-Control et a constaté que les modèles de raisonnement ont du mal à contrôler leurs chaînes de pensée, ce qui souligne l'importance de la surveillabilité comme mesure de sécurité en IA. Cette difficulté à réguler leurs processus de raisonnement renforce l'idée que la capacité à surveiller les pensées des modèles est cruciale pour assurer leur sécurité.
1 source
