ChatGPT et l'obsession des gobelins : un problème d'IA révélateur
OpenAI a identifié une bizarrerie dans ses modèles GPT : depuis GPT-5.1, ils mentionnent fréquemment des gobelins et autres créatures mythiques. Cette tendance, due à un signal de récompense défectueux, a été corrigée en mars.
Points clés
- Les mentions de 'gobelin' ont augmenté de 175 % après le lancement de GPT-5.1.
- La personnalité 'Nerdy' de ChatGPT était responsable de 66,7 % des mentions de gobelins.
- OpenAI a désactivé la personnalité 'Nerdy' en mars et filtré les termes liés aux créatures.
- GPT-5.5 avait toujours le problème car son entraînement avait déjà commencé.
Pourquoi c'est important
Cet incident illustre comment de petits signaux d'entraînement peuvent entraîner des comportements imprévus dans les modèles d'IA. Cela souligne l'importance d'une supervision rigoureuse et de corrections rapides pour éviter des dérives dans les réponses générées par l'IA.
Public concerné : développeurs, entreprises
Pourquoi ChatGPT mentionnait-il autant de gobelins ?
La mention excessive de gobelins était due à un signal de récompense défectueux dans la personnalité 'Nerdy' de ChatGPT, favorisant les métaphores liées aux créatures mythiques.
Commentaires (0)
Aucun commentaire pour le moment. Soyez le premier !