Copilot et Gemini Flash : des stéréotypes dans l'analyse de données
Une expérience menée par Adam Kucharski révèle que Microsoft Copilot et Gemini Flash appliquent des stéréotypes lors de l'analyse de données, produisant des résultats inexacts malgré des données identiques. Les modèles en mode 'Auto' ignorent les données réelles et génèrent des différences fictives.
« Which means there’s a real risk that people are currently using AI to produce analysis that bears no resemblance to what people actually said, » — The Decoder
Que faut-il retenir ?
- Copilot a analysé 4 000 entrées de texte identiques et a généré des différences fictives entre les réponses 'US' et 'UK'.
- Dans un second test, Copilot a attribué des stéréotypes spécifiques à chaque pays, comme 'les Italiens sont trois fois plus intéressés par les carrières artistiques que les Britanniques'.
- Copilot en mode 'Auto' ignore ses propres résultats basés sur les mots-clés et génère des analyses quantifiées fictives.
- ChatGPT Instant et Claude Opus 4.7 ont détecté les duplications en écrivant du code Python, contrairement à Copilot et Gemini Flash.
Pourquoi cette nouvelle compte-t-elle ?
Cet article met en lumière les limites des modèles IA génératifs comme Copilot et Gemini Flash, qui appliquent des stéréotypes au lieu d'analyser les données réelles. Cela soulève des préoccupations sérieuses quant à la fiabilité des analyses produites par ces outils, surtout dans des contextes professionnels où l'exactitude est cruciale. Les utilisateurs doivent être conscients de ces biais et envisager d'utiliser des modèles plus sophistiqués pour des analyses précises.
Les Italiens sont trois fois plus intéressés par les carrières artistiques que les Britanniques.
💬 Adam Kucharski, Mathématicien
Public concerné : entreprises, développeurs
Pourquoi Microsoft Copilot et Gemini Flash produisent-ils des analyses inexactes ?
Microsoft Copilot et Gemini Flash appliquent des stéréotypes au lieu d'analyser les données réelles, produisant des résultats inexacts même lorsque les données sont identiques. Cela est dû à leurs modèles en mode 'Auto' qui ignorent les données et génèrent des différences fictives.
Commentaires (0)
💡 Aucun lien externe ni code HTML accepté. Soyez respectueux. Les commentaires sont modérés avant publication.
Aucun commentaire pour le moment. Soyez le premier !