Boîte noire
Terme
Débutant
🧠 Concepts fondamentaux
📖 Définition
Ce terme désigne un système d'IA dont le fonctionnement interne est si complexe que ses propres concepteurs ne peuvent expliquer comment il arrive à un résultat précis. On observe les données qui entrent et sortent, mais le raisonnement demeure opaque. Au Québec, la Loi 25 encadre ce phénomène en exigeant une certaine transparence pour les décisions automatisées.
💬 En termes simples
C'est comme un chef cuisinier qui vous sert un plat délicieux sans que personne ne sache quels ingrédients ou techniques il a utilisés en cuisine.
🎯 Exemple concret
Une PME québécoise utilisant un algorithme de recrutement doit pouvoir expliquer à un candidat pourquoi son dossier a été écarté, malgré l'opacité du modèle.
💡 Le saviez-vous ?
Le domaine de l'IA explicable (XAI) travaille spécifiquement à ouvrir ces boîtes pour rendre les décisions des machines compréhensibles par les humains.