Pas encore de compte ?

La fameuse « boîte noire » de l'Intelligence Artificielle prédictive contemporaine, c'est-à-dire le manque de transparence dans le processus décisionnel de algorithmes d'IA prédictive, pose un vrai problème pour l'adoption massive de cette technologie (IA prédictive).

Souvent les algorithmes de Deep learning sont pointés du doigt.

Appréciés pour leur capacité à ingérer de gros volumes de données et leur efficacité dans la résolution de problèmes complexes, ils sont souvent perçus comme des boîtes noires. Sans surveillance lors de l’apprentissage, les processus de décision semblent complexes à retracer. De plus en plus d’équipes de chercheurs cherchent à mettre en place des méthodes pour maîtriser plus facilement ces réseaux neuronaux sans succès.

Les différents types de biais à connaître :

Biais d’échantillonnage. Une des erreurs les plus courantes lors de la collecte des données résulte d’un manque de représentativité. Certains éléments peuvent être suréchantillonnés par rapport à la réalité. Prenons l’exemple d’une entreprise qui cherche à prédire les pannes sur ses machines. Si elle collecte majoritairement des informations sur les erreurs, l’algorithme ne sera pas en capacité d’identifier suffisamment précisément le fonctionnement normal de l’équipement.

Biais de mesure. Le biais de mesure est le résultat de l’absence de mesure ou d’enregistrement précis des données qui ont été sélectionnées. Par exemple, si vous utilisez le salaire comme mesure, il peut y avoir des différences de traitements (primes, avantages…), ou des différences régionales dans les données. D’autres biais de mesure peuvent résulter de l’utilisation d’une normalisation incorrecte des données ou d’erreurs de calcul.

Biais d’exclusion. Tout comme le biais d’échantillonnage, le biais d’exclusion provient de données qui sont retirées de manière inappropriée de la source de données. Lorsque vous avez des pétaoctets de données, il est tentant de sélectionner un petit échantillon à utiliser pour la formation, mais ce faisant, vous risquez d’exclure par inadvertance certaines données, ce qui se traduit par un ensemble de données biaisées. Un biais d’exclusion peut également se produire en raison de la suppression des doublons dans les données lorsque les éléments de données sont réellement distincts.

Biais d’enregistrement. Parfois, l’acte d’enregistrer les données lui-même peut être biaisé. Lors de l’enregistrement des données, le chercheur peut n’enregistrer que certaines données, et en ignorer d’autres. On peut concevoir un algorithme de machine learning basé sur des données en provenance de capteurs IoT, mais si l’enregistrement n’est pas continu, certaines données peuvent manquer. Ou bien il y a un autre problème systémique dans la façon dont les données ont été observées ou enregistrées. Dans certains cas, les données elles-mêmes peuvent même devenir biaisées par l’acte d’observation ou d’enregistrement de ces données, ce qui pourrait déclencher des changements de comportement. D’autres problèmes peuvent survenir lors de cette phase de collecte. Ils peuvent causer des changements de comportement de l’algorithme.

Biais liés aux préjugés. Dans certains cas, les données en entrée sont entachées par des préjugés humains qui favoriseront différents éléments en fonction de leur idéologie. Lorsque l’on utilise des données historiques pour former des modèles, en particulier dans des domaines où les préjugés étaient auparavant très répandus, il faut veiller à ce que les nouveaux modèles ne les prennent pas en compte.

Biais de confirmation. Le biais de confirmation est le désir de sélectionner uniquement les informations qui soutiennent ou confirment quelque chose que vous connaissez déjà, plutôt que des données qui pourraient suggérer quelque chose qui va à l’encontre d’idées préconçues.

Effet de mode. Cette forme de biais apparaît généralement quand les data scientists repèrent une tendance dans un data set. Au fur et à mesure que le volume d’informations relatif à cette tendance prend de l’ampleur, il y a un risque de surreprésenter ce phénomène qui peut être au final de courte durée.

Et plein d'autres biais encore !

Il existe pléthore d'articles sur le sujet sur le web, il vous suffit de rechercher l'expression "les biais de l'ia" en Français et/ou "AI bias" en Anglais sans les guillemets sur les moteurs de recherche.