De plus en plus de sociétés s'appuient sur l’intelligence artificielle pour développer une stratégie commerciale ou comprendre et anticiper les besoins des clients. Si cette stratégie porte souvent ses fruits, elle peut aboutir à des biais à cause de l'algorithme. Lorsque cela arrive, l’entreprise se base sur des données erronées pouvant conduire à un préjudice financier. Cela peut aussi induire une mauvaise prise de décision avec pour conséquence une mauvaise réputation.

Un algorithme mal entraîné peut induire des biais sans même le vouloir. L'impact peut être direct si le client s'en aperçoit et amène une mauvaise réputation. Kalinda Ukanwa, professeur en marketing, montre que même si cela reste sous silence, le préjudice est réel. En 2014 Amazon teste une IA permettant de sélectionner des candidats en fonction de leur CV. L'algorithme est formé à partir des CV des 10 dernières années et des embauches qui en ont découlé. L'intelligence artificielle s'est basée sur le fait que la plupart des candidatures venaient d'hommes, excluant ainsi certaines femmes. Sans même s'en rendre compte, l'algorithme était biaisé par des données elles-mêmes biaisées. Résultat, au-delà de la discrimination à l'embauche, lorsque certaines femmes entendent que leur amie n'a pas été reçue, cela réduit l'envie de postuler. L'entreprise se retrouve alors privée de profils intéressants.

Les biais dans l'IA peuvent aussi être bénéfiques selon le docteur Min Sun. Entraîner une intelligence artificielle à être impartiale peut prendre beaucoup de temps. Introduire un biais pour cibler sa clientèle permet de rentabiliser plus rapidement cette IA. Par exemple, une entreprise de mode destinée aux jeunes femmes de moins de 25 ans peut avoir des recommandations d'achats basées sur une IA avec un biais inhérent. Le modèle sera basé sur les préférences d'autres personnes de ce groupe de clients. Par la suite, l'entreprise peut utiliser les données de ses propres clients afin de muscler son algorithme.

On remarque que la plupart des biais dans les intelligences artificielles sont néfastes pour les entreprises et leur réputation. LinkedIn a par exemple été obligé d'utiliser une IA pour contrer les biais sexistes de son intelligence artificielle. Récemment, la Commission européenne a présenté son plan pour encadrer l'intelligence artificielle. Les biais sont au cœur de cette proposition. Il s'agit aujourd'hui d'un sujet majeur, avec de plus en plus d'entreprises qui font appel à l'IA.