Sur Amazon, le modèle d’intelligence artificielle (IA) déployé pour résumer les avis des consommateurs n’est pas encore au point. Une situation dénoncée par les commerçants de la plateforme d’e-commerce, qui craignent que la technologie affecte leurs ventes en période cruciale de fêtes de fin d’année.

Des commentaires négatifs minoritaires mis en avant

Capitalisant sur le boom de l’IA générative, Amazon a mis au point un modèle afin d’éviter à ses utilisateurs de perdre du temps à scroller sous les produits. Sur le papier, l’IA est en mesure de résumer les nombreux avis afin d’aiguiller au mieux les consommateurs. La réalité est légèrement différente.

Le média Bloomberg a ainsi analysé des dizaines de résumés générés par l’IA sur la place de marché. Il constate que le système est incohérent, mettant en évidence certains avis négatifs et d’autres non. Encore plus préjudiciable pour les vendeurs, le modèle insiste parfois sur les commentaires négatifs dans son résumé, alors que ceux-ci ne constituent qu’une infime minorité des avis.

Par exemple, un résumé concernant des balles de tennis indique que certains acheteurs ont été déçus par l’odeur du produit. Ce dernier est pourtant doté d’une note de 4,7 sur la base de plus de 4 300 évaluations, seulement sept commentaires faisant état d’une quelconque odeur.

« Si vous avez une poignée de commentaires négatifs et que le modèle d’intelligence artificielle les résume comme s’il s’agissait d’un thème cohérent, ce n’est pas juste. Il est très difficile d’évaluer l’impact monétaire de cette mesure, mais les vendeurs ne sont pas contents », dénonce Jon Elder, qui dirige Black Label Advisor, société de conseil aux vendeurs d’Amazon. Les commerçants sont d’autant plus frustrés que ce désagrément intervient juste avant les fêtes de fin d’année, période la plus prolifique pour leurs affaires.

Une technologie va s’améliorer avec le temps

Selon les commerçants, Amazon met en place de nouveaux outils et de nouvelles technologies sans les prévenir ni les consulter depuis des années. Dans ce cas précis, ils dénoncent un manque de visibilité sur le fonctionnement des algorithmes ou sur la manière dont ils peuvent remédier aux inexactitudes ou aux distorsions dans les résumés.

« Notre analyse a révélé que les mises en avant d’avis aident les clients à trouver les produits qu’ils souhaitent et entraînent une augmentation des ventes pour les vendeurs », commente Amazon. Le géant de l’e-commerce affirme en outre « améliorer continuellement » l’expérience. La technologie est vouée à être perfectionnée au fil du temps et sera alors très pertinente. En attendant, certains vendeurs font les frais de ses imprécisions.