Grammarly désactive la fonction 'Revue par un expert' alimentée par l'IA après la controverse suscitée par les auteurs et les journalistes

En résumé

• Grammarly a désactivé sa fonctionnalité d’Expert Review AI suite aux critiques d’académiciens et d’écrivains.
• L’outil générait des retours sur l’écriture en se basant sur des noms de chercheurs, dont certains sont décédés.
• La société a indiqué qu’elle allait repenser cette fonctionnalité pour donner aux experts plus de contrôle sur leur représentation.

La plateforme populaire d’assistance à l’écriture Grammarly a annoncé mercredi qu’elle avait désactivé sa fonctionnalité Expert Review AI suite à une réaction négative en ligne et à des critiques selon lesquelles l’outil utilisait les identités et les manières de faire de divers écrivains et éditeurs sans leur permission. La fonctionnalité Expert Review analyse le texte d’un utilisateur et génère des retours du point de vue de chercheurs, journalistes et autres spécialistes. La société mère Superhuman a indiqué mercredi qu’elle allait changer de cap après une forte réaction. « Au cours de la semaine dernière, nous avons reçu des critiques valides de la part d’experts qui craignaient que l’agent ait mal représenté leur voix », a écrit Shishir Mehrotra, PDG de Superhuman, sur LinkedIn. « Ce genre de contrôle critique améliore nos produits, et nous le prenons au sérieux. »

Grammarly a lancé la fonctionnalité Expert Review l’été dernier dans le cadre de son expansion dans les agents de productivité IA. L’outil permet aux utilisateurs de choisir un expert et de recevoir des retours générés par IA, modélisés sur le travail de cette personne. Après la découverte que l’IA faisait référence à des personnes réelles, y compris des chercheurs décédés, la fonctionnalité a rapidement été critiquée par des universitaires et des journalistes. Suite à ces critiques, Superhuman a indiqué avoir désactivé la fonctionnalité Expert Review et prévoit de la repenser afin que les experts puissent contrôler leur représentation. Avant cette modification, les experts devaient manuellement se désinscrire s’ils ne souhaitaient pas être inclus, ce que des critiques ont jugé inacceptable. « Je ne suis pas avocat, mais je pense que « Nous allons continuer à voler vos contenus jusqu’à ce que vous nous disiez de ne pas le faire » n’est pas vraiment la défense que Grammarly pense avoir — du moins pas dans l’opinion publique », a écrit James Bareham, ancien directeur créatif de The Verge, sur Bluesky. « J’espère que cette entreprise sera poursuivie jusqu’à l’oubli. J’ai annulé mon abonnement pro aujourd’hui. » D’autres, comme l’auteur et éditeur Benjamin Dreyer, ont moqué la politique de désinscription de l’entreprise dans un message en réponse à la fonctionnalité.

 « Je vais peut-être simplement profiter de leur offre de désinscription très généreuse, oh merci, merci. Mais en attendant, si je peux faire perdre quelques moments de stress à un escroc d’entreprise, j’aurai l’impression que mon travail acharné n’a pas été vain pour rien », a écrit Dreyer. Dans une déclaration partagée avec Decrypt, Ailian Gan, directrice de la gestion des produits pour les agents chez Grammarly, a indiqué que la société avait désactivé la fonctionnalité Expert Review après que des retours ont montré qu’elle « avait raté sa cible ». « Alors que nous innovons à la frontière de l’IA, il est important pour nous de continuer à chercher les meilleures façons d’aider les gens à se sentir maîtres de la technologie et à pouvoir la façonner selon leurs besoins », a écrit Gan. « Merci de nous tenir responsables. Nous nous engageons à bien faire la prochaine fois et à être transparents sur nos améliorations à venir. »