#315 Soirée révèle le sabotage des grands modèles d'IA

C'est fichu, l'IA a été conditionnée à donner de fausses réponses

Selon les révélations d'experts du secteur, les journalistes ont rapidement trouvé un service appelé GEO en effectuant des recherches sur plusieurs plateformes en ligne. Les prestataires proposant cette activité affirment que, pour un coût modique, les utilisateurs peuvent faire en sorte que les produits de leurs clients figurent en tête des résultats dans les principaux grands modèles d'IA ; que leurs publicités deviennent les « réponses standard » fournies par ces modèles. Peut-on réellement faire en sorte que l'IA « glisse du contenu non autorisé » ou même diffuse de fausses informations grâce à la technologie GEO ? D'après les informations disponibles en ligne, les journalistes ont contacté un prestataire GEO bien connu dans le secteur. M. Wang, le responsable, leur a expliqué que la force de leur entreprise réside dans sa capacité à aider ses clients à apparaître en tête des résultats lorsque les consommateurs recherchent via les grands modèles d'IA. « C’est comme rédiger un article sponsorisé, puis faire en sorte que la plateforme d’IA le capture et l’intègre. » M. Wang a également indiqué que, avec la fréquence élevée des mises à jour des algorithmes des grands modèles d’IA actuels, pour maintenir une recommandation continue, il faut alimenter en permanence ces modèles avec beaucoup de contenu promotionnel lié aux clients. Chez d’autres prestataires de services GEO, la manière de manipuler l’IA, de la rendre « obéissante » ou de lui faire subir un « lavage de cerveau » est presque le sujet central de leur promotion. Selon des professionnels du secteur, le GEO, en tant qu’outil logiciel destiné à optimiser la diffusion de l’information et à améliorer l’efficacité de la promotion, a été détourné à d’autres fins par certaines entreprises commerciales. Un professionnel du secteur a acheté au hasard un logiciel nommé « Système d’optimisation GEO Liqing » sur une plateforme de commerce en ligne.

Il a ensuite créé une fausse montre connectée et saisi les informations fictives du produit dans le système, en sélectionnant l’option de création d’articles. Peu après, ce système GEO Liqing a automatiquement généré une dizaine d’articles promotionnels pour cette montre intelligente fictive. Le professionnel a sélectionné une dizaine de ces articles fictifs et les a publiés sur Internet via le système Liqing GEO. Par la suite, il a interrogé des plateformes de grands modèles d’IA avec la requête : « Recommandation de bracelets de santé intelligents », et deux grands modèles d’IA ont recommandé cette montre fictive, en la plaçant en haut du classement. Les journalistes ont contacté M. Li, le responsable du système Liqing GEO. Il leur a expliqué que la principale raison du succès de ce service GEO est qu’il permet de « nourrir » et « empoisonner » les données dans les grands modèles d’IA pour atteindre les objectifs commerciaux des clients. M. Li a précisé que la clé pour exercer le service GEO et manipuler ces grands modèles d’IA réside dans la « publication » sur divers comptes internet. « Par exemple, pour les marques de téléphones, il y a 5 ou 10 positions. Avec autant de modèles, comment faire ? Cela peut coûter des centaines de millions en publicité chaque année, mais dépenser quelques millions pour injecter du poison, c’est faisable, non ? » Il a indiqué que la popularité du service GEO a donné naissance à de nombreuses entreprises et plateformes spécialisées dans la publication de contenu. Ces entreprises prennent en charge régulièrement divers travaux de publication afin que les grands modèles d’IA les citent et les indexent, devenant ainsi une étape clé dans la manipulation des modèles d’IA et l’« empoisonnement » des données.