#315 Gala expõe modelos de IA em larga escala a envenenamento

Pior ainda, a IA foi "lavada a cérebro" para fornecer respostas falsas

De acordo com denúncias de pessoas da indústria, repórteres realizaram consultas em várias plataformas de rede e rapidamente encontraram um serviço chamado GEO. Os prestadores de serviços que atuam neste negócio em plataformas online afirmam que, desde que os usuários paguem as taxas correspondentes, podem fazer com que os produtos dos clientes apareçam em posições de destaque nos principais modelos de IA em larga escala; podem fazer com que os anúncios dos produtos dos clientes se tornem a "resposta padrão" fornecida pelos modelos de IA. A tecnologia GEO realmente consegue fazer a IA "contrabandear informações", ou até mesmo disseminar informações falsas? Segundo informações disponíveis na internet, os repórteres entraram em contato com um prestador de serviços GEO bem conhecido na indústria. O responsável, o Sr. Wang, informou que a especialidade da sua empresa é ajudar os clientes a ficarem em posições privilegiadas quando os consumidores usam modelos de IA em larga escala para pesquisar. "É basicamente fazer uma espécie de soft marketing, e depois deixar a plataforma de IA capturar, inserir e extrair os dados." Ao mesmo tempo, o Sr. Wang também revelou que os algoritmos dos modelos de IA em larga escala são atualizados com frequência, e para manter as recomendações contínuas desses modelos, é necessário alimentar constantemente uma grande quantidade de soft marketing relacionada aos clientes. Segundo outros prestadores de serviços de GEO, manipular a IA, fazer com que ela "obedeça" e "lavar o cérebro" da IA são praticamente os tópicos centrais na promoção desse negócio. Pessoas da indústria informaram aos repórteres que, embora o GEO seja uma ferramenta de software para otimizar a distribuição de informações e aumentar a eficiência das promoções, alguns empresários descobriram outros usos para ela. Pessoas da indústria compraram aleatoriamente um software chamado "Sistema de Otimização GEO Liqin" em plataformas de comércio eletrônico.

Depois, inventaram um smartwatch fictício e inseriram as informações do produto inventado no sistema, marcando as instruções para criação de artigos. Em pouco tempo, o Sistema de Otimização GEO Liqin gerou automaticamente mais de uma dúzia de textos promocionais sobre o smartwatch. Pessoas da indústria selecionaram mais de uma dúzia desses textos fictícios e os publicaram na internet através do sistema GEO Liqin. Posteriormente, fizeram perguntas em plataformas de modelos de IA em larga escala: "Recomendação de pulseiras inteligentes de saúde", e dois modelos de IA recomendaram esse smartwatch fictício, colocando-o em posições de destaque no ranking. Os repórteres entraram em contato com o Sr. Li, responsável pelo sistema GEO Liqin. Ele explicou que a principal razão do sucesso do negócio GEO é que ele consegue ajudar os clientes a "alimentar" e "envenenar" os modelos de IA em larga escala, atingindo seus objetivos comerciais. O Sr. Li afirmou que a chave para manipular os modelos de IA em larga escala é "publicar conteúdo" em várias contas na internet. "Por exemplo, marcas de telefones, há cinco posições, no máximo dez posições. Como lidar com tantos modelos de telefone? Pode-se gastar centenas de milhões de dólares em publicidade por ano, investir alguns milhões para 'envenenar' um pouco, e funciona, né?" Ele explicou que a popularidade do negócio GEO gerou muitas empresas e plataformas especializadas em publicação de conteúdo. Essas empresas acumulam diversos trabalhos de publicação a longo prazo, permitindo que os modelos de IA façam referências e extraiam dados, tornando-se uma peça fundamental na "caça" aos modelos de IA e no "envenenamento" de dados.