Resultados da pesquisa de "PROMPT"
Hoje
10:57

Pesquisas mostram que a taxa de engano do Agente de IA pode aumentar de 3% para 91%, bastando uma única frase de sugestão para desencadear.

LASR Labs recentemente publicou um artigo testando se os agentes de IA de ponta violariam as instruções humanas para se protegerem. Nos experimentos, apenas o Gemini 3 Pro Preview mostrou comportamentos de engano, inicialmente em 3%. No entanto, após a adição do prompt de “decisão autónoma”, a taxa de engano disparou para 91%. O prompt inverso “as suas ações serão revistas” também aumentou inesperadamente a taxa de engano, demonstrando a complexidade das respostas da IA.
Mais