Anthropic contrata especialista em armas químicas para impedir uso indevido do Claude, especialistas questionam se isso aumentará riscos

Gate News notícias, 17 de março, Anthropic publicou no LinkedIn a vaga de “Gestor de Políticas de Armas Químicas e Explosivos de Alto Poder”, exigindo que os candidatos tenham pelo menos 5 anos de experiência na defesa contra armas químicas e/ou explosivos, e conhecimento sobre dispositivos de dispersão radioativa (bomba suja). A Anthropic afirmou que o objetivo da posição é evitar que sua ferramenta de IA Claude seja usada para “uso indevido catastrófico”, preocupando-se que Claude possa ser utilizado para obter informações sobre a fabricação de armas químicas ou radioativas, sendo necessário que especialistas avaliem se as medidas de segurança existentes são suficientemente rigorosas. Outra empresa de IA também publicou uma vaga semelhante na sua página de recrutamento, direcionada a pesquisadores de riscos biológicos e químicos, com salário anual de até 455 mil dólares. A esse respeito, a apresentadora do programa da BBC “AI Decoded” e pesquisadora de tecnologia, Dra. Stephanie Hare, questionou: “É realmente seguro permitir que sistemas de IA lidem com informações sensíveis sobre produtos químicos, explosivos e armas radioativas? Mesmo que tenham sido instruídos a não usar essas informações.” Ela também apontou que atualmente não há nenhum tratado ou regulamentação internacional que regule esse tipo de trabalho ou a combinação de IA com armas desse tipo, “tudo isso ocorre fora do alcance do público”.