Na madrugada de ontem, às duas horas, ajudei um amigo a investigar um comportamento estranho do seu bot de trading quantitativo: claramente estava a executar a estratégia A, mas os logs pareciam ter sido trocados por B. Primeiro culpámos a latência da API, depois até surgiu a dúvida se o modelo tinha sido trocado. Mensagens do exchange surgiam uma a uma, o café já tinha ficado frio, e ele perguntou: “Como é que podes provar que o modelo não foi manipulado?” Eu fiquei em silêncio…

Essa é a razão pela qual tenho estado atento ao @inference_labs: eles trocaram “confiança” por “recibo”. O JSTprove acabou de ser atualizado para a versão v1.4.0, e com ONNX + um comando, é possível gerar provas de inferência zk, uma cadeia de evidências auditável. Ainda mais impressionante é o DSperse: validação por fatias, que fornece provas apenas para o gate de segurança/ detecção de anomalias/ cabeçalhos privados, com custos controlados.

Os engenheiros de segurança pensam: quando o agente realmente começar a gerir dinheiro/autorizações, o mais importante será explicar claramente “o que exatamente executei”, acima de tudo.