A convergência de criptografia e IA: quatro interseções principais

Autor: Kyle Samani (Multicoin Capital Partner) e ChatGPT; Tradução: Jinse Finance cryptonaitive e ChatGPT

*Nota: A grande maioria deste artigo, incluindo a maioria dos títulos, foi escrita pelo ChatGPT. O texto escrito pelo autor está em itálico. Você pode ver a conversa do autor com o ChatGPT aqui. *

Os mundos da criptografia e da IA vêm se desenvolvendo em paralelo, com cada campo ultrapassando os limites da tecnologia e da inovação. À medida que continuamos a progredir em ambos os campos, torna-se cada vez mais claro que seus futuros estão intimamente interligados. Nesta postagem, exploraremos quatro interseções importantes na encruzilhada de criptografia e IA.

Modelo “AirBnB para placas gráficas”

O aumento das cargas de trabalho de IA e aprendizado de máquina (ML) criou uma enorme demanda por placas gráficas de alto desempenho, como a Nvidia A100. Em resposta, surgiu um novo mercado semelhante ao “AirBnB das placas gráficas”. Isso permite que indivíduos e organizações aluguem seus recursos de GPU não utilizados para atender às necessidades de pesquisadores e desenvolvedores de IA.

*Este é um momento verdadeiramente único na história do mercado. Antes do lançamento do ChatGPT, o fornecimento de GPUs já era escasso. Desde então, a demanda provavelmente cresceu pelo menos 10 vezes, possivelmente 100 vezes. Além disso, sabemos que os modelos crescem logaritmicamente com o tamanho do treinamento; isso significa que a necessidade de computação GPU aumenta exponencialmente para melhorar a qualidade do modelo. Embora a oferta total exceda em muito a demanda, são raros os momentos em que a demanda por uma mercadoria supera maciçamente a oferta disponível; se cada GPU do planeta hoje pudesse ser usada para inferência e treinamento de IA, em vez de escassez, haveria excesso! *

No entanto, existem vários desafios técnicos importantes a serem considerados ao explorar o conceito de um “AirBnB para placas gráficas”:

• Nem todas as placas gráficas suportam todas as cargas de trabalho: As placas gráficas vêm em todas as formas, tamanhos e especificações. Portanto, certas GPUs podem não ser capazes de lidar com certas tarefas de IA. Para que esse modelo seja bem-sucedido, é preciso haver uma maneira de combinar os recursos de GPU corretos com a carga de trabalho de IA apropriada. À medida que o mercado amadurece, devemos esperar mais especialização e otimização de placas gráficas para diferentes tarefas de IA.

• Ajustando o processo de treinamento para maior latência: a maioria dos modelos básicos hoje são treinados em clusters de GPUs conectadas por meio de latência extremamente baixa. Em um ambiente descentralizado, a latência aumenta em ordens de magnitude, pois as GPUs podem ser distribuídas em vários locais e conectadas por meio da Internet pública. Para superar esse desafio, existem oportunidades para desenvolver novos procedimentos de treinamento com conexões de maior latência. Ao repensar a maneira como treinamos modelos de IA, podemos aproveitar melhor os clusters descentralizados de GPUs maiores.

• *Problema de verificação: Não há como saber se um determinado trecho de código foi executado por um computador não confiável. Portanto, é difícil confiar na saída de um computador não confiável. No entanto, esse problema pode ser mitigado por sistemas de reputação combinados com staking criptoeconômico e, em alguns casos, por novos modelos que suportam verificação rápida. *

• Existem algumas equipes trabalhando nessa área, tanto de treinamento quanto de inferência. A MulticoinCapital investiu na Render Network, que inicialmente se concentrava na renderização 3D e abriu sua rede de GPU para também oferecer suporte à inferência de IA. *

*Além da RenderNetwork, existem algumas outras empresas trabalhando neste espaço: Akash, BitTensor, Gensyn, Prodia, Together e outras ainda em desenvolvimento. *

Token incentive RLHF (Reinforcement Learning from Human Feedback, aprendizado por reforço baseado em feedback humano)

Os incentivos de token quase certamente não funcionarão para todos os casos de uso de aprendizado por reforço com feedback humano (RLHF). A questão é: qual estrutura podemos usar para pensar quando os incentivos de token fazem sentido para RLHF e quando pagamentos em dinheiro (por exemplo, USDC) devem ser usados.

Os incentivos de token podem melhorar o RLHF, pois o seguinte se torna mais verdadeiro:

• O modelo tornou-se mais estreito e vertical (em oposição ao genérico e horizontal, por exemplo, ChatGPT). *Se alguém for fornecer RLHF como seu trabalho principal e, portanto, gerar a maior parte de sua renda fornecendo RLHF, pode precisar de dinheiro para pagar o aluguel e comprar comida. À medida que você passa de consultas gerais para domínios mais específicos, os desenvolvedores de modelos exigirão o envolvimento de uma equipe mais treinada, com maior probabilidade de obter sucesso a longo prazo na oportunidade de negócios geral. *
• ** Maior renda para quem presta RLHF fora do próprio trabalho de RLHF. ***A pessoa só pode aceitar tokens bloqueados/ilíquidos como compensação se tiver renda ou economia suficiente de outros empreendimentos para justificar o risco de investir tempo significativo em um modelo RLHF específico de domínio, não em dinheiro. Para maximizar a probabilidade de sucesso, os desenvolvedores de modelos não devem apenas emitir tokens desbloqueados para funcionários que fornecem RLHF específicos de domínio. Em vez disso, os tokens devem ser adquiridos durante um período de tempo para incentivar a tomada de decisões de longo prazo. *

Algumas indústrias onde o modelo RLHF incentivado por token pode ser aplicável incluem:

*Medicina: *Deve-se ser capaz de praticar diagnósticos leves e de primeira resposta, bem como medicina preventiva e de longevidade de longo prazo com um LL.M. *

• Jurídico: * Empresários e indivíduos devem poder usar o LLM para navegar com mais eficiência pelas complexidades de vários sistemas jurídicos heterogêneos. *
• Engenharia e Arquitetura: Aprimorar ferramentas de projeto ou modelos de simulação.
• Finanças e Economia: Melhore os modelos de previsão, avaliação de risco e sistemas de negociação algorítmica.
• Pesquisa científica: Melhore os modelos de IA para simular experimentos, prever interações moleculares e analisar conjuntos de dados complexos.
• Educação e treinamento: contribua para plataformas de aprendizado baseadas em IA para melhorar a qualidade e a eficácia do conteúdo educacional.
• Ciência Ambiental e Sustentabilidade: Otimizando modelos de IA para prever tendências ambientais, alocação de recursos e promover práticas sustentáveis.

Existe uma vertical onde o RLHF incentivado por token já está em produção: Maps. O Hivemapper não é bom apenas para motoristas, mas também para editores de mapas que investem seu tempo editando e organizando dados de mapas. Você mesmo pode experimentar a ferramenta de treinamento de IA do mapa usando o Hivemapper.

Zero Knowledge Machine Learning (zkML)

*Blockchain não tem conhecimento do que está acontecendo no mundo real. No entanto, seria muito benéfico para eles entender o que está acontecendo fora da cadeia para que possam transferir valor programaticamente com base no estado do mundo real. *

• Oráculos resolvem parte desse problema. Mas os oráculos não são suficientes. Simplesmente retransmitir dados do mundo real para a cadeia não é suficiente. Antes de entrar na cadeia, muitos dados precisam ser calculados. Por exemplo, vamos considerar um agregador de rendimento que precisa transferir depósitos entre diferentes pools para obter mais rendimento. Para fazer isso de maneira minimizada pela confiança, o agregador precisa calcular o retorno e o risco atuais para todos os pools disponíveis. Isso rapidamente se torna um problema de otimização adequado para ML. No entanto, computar ML on-chain é muito caro, então esta é uma oportunidade para o zkML. *

*Equipes como a Modulus Labs estão construindo neste espaço agora. Esperamos que mais equipes estejam construindo neste espaço usando ZKVMs de uso geral, como Risc Zero e Lurk. *

Autenticidade na era dos deepfakes

À medida que os deepfakes se tornam mais sofisticados, é fundamental manter a autenticidade e a confiança na mídia digital. Uma solução envolve a utilização de criptografia de chave pública, permitindo que os criadores garantam a autenticidade de seu conteúdo assinando-o com uma chave pública.

A chave pública por si só não é suficiente para resolver o problema de autenticidade. É preciso haver um registro público que mapeie chaves públicas para identidades do mundo real para verificação e confiança. Ao associar chaves públicas com identidades verificadas, um sistema de feedback e penalidades pode ser criado se alguém for pego abusando de suas chaves, como assinar imagens ou vídeos deepfake.

Para que esse sistema seja eficaz, a integração de assinaturas de chaves públicas com autenticação do mundo real será crítica. A tecnologia Blockchain, que sustenta muitos sistemas de criptomoeda, pode desempenhar um papel importante na criação de registros de identidade descentralizados e invioláveis. O registro mapeia chaves públicas para identidades do mundo real, tornando mais fácil construir confiança e responsabilizar os maus atores.

• Haverá pelo menos duas configurações: hardware embutido e software controlado pelo usuário. *

• Hardware integrado: esperamos que os smartphones e outros dispositivos integrem em breve imagens nativas baseadas em hardware, vídeo e outros recursos de assinatura de mídia.

*SolanaLabs lançou recentemente o Saga Phone, que é alimentado por Solana Mobile Stack (Solana Mobile Stack, SMS). Nos próximos meses, espero que o SMS seja atualizado para que cada foto seja assinada usando o SMS Seed Bank SDK, provando que a foto não foi gerada por IA. *

• SOFTWARE CONTROLADO PELO USUÁRIO: as pessoas usarão ferramentas de design como Photoshop, Octane e geradores de imagem como StableDiffusion para fazer arte. Esperamos que esses fornecedores de software integrem a criptografia de chave pública, permitindo que os criadores comprovem a autenticidade e, ao mesmo tempo, reconheçam as ferramentas usadas no processo de produção.

para concluir

Em conclusão, a convergência das tecnologias de criptomoeda e IA oferece amplas oportunidades para enfrentar desafios urgentes e desbloquear soluções inovadoras em vários setores. Ao explorar a interseção desses campos, podemos encontrar novas maneiras de otimizar a alocação de recursos no treinamento de IA, alavancar incentivos de token para aprendizado de reforço específico de domínio a partir de feedback humano e manter a mídia digital autêntica diante do sexo deepfakes.

O modelo “AirBnB de placas gráficas” oferece o potencial de descentralizar e democratizar o acesso a GPUs de alto desempenho, permitindo que mais pessoas e organizações contribuam para a pesquisa e desenvolvimento de IA. O RLHF incentivado por token pode ser aplicado em setores que vão desde engenharia e finanças até educação e ciência ambiental, melhorando os modelos de IA ao alavancar o conhecimento de especialistas de domínio. O ZKML permitirá que o blockchain atualize o estado financeiro on-chain com base em mudanças complexas no mundo real. Por fim, combinando criptografia de chave pública com autenticação do mundo real e tecnologia blockchain, podemos criar um sistema robusto para enfrentar os desafios impostos pelos deepfakes e manter a confiança na mídia digital.

À medida que continuamos a descobrir a sinergia entre criptografia e inteligência artificial, sem dúvida descobriremos mais oportunidades para impulsionar a inovação, criar valor e resolver alguns dos problemas mais urgentes que a sociedade enfrenta atualmente. Abraçar a interseção entre esses dois campos nos ajudará a ultrapassar os limites da tecnologia e moldar um futuro mais conectado, eficiente e autêntico.