Ética na IA: Por que é importante, agora, trabalhar numa IA ética

Descubra as principais notícias e eventos do setor fintech!

Subscreva a newsletter do FinTech Weekly

Lido por executivos da JP Morgan, Coinbase, Blackrock, Klarna e mais

A ética na IA é uma das principais preocupações de investidores e analistas, especialmente desde a introdução do ChatGPT pela OpenAI, que se tornou a aplicação de crescimento mais rápido.

A ética é necessária se quisermos que a inteligência artificial não se torne perigosa e seja usada de forma adequada – também para o setor fintech, pois pode ser particularmente perigoso usar IA não devidamente treinada na área financeira.

Por que a ética na IA faz manchetes

A ética na inteligência artificial aparece nas manchetes tanto por motivos positivos quanto negativos.

Enquanto a Microsoft recentemente reduziu seu departamento de IA & Sociedade – deixando apenas 7 pessoas durante uma das ondas de despedimentos que afetaram a empresa, muitos analistas e organizações tentam refletir sobre o tema e entender por que a ética importa.

Isso inclui também organizações internacionais e políticos, algo que talvez possa ajudar os utilizadores comuns – ainda demasiado inconscientes do progresso da inteligência artificial – a ter a certeza de que a IA não é apenas um tema de negócios.

Em 23 de novembro de 2021, a UNESCO publicou um documento, “Recomendação sobre a Ética da Inteligência Artificial”, que foi posteriormente adotado pelos 193 Estados-membros.

As recomendações começam com “Considerando plenamente que o rápido desenvolvimento das tecnologias de IA desafia a sua implementação ética e governança, bem como o respeito e a proteção da diversidade cultural, e tem o potencial de perturbar os padrões e valores éticos locais e regionais”.

A referência ao multiculturalismo é importante no caso da IA.

Como veremos em breve, é importante considerar que nem todos conseguem gerir e usar a IA, e se ela permanecer uma prerrogativa dos profissionais de tecnologia e empresas, pode ser difícil para algumas culturas e segmentos da população aceder a esta tecnologia importante.

Temos IA senciente?

Ainda não temos – pelo menos, ainda não – IA senciente.

Até agora, as ferramentas baseadas em IA são treinadas por pessoas e dados. Se, sob uma certa perspetiva, isso significa que a IA ainda não pode ser considerada demasiado perigosa, também significa que, se as pessoas fornecerem dados tendenciosos, as respostas da IA também serão tendenciosas.

O mesmo se aplica se os dados e o treino forem fornecidos apenas por certos profissionais e em determinados países.

Segundo o MIT, a disparidade de género nas áreas STEM (ciência, tecnologia, engenharia e matemática) ainda é extremamente significativa, e as mulheres com empregos compatíveis com os seus estudos nessas áreas representam apenas 28%.

Um relatório publicado pela IDC (International Data Corporation), o Guia Mundial de Investimentos em Inteligência Artificial, indica que os investimentos em IA devem atingir 154 mil milhões de dólares em 2023. Mas onde estão concentrados esses investimentos?

Conforme relatado pela InvestGlass, os países onde os investimentos estão concentrados são os Estados Unidos e a China. Também o Japão, Canadá e Coreia do Sul estão a aumentar os investimentos e estratégias relacionadas com IA. A União Europeia não é a região mais avançada em termos de inteligência artificial – embora alguns países, como Alemanha e França, estejam a desenvolver um ambiente interessante para a IA.

Todos estes dados mostram que nem todos estão envolvidos nesta revolução, e isso – claro – pode ser prejudicial ao desenvolvimento ético e valioso da IA.

Se a IA permanecer demasiado concentrada em certos campos e países, os dados que produzir serão necessariamente tendenciosos.

Se o multiculturalismo ainda não for devidamente abordado, os investidores já procuram uma tecnologia que seja socialmente responsável e ética.

O que pensam os investidores sobre IA?

Nos últimos anos, uma maior consciência sobre responsabilidade social levou os investidores a preferir negócios que não prejudiquem as sociedades.

No caso da inteligência artificial, é difícil não apenas criar quadros regulatórios globais para regular a tecnologia, mas também é difícil para os investidores entenderem completamente o que é realmente ético em termos de IA.

A IA é relativamente nova, e dar-lhe um contexto adequado torna-se ainda mais difícil pelo facto de estar em constante mudança.

Por isso, os investidores usam diferentes métodos para avaliar os possíveis desenvolvimentos futuros de um negócio de IA, bem como a sua ética à medida que o tempo passa e as mudanças são implementadas.

Segundo a TechCrunch, parece que os investidores podem achar mais útil avaliar as características e qualidades do proprietário do projeto, para entender melhor como ele ou ela pode reagir a novos quadros regulatórios e como pretendem gerir um projeto de IA apesar das mudanças constantes.

Assim, mesmo falando de IA, os humanos ainda têm a última palavra – e quanto mais éticas forem as pessoas que usam IA, mais ética será a IA no futuro.

Pensamentos finais

A ética na IA não é um tema fácil, e não é simples avaliar como a IA pode ser ética.

A IA não é senciente, não tem alma – independentemente de como uma alma possa ser definida.

Apesar disso, é fundamental trabalhar na ética da IA neste momento, para evitar ao máximo os perigos no futuro.

Se quiser saber mais sobre notícias, eventos e insights do setor fintech, subscreva a newsletter do FinTech Weekly!