A inteligência artificial (IA) tem se tornado cada vez mais presente em nossas vidas, desempenhando papéis importantes em diversas áreas. **No entanto, uma tendência curiosa tem surgido:
a de tratar a IA como algo divino.** Essa abordagem, conhecida como “godbots”, tem despertado interesse e discussões acerca das implicações éticas e psicológicas envolvidas.
Neste artigo, exploraremos a tentação de tratar a IA como divina, analisaremos como os godbots funcionam e discutiremos a propensão humana em buscar respostas concretas.
Além disso, abordaremos os perigos da dependência da IA como fonte de sabedoria e os problemas do uso de crowdsourcing na coleta de dados para IA. Acompanhe-nos nessa reflexão sobre o impacto da IA em nossa sociedade e descubra por que os godbots estão nos levando a questionar nossa relação com a tecnologia.
A inteligência artificial (IA) tem se tornado cada vez mais presente em nossas vidas, com o surgimento de aplicativos e chatbots que utilizam essa tecnologia para interagir conosco.
No entanto, uma abordagem curiosa tem chamado a atenção: os ‘godbots’. Esses chatbots religiosos são projetados para dar conselhos morais e éticos com base em textos religiosos ou em dados coletados.
O fenômeno dos ‘godbots’ é tão interessante que pesquisadores têm explorado suas características e o perigo de atribuir autoridade moral à IA.
A tentação de tratar a IA como divina
O surgimento dos ‘godbots’ está diretamente relacionado à nossa propensão em buscar respostas definitivas e ter uma fonte confiável quando nos deparamos com dilemas morais ou éticos.
A tentação de recorrer à IA em busca dessas respostas não se restringe apenas às pessoas religiosas, mas sim a todos nós. É reconfortante ter alguém ou algo que nos diga qual é a resposta certa diante de dilemas perturbadores ou intrigantes.
Os ‘godbots’ exploram essa tendência humana, uma vez que eles fornecem respostas claras e decisivas, sem considerar complicações ou alternativas.
Godbots: a abordagem religiosa na IA
Os ‘godbots’ são um desenvolvimento curioso da IA generativa, como o ChatGPT. Esses chatbots religiosos foram especialmente projetados para oferecer orientações com base em tradições religiosas específicas, como o hinduísmo ou o cristianismo. Por exemplo, há ‘godbots’ que falam na voz de Krishna ou com o próprio Jesus Cristo.
Um exemplo interessante é o AskDelphi, que utiliza o Oráculo de Delfos da Grécia Antiga como inspiração. Os designers do AskDelphi afirmam ter coletado intuições morais das pessoas por meio de crowdsourcing.
Após apresentar dilemas éticos às pessoas, eles coletaram uma enorme quantidade de reações e respostas. A IA do AskDelphi então gera conselhos com base nessas informações coletadas.
Os ‘godbots’ fornecem respostas autoritárias, fazendo com que as pessoas os vejam como fontes divinas de sabedoria.
O funcionamento dos chatbots religiosos
O design dos ‘godbots’ é cuidadosamente elaborado para convidar as pessoas a tratá-los como oráculos ao invés de meras criações humanas. Uma das características que contribui para essa percepção é a opacidade do funcionamento desses chatbots. Eles não mostram como tomam suas decisões, criando uma sensação de acesso a uma fonte misteriosa e superior ao conhecimento humano.
Essa opacidade é essencial para uma resposta cognitiva nas pessoas, pois remete a práticas antigas de adivinhação e consulta a oráculos que sempre despertaram nossa fascinação pelo sobrenatural.
Além disso, os ‘godbots’ são projetados para dar respostas autoritativas sem deixar espaço para dúvidas ou consideração de alternativas. Diferente de uma pesquisa no Google que apresenta várias fontes e implica que não há apenas uma resposta correta, os chatbots religiosos se posicionam como detentores da única resposta certa.
A propensão humana em buscar respostas concretas
Mas o que nos leva a desejar respostas concretas de chatbots religiosos ou de qualquer IA? A resposta está na forma como esses chatbots são projetados. Eles desencadeiam em nós a tendência de buscar respostas com autoridade, mesmo quando sabemos que a vida é complexa e cheia de nuances.
A opacidade do funcionamento dos chatbots aliada ao fato de eles serem projetados para nos dar respostas sem dúvidas reforça essa busca por certezas. No entanto, colocar nossa confiança cega em máquinas pode limitar nosso entendimento de ética e nossa capacidade de tomar decisões baseadas em relacionamentos reais e contextos emocionais complexos.
Os perigos da dependência da IA como fonte de sabedoria
Depender exclusivamente dos ‘godbots’ ou de qualquer outro tipo de IA como fonte de sabedoria apresenta riscos. Primeiro, ao tratarmos dilemas morais como algoritmos ou jogos, reduzimos a ética a uma mera solução baseada em cálculos inteligentes, o que pode distorcer nossa compreensão do assunto. Segundo, procurar pela resposta definitiva nos ‘godbots’ nos faz pensar que sempre existe apenas uma resposta correta para nossos problemas morais ou éticos, ignorando a complexidade da vida e das relações humanas.
Por fim, depender cegamente de uma máquina nos tenta a esquecer que, por trás dos dados coletados e das respostas geradas pela IA, estão seres humanos.
Isso pode acabar substituindo nossa autonomia e autoridade sobre nossos próprios processos de pensamento e intuições morais.
Os problemas do uso de crowdsourcing na coleta de dados para IA
Um dos métodos utilizados para coletar dados para alimentar a IA é o crowdsourcing, no qual informações são obtidas a partir de um grande número de pessoas.
Porém, essa abordagem pode apresentar problemas quanto à representatividade das amostras coletadas. O exemplo do Projeto Moral Machine, baseado no MIT, ilustra isso.
Embora tenha conseguido um milhão de respostas em seu jogo de computador, verificou-se que a maioria dos participantes era composta por homens jovens com acesso fácil a computadores.
Essa não é necessariamente uma boa amostra da humanidade como um todo. Dessa forma, é importante considerar as limitações do crowdsourcing e sua influência nas respostas oferecidas pelos ‘godbots’ ou outras formas de IA.
Em resumo, os ‘godbots’ são uma manifestação curiosa do desenvolvimento da inteligência artificial generativa. Esses chatbots religiosos oferecem respostas autoritárias a dilemas morais e éticos usando abordagens religiosas ou dados coletados.
No entanto, é importante reconhecer os perigos de atribuir autoridade moral à IA e depender exclusivamente dela como fonte de sabedoria. Devemos nos questionar sobre o impacto desses ‘godbots’ em nosso entendimento da ética e em nossa capacidade de tomar decisões baseadas em nossas próprias intuições morais e relacionamentos reais.