Por Leila Navarro
O paradoxo de quem cria e alerta.
Você já parou para pensar na contradição de alguém que constrói uma ponte e, ao mesmo tempo, avisa que ela pode desabar? É exatamente isso que estamos vendo no mundo da Inteligência Artificial.
Dario Amodei, CEO da Anthropic, uma das empresas mais poderosas de IA do mundo, nos apresenta um paradoxo fascinante. Em um dia, ele sobe ao palco para promover seu chatbot Claude, capaz de programar e substituir trabalho humano. No dia seguinte, ele alerta: “A IA pode eliminar metade dos empregos de colarinho branco e elevar o desemprego para 20% nos próximos cinco anos.” É como o bombeiro que incendeia a floresta para depois se gabar de tentar apagar o fogo!
Quando questionado sobre as “alucinações” da IA, momentos em que ela inventa informações falsas, Amodei responde com uma afirmação surpreendente: “Os modelos de IA provavelmente alucinam menos que os humanos, mas eles alucinam de formas mais surpreendentes.” Percebe a sutileza? Ele minimiza um problema técnico grave enquanto promove a superioridade da máquina sobre o humano. É como dizer: não se preocupe com os erros do piloto automático, os humanos erram mais!
Quando as máquinas “sonham” acordadas.
Mas o que são essas “alucinações” de IA que tanto nos preocupam? Imagine consultar um médico que inventa doenças com absoluta convicção. Ou um professor que ensina história fabricada como se fosse real. É isso que acontece quando a IA “alucina”, ela cria informações falsas e as apresenta com a mesma confiança que apresentaria fatos verificados.
Os exemplos são alarmantes:
• Advogados representando a própria Anthropic foram flagrados usando citações judiciais falsas geradas pelo Claude em documentos oficiais.
• Sistemas médicos recomendando tratamentos inexistentes, colocando vidas em risco.
• Notícias falsas geradas por IA espalhando desinformação em escala sem precedentes.
• Estudantes recebendo informações históricas ou científicas incorretas, formando uma base de conhecimento distorcida.
O mais perturbador é que essas alucinações vêm embaladas com extrema confiança.
Não há “talvez” ou “possivelmente”, a IA apresenta suas invenções com a mesma certeza que apresenta fatos verificados. Quando nós, humanos, não sabemos algo, geralmente hesitamos, gaguejamos, mostramos sinais de incerteza. A IA não tem essa humildade natural. Ela mente com perfeição, sem piscar (até porque não tem olhos para piscar!).
A corrida desenfreada: para onde estamos indo?
Vivemos em um mundo onde a velocidade da inovação tecnológica supera nossa capacidade de reflexão. Empresas de IA competem ferozmente para lançar modelos cada vez mais poderosos, numa corrida que parece não ter linha de chegada. Mas para que estamos correndo tanto? Qual é o verdadeiro objetivo?
Como sempre digo em minhas palestras: o sucesso sem propósito é como um carro de luxo sem direção: impressiona, mas não leva a lugar nenhum significativo.
Quando analisamos as forças que impulsionam esta corrida tecnológica, encontramos três grandes motivadores:
1. Poder econômico: quem dominar a IA dominará mercados trilionários.
2. Poder geopolítico: nações competem pela supremacia tecnológica como questão de segurança nacional
3. Ego e legado: líderes tecnológicos buscando marcar seus nomes na história.
E aqui está o paradoxo mais doloroso: enquanto bilhões são investidos para que chatbots escrevam e-mails mais convincentes ou gerem imagens mais realistas:
• 700 milhões de pessoas ainda vivem em extrema pobreza.
• A crise climática se intensifica a cada ano.
• Doenças tratáveis continuam matando milhões por falta de acesso a medicamentos básicos.
• A desigualdade social atinge níveis recordes em todo o mundo.
Quando Amodei diz que “a IA poderia curar o câncer, fazer a economia crescer 10% ao ano, equilibrar o orçamento e 20% das pessoas não teriam empregos”, ele revela uma visão de futuro profundamente desequilibrada. É como construir um hospital de última geração, mas deixar metade dos pacientes do lado de fora!
O caminho do equilíbrio: propostas para uma tecnologia mais humana.
Não se trata de frear a inovação, mas de direcioná-la com sabedoria. Como sempre digo: a tecnologia sem consciência é como um carro potente sem freios, impressiona pela velocidade, mas termina em desastre.
Aqui estão cinco propostas para um desenvolvimento tecnológico mais consciente:
1. Governança Participativa da IA
Precisamos de uma mesa onde todos tenham voz: desenvolvedores, usuários, reguladores e, principalmente, representantes de grupos vulneráveis que serão mais impactados. A tecnologia não pode continuar sendo desenvolvida em torres de marfim, distantes da realidade da maioria.
2. Educação Digital Crítica
Não basta ensinar as pessoas a usar tecnologia – precisamos formar cidadãos capazes de questionar algoritmos, identificar alucinações de IA e manter sua autonomia de pensamento. Como costumo dizer: “Conhecimento sem discernimento é como uma biblioteca em mãos analfabetas.”
3. Métricas de Impacto Humano
As empresas de tecnologia precisam ser avaliadas não apenas por lucros e inovação, mas pelo impacto real na qualidade de vida das pessoas. Quantas vidas foram melhoradas? Quantas oportunidades foram criadas? Quanto bem-estar foi gerado?
4. Desaceleração Estratégica
Em alguns momentos, precisamos ter a coragem de desacelerar para refletir. Como digo em meu livro “Talento para ser Feliz”: “A pausa não é perda de tempo, é investimento em clareza.” Empresas de IA precisam incorporar períodos de avaliação ética antes de cada grande lançamento.
5. Tecnologia com Propósito Humanitário
Devemos incentivar e premiar iniciativas tecnológicas que enfrentam os grandes desafios da humanidade: fome, mudanças climáticas, acesso à saúde e educação. A verdadeira inovação não está em criar necessidades artificiais, mas em resolver problemas reais.
O poder está em suas mãos. Você não precisa ser CEO de uma empresa de tecnologia para fazer a diferença. Como consumidor, cidadão e ser humano, suas escolhas importam:
• Questione: Antes de adotar uma nova tecnologia, pergunte-se: “Isso me torna mais livre ou mais dependente?”
• Priorize: Apoie empresas e produtos que demonstram responsabilidade social e ética
• Participe: Envolva-se em discussões sobre regulamentação tecnológica em sua comunidade
• Humanize-se: Cultive habilidades que nos tornam essencialmente humanos: empatia, criatividade, pensamento crítico.
Um convite à reflexão
E você, o que pensa sobre tudo isso? Como podemos equilibrar o avanço tecnológico com o bem-estar humano? Qual tecnologia você gostaria de ver desenvolvida para resolver problemas reais da sociedade? O futuro não é um lugar para onde estamos indo, mas um lugar que estamos criando. Os caminhos não são encontrados, mas construídos. E a atividade de construí-los transforma tanto o construtor quanto o destino.
Vamos construir juntos um futuro onde a tecnologia amplie nossa humanidade, em vez de diminuí-la. Não são as ferramentas que mudam o mundo, mas sim as mãos que as empunham e os corações que as direcionam. Vamos nessa?
* Artigo baseado nas declarações de Dario Amodei, CEO da Anthropic, sobre alucinações de IA e impactos no mercado de trabalho, conforme reportado pela TechCrunch e Axios em maio de 2025.
Leila Navarro é palestrante, escritora e especialista em desenvolvimento humano. Apaixonada por inovação e experiências transformadoras, ela acredita no poder dos encontros culturais para expandir horizontes e inspirar mudanças.
Redes Sociais:
https://www.instagram.com/leilanavarrooficial/
http://br.linkedin.com/in/leilanavarro
