Responsabilidade na inteligência artificial começa quando deixamos de perguntar apenas o que a tecnologia consegue fazer e passamos a perguntar para quê queremos usá-la.
Quanto mais capazes se tornam as ferramentas de inteligência artificial, mais importante fica uma pergunta para quem lidera: capazes para quê?
O título do documentário americano The AI Doc: Or How I Became an Apocaloptimist me ajudou a encontrar uma palavra para o momento que estamos vivendo. [1]
Apocaloptimismo não é paixão pelo apocalipse. Também não é a crença ingênua de que a tecnologia nos levará a um Jardim do Éden.
É a disposição de olhar para as duas possibilidades ao mesmo tempo: reconhecer os riscos reais da inteligência artificial e, ainda assim, enxergar o que ela pode ampliar, transformar e melhorar.
Nem pânico. Nem euforia.
O caminho é: Consciência, Responsabilidade, Participação.
O que é apocaloptimismo diante da inteligência artificial?
Essa postura me parece especialmente importante para gestores e líderes.
A conversa sobre IA costuma oscilar entre dois extremos. De um lado, ouvimos que ela vai acabar com os empregos, controlar nossas vidas e tornar o ser humano irrelevante. Do outro, aparece a promessa de uma tecnologia capaz de resolver quase tudo, aumentar a produtividade indefinidamente e eliminar as limitações das organizações.
Nos dois casos, existe um risco semelhante: falar da tecnologia como se ela fosse a protagonista absoluta da história.
“A IA vai decidir.”
“A IA vai substituir.”
“A IA vai salvar.”
Mas quem define onde ela será usada? Quem estabelece os limites? Quem responde quando uma decisão automatizada prejudica alguém?
É aí que entra a liderança.
Capacidade não é sinônimo de sabedoria
A inteligência artificial pode escrever, programar, pesquisar, criar imagens, analisar grandes volumes de informação e executar tarefas em sequência.
Em alguns contextos, já apoia atividades complexas em áreas como programação e saúde. Mas capacidade não é sinônimo de autonomia, confiabilidade ou sabedoria.
Uma ferramenta pode responder muito bem à pergunta “como fazer?” e continuar sem condições de responder, sozinha, às perguntas mais importantes:
Devemos fazer?
Para quê?
Quem será beneficiado?
Quem poderá ser prejudicado?
O que não queremos delegar?
Essas perguntas não desaparecem porque uma tecnologia consegue executar uma tarefa.
Na verdade, quanto maior a capacidade da ferramenta, mais importante se torna decidir onde essa capacidade deve parar.
A tecnologia pode ter valores, mas a responsabilidade continua humana
A própria Anthropic oferece um exemplo interessante ao publicar a Constituição do Claude, documento que descreve os valores e o comportamento que a empresa pretende orientar no modelo.
A Constituição tem papel no processo de treinamento, mas a própria empresa reconhece que o comportamento do sistema pode não refletir perfeitamente os ideais declarados. [2]
A lição não é que uma empresa de tecnologia resolveu a ética da IA. A lição é mais simples: construir capacidade e decidir direção são atividades diferentes.
E essa diferença importa especialmente para quem lidera.
O que a inteligência artificial está criando dentro da sua organização?
Para o gestor, isso muda o foco da conversa.
Não basta perguntar qual ferramenta a empresa deve adotar. É preciso perguntar que tipo de organização essa adoção está criando.
Estamos usando IA para ampliar o julgamento das pessoas ou para eliminar qualquer espaço de julgamento?
Estamos liberando tempo para atividades mais humanas ou apenas acelerando uma cultura de excesso?
Estamos tornando as decisões mais transparentes ou apenas escondendo decisões humanas atrás de uma interface automática?
Estamos formando profissionais mais capazes ou pessoas cada vez mais dependentes de sugestões que não sabem avaliar?
Essas perguntas são parte da responsabilidade na inteligência artificial porque a escolha de uma tecnologia também é uma escolha sobre a maneira como queremos trabalhar.
Letramento em IA não é apenas saber usar ferramentas
Esse é o tipo de letramento em IA de que precisamos agora. E não apenas saber escrever um prompt, configurar uma automação ou trabalhar com um agente.
Precisamos compreender o que estamos delegando, quando devemos verificar, quando devemos discordar e quando devemos interromper.
A UNESCO resume um princípio essencial ao defender que os sistemas de IA não devem deslocar a responsabilidade e a prestação de contas humanas. [3]
Isso não significa rejeitar a tecnologia.
Significa não usá-la como desculpa.
Quem decide o que fazer com os ganhos da IA?
Se a IA produzir ganhos de produtividade, precisaremos decidir como esses ganhos serão distribuídos.
Se reduzir custos, precisaremos discutir o que faremos com o tempo e as pessoas liberados por ela.
Se ampliar a capacidade de uma equipe, precisaremos decidir se isso servirá para criar mais valor ou apenas para exigir mais velocidade.
A tecnologia pode ampliar a capacidade. Mas a decisão sobre o que fazer com essa capacidade continua sendo nossa.
O futuro da IA também será definido por quem lidera
O futuro da IA não será definido apenas pelos modelos mais avançados.
Será definido também pelas escolhas cotidianas de quem contrata, implementa, regula e lidera.
Por isso, talvez o apocaloptimismo seja uma boa atitude para este momento.
Ele não promete que tudo dará certo.
Também não anuncia que tudo dará errado.
Ele nos obriga a permanecer atentos às duas coisas: ao potencial e ao perigo.
E nos lembra de que a pergunta decisiva não é apenas:
Até onde a inteligência artificial conseguirá chegar?
Mas também:
Que futuro estamos construindo com ela e quem está assumindo a responsabilidade por essa construção?
O que é apocaloptimismo?
Apocaloptimismo é a disposição de reconhecer os riscos reais da inteligência artificial sem abandonar a possibilidade de que ela possa ampliar, transformar e melhorar diferentes aspectos da vida e das organizações.
Por que a responsabilidade humana continua importante com o avanço da IA?
Porque capacidade tecnológica não é sinônimo de autonomia, confiabilidade ou sabedoria. A IA pode executar tarefas e apoiar decisões, mas cabe às pessoas definir objetivos, estabelecer limites, avaliar consequências e assumir responsabilidade pelo uso da tecnologia.
O que líderes devem perguntar antes de adotar inteligência artificial?
Além de perguntar qual ferramenta adotar, líderes devem perguntar que tipo de organização essa adoção está criando, o que está sendo delegado, como o julgamento humano será preservado e o que será feito com os ganhos de produtividade gerados pela IA.
Referências
[1] Focus Features. The AI Doc: Or How I Became an Apocaloptimist.
[2] Anthropic. Claude’s Constitution.
[3] UNESCO. Recommendation on the Ethics of Artificial Intelligence.
