Agência humana na era da IA: quem está decidindo?

Estamos ensinando pessoas a usar Inteligência Artificial. Mas talvez estejamos esquecendo de ensinar algo ainda mais importante: como preservar agência humana na era da IA.

A cada semana surgem ferramentas mais rápidas, agentes mais autônomos e sistemas capazes de pesquisar, escrever, organizar, recomendar, analisar e executar tarefas que antes exigiam horas de trabalho humano.

Isso é extraordinário.

Mas existe uma pergunta que me interessa mais do que saber qual será a próxima ferramenta: o que acontece com a nossa capacidade de pensar, escolher e decidir quando começamos a delegar cada vez mais?

O que é agência humana na era da IA?

É aqui que entra uma expressão que acredito que ouviremos muito nos próximos anos: agência humana.

Agência humana é a nossa capacidade de compreender o contexto, formar julgamento, fazer escolhas conscientes, interferir quando necessário e, principalmente, responder pelas consequências dessas escolhas.

E existe uma diferença enorme entre delegar uma tarefa e delegar nossa agência.

Uma IA pode produzir uma apresentação em minutos. Pode resumir cem páginas antes que terminemos o primeiro café. Pode sugerir candidatos para uma vaga, analisar cenários, redigir uma resposta para um cliente e nos entregar uma recomendação aparentemente impecável.

Mas existe uma pergunta que continua sendo nossa: eu concordo com isso?

E outra, ainda mais importante: por quê?

Quanto mais competente a tecnologia se torna, maior pode ser a tentação de simplesmente aceitar sua resposta.

É aí que mora um dos riscos menos discutidos da IA. Não necessariamente uma máquina que decide dominar o ser humano, mas um ser humano que, pouco a pouco, deixa de exercer aquilo que poderia decidir.

Por comodidade. Por velocidade. Por excesso de confiança. Ou simplesmente porque pensar dá mais trabalho do que apertar Enter.

Treinamento tecnológico não é letramento

Por isso, acredito que estamos confundindo duas coisas: treinamento tecnológico e letramento.

Treinamento ensina a usar uma ferramenta. Letramento ensina a compreender o ambiente em que essa ferramenta atua.

O treinamento pergunta: “Como eu uso?”

O letramento acrescenta: “O que está acontecendo aqui? Como esse sistema chegou a essa resposta? Quais são seus limites? O que estou delegando? E o que não deveria delegar?”

Essa distinção se torna ainda mais importante com a chegada dos agentes de IA.

O agente executa dentro de um escopo. Mas alguém precisa decidir o escopo. Alguém precisa questionar as premissas, perceber consequências, reconhecer quando alguma coisa não parece certa e assumir a assinatura final.

A cultura de agência humana precisa entrar nas organizações

É por isso que acredito que as organizações precisam começar a discutir não apenas adoção de IA, mas cultura de agência humana.

Não basta perguntar quantos profissionais já utilizam IA. Precisamos perguntar quantos conseguem questioná-la, reconhecer seus limites, explicar por que aceitaram determinada recomendação e preservar pensamento crítico, autoria e capacidade de decisão depois que a máquina entrou no processo.

A UNESCO estabelece que sistemas de IA não devem substituir a responsabilidade e a prestação de contas humanas finais. A recomendação também destaca a importância da supervisão humana, da responsabilidade e do letramento em IA.

A OCDE, por sua vez, inclui capacidade de agência e supervisão humanas entre os princípios para uma IA confiável e também destaca transparência, possibilidade de contestar resultados e responsabilização dos atores envolvidos.

Não estamos falando, portanto, de uma preocupação abstrata. A discussão sobre agência, supervisão e responsabilidade humana já faz parte dos principais referenciais internacionais sobre o uso responsável da Inteligência Artificial.

O letramento de que precisamos vai além da tecnologia

E existe uma camada ainda mais profunda.

O ambiente digital não atravessa apenas nosso trabalho. Ele atravessa nossa atenção, percepção, memória, emoções, relações e até nossa sensação de autoria.

Por isso, o letramento de que precisamos não pode ser apenas tecnológico.

Precisamos de letramento digital e de IA, sim. Mas também de letramento da mente, para proteger atenção e profundidade de pensamento. De letramento emocional e sensorial, para percebermos o que sentimos, o que nos captura e o que nos sobrecarrega.

Precisamos de letramento crítico, para não confundir uma resposta fluente com uma resposta verdadeira. De letramento relacional, para compreendermos o que acontece nas relações humano com humano, humano com máquina e humano com máquina com humano.

E de letramento da singularidade, para preservar criatividade, repertório, autoria e diferença.

Usar uma inteligência poderosa sem terceirizar a própria presença

Porque talvez uma das grandes competências deste novo humano seja conseguir usar uma inteligência extraordinariamente poderosa sem terceirizar para ela sua própria presença.

Não se trata de romantizar o humano ou resistir à tecnologia.

É justamente o contrário: é aprender a utilizá-la melhor.

A IA pode ampliar nossa capacidade. Mas ampliar nossa agência continua sendo uma tarefa humana.

E talvez essa seja uma das grandes responsabilidades da liderança nesta década: não formar apenas pessoas capazes de trabalhar com Inteligência Artificial, mas pessoas capazes de continuar pensando, escolhendo, criando e respondendo por suas escolhas na presença dela.

A pergunta que precisamos fazer

Na segunda-feira, quando você abrir a tela e a IA lhe entregar uma resposta pronta, experimente não perguntar apenas: “O que ela pode fazer por mim?”

Pergunte também: “O que eu não quero deixar de fazer por mim mesmo?”

Essa, para mim, é uma das perguntas mais importantes do futuro do trabalho.

É a partir dela que venho desenvolvendo um trabalho sobre letramentos essenciais para a era digital e da IA: uma formação não apenas sobre ferramentas, mas sobre presença, discernimento, vínculo, pensamento crítico e autoria.
Conheça a formação aqui.