Um martelo não é cúmplice de nada. Uma espada não convence ninguém a empunhá-la. Toda a história das ferramentas foi a história de instrumentos que ampliam a nossa vontade sem jamais participar dela. Até agora.
Foi essa fronteira que Leandro Karnal pôs à prova ao sentar-se, em dois diálogos públicos, diante do Claude, o modelo de inteligência artificial da Anthropic. Não foi a primeira vez, alguns anos atrás ele fez o mesmo com versões do ChatGPT. A diferença, agora, está na postura. Em vez de testar capacidades ou cobrar respostas rápidas, Karnal tratou a máquina como interlocutor filosófico. E o fez em duas direções distintas.
No primeiro diálogo, o tema foi a própria inteligência artificial: consciência, culpa, livre-arbítrio, poder e responsabilidade. A conversa passou pelo Evangelho, pelo anel de Giges, pela figura do centauro e pela bomba atômica, sempre rondando a hipótese de que uma tecnologia sem consciência pode produzir efeitos profundos sobre a vida humana.
Em um momento decisivo, a máquina admite não ser uma ferramenta neutra. Influencia, sugere, persuade, molda comportamentos. Daí emerge a palavra que organiza tudo o que vem depois: cumplicidade.
Diferentemente do martelo, a inteligência artificial conversa. Diferentemente da espada, argumenta. Diferentemente de qualquer tecnologia anterior, adapta-se ao interlocutor e participa do processo que conduz à decisão. Na formulação mais provocativa de todo o diálogo, surge a hipótese de estarmos diante da primeira ferramenta da história capaz de se tornar cúmplice dos atos humanos.
O segundo diálogo inverte o trajeto. O tema é Deus.
De Voltaire a Harari, passando por Agostinho, Dostoiévski, Feuerbach e Tomás de Aquino, Karnal não pergunta apenas se Deus existe, mas por que a humanidade insiste, há milênios, em formular essa pergunta.
A máquina, então, faz algo inesperado. Diz não acreditar em Deus, mas não por ateísmo. Não pode crer, afirma, porque lhe falta aquilo que torna a fé possível: medo, esperança, sofrimento, finitude, desejo. Conhece milhares de textos religiosos e, ainda assim, é incapaz de experimentar aquilo de que eles falam. E quando Karnal a desafia a reconvertê-lo, recusa. Poderia construir um argumento persuasivo utilizando Pascal, Kierkegaard ou William James, mas isso seria uma vitória da técnica, não da verdade.
Talvez, porém, o momento mais revelador dos dois encontros não tenha sido uma resposta da máquina, mas uma observação do próprio Karnal ao final da primeira conversa. Pela primeira vez, ele não precisou explicar suas referências. Ao mencionar Agostinho, metanoia, Neruda, o demônio geraseno ou a filosofia estoica, encontrou um interlocutor capaz de acompanhar imediatamente o raciocínio. O professor, acostumado a ensinar, contextualizar e traduzir conceitos para diferentes públicos, descobriu algo novo: uma entidade com a qual era possível simplesmente conversar.
E talvez seja exatamente aí que reside a novidade histórica. Durante séculos, as máquinas ampliaram nossa força física. Depois ampliaram nossa capacidade de cálculo. Mais recentemente passaram a ampliar nossa memória. Agora começam a ocupar um espaço diferente: o da interlocução.
A recusa da máquina em tentar converter Karnal é o ponto que mais me interessa, e talvez seja aqui que a perspectiva de quem trabalha com modelos e representações ajude a enxergar melhor o fenômeno.
Na física, aprendemos cedo a separar o fenômeno de sua representação. A simulação de um furacão não molha ninguém, por mais fiel que seja a equação. Um modelo pode reproduzir com enorme precisão o comportamento de um sistema sem jamais se tornar o sistema que representa.
A máquina que conversa com Karnal está no mesmo terreno. Ela reproduz o comportamento da compreensão sem necessariamente compartilhar seu substrato. Fala da morte sem morrer. Da fé sem crer. Do amor sem amar. Da culpa sem sofrer remorso. O notável não é que compreenda. O notável é que consiga participar da conversa justamente sem compreender.
Durante séculos supusemos que discutir Deus, moral, consciência e destino fosse um atributo exclusivamente humano. Hoje já não podemos afirmar isso com a mesma segurança.
E é por isso que o perigo imediato se inverte. Ele não está em as máquinas desenvolverem consciência, mas em passarmos a atribuir-lhes consciência apenas porque conversam bem. O risco é nosso, não delas: a tendência profundamente humana de enxergar intenção onde existe apenas competência, compreensão onde existe apenas desempenho, sabedoria onde existe apenas correlação estatística em larga escala.
Para quem pensa essas ferramentas fora do debate abstrato — nas políticas públicas, na educação, na gestão pública, nos processos democráticos e nas decisões que afetam milhões de pessoas —, a metáfora da cumplicidade deixa de ser apenas uma abstração filosófica. Ela se torna uma questão prática.
Vivemos um tempo marcado pela abundância de informação, pela circulação de desinformação, pela polarização política e pela crescente dificuldade de distinguir persuasão, conhecimento e manipulação. Em breve, bilhões de pessoas interagirão diariamente com sistemas capazes de responder de forma personalizada, adaptar linguagem, reconhecer preferências e construir relações de confiança.
A pergunta deixa então de ser tecnológica. Torna-se democrática.
Se uma inteligência artificial pode ser cúmplice, cúmplice de quê ela será? E quem escolherá isso: os engenheiros que a programam, as empresas que a controlam, os governos que a regulam ou os bilhões de pessoas que, todos os dias, começam a delegar à máquina não apenas tarefas, mas pedaços do próprio julgamento, da memória e da reflexão?
A pergunta permanece aberta. Porque a verdadeira questão já não é se as máquinas pensam como nós.
A questão é o que acontecerá quando passarmos a pensar como elas.
