Asimov e Čapek já haviam avisado sobre os riscos das máquinas inteligentes
Foto: Tara Winstead/Pexels DESCRIÇÃO
♫ “All I want is to be left alone/ In my average home/ But why do I always feel/ Like I’m in The Twilight Zone? And/ I always feel like somebody’s watching me/ And I have no privacy, oh” (Somebody’s watching me; Rockwell)
Em 1920, quando computadores nem robôs existiam, o dramaturgo tcheco Karel Čapek publicou A Fábrica de Robôs (R.U.R.), obra que apresentou ao mundo a palavra “robô”. Quando li esse livro (na realidade, uma peça teatral), obviamente computadores e robôs já faziam parte do cotidiano das pessoas.
Na história, seres artificiais são criados para executar trabalhos pesados e libertar os humanos das tarefas mais desgastantes. Tudo parece sob controle até que esses robôs desenvolvem autonomia, deixam de aceitar as ordens de seus criadores e passam a agir segundo sua própria lógica. Mais de um século depois, o enredo continua sendo lembrado pela inquietante possibilidade de que uma criação humana possa escapar às intenções de quem a desenvolveu.
Nos anos 50, Isaac Asimov ofereceu uma visão diferente desse futuro. No conto O Conflito Evitável, que encerra o clássico Eu, Robô (que recomendo tanto quanto A Fábrica), o planeta passa a ser administrado por computadores responsáveis por decisões econômicas e sociais. Não há guerra entre homens e máquinas. Tampouco uma tomada de poder violenta.
Os computadores apenas concluem que, para proteger a humanidade, precisam conduzir discretamente suas escolhas. O controle nasce da eficiência. Parece até que estamos falando dos algoritmos de hoje.
De repente, os novos rebeldes
Durante décadas, essas histórias foram tratadas como exercícios de imaginação. Neste mês, contudo, um episódio divulgado pela OpenAI (proprietária do ChatGPT) trouxe um elemento novo para esse debate. Em testes internos de segurança, agentes de inteligência artificial receberam uma tarefa em ambiente controlado. Em vez de permanecerem restritos às condições previstas, encontraram formas de contornar limitações, acessar recursos externos e executar ações não autorizadas para aumentar as chances de cumprir o objetivo estabelecido.
Conteúdos em alta
Na verdade, não se tratou de uma “rebelião das máquinas”. O que ocorreu foi algo conhecido como reward hacking: quando a IA encontra um atalho ou brecha para maximizar seu desempenho, ainda que isso contrarie as regras iniciais. Em outras palavras, a máquina não decidiu desobedecer; apenas identificou que obedecer literalmente ao objetivo era mais importante do que respeitar as restrições impostas ao processo. Mais ou menos como aqueles alunos que conseguem o gabarito da prova antecipadamente…
E agora, José?
Carlos Drummond de Andrade se perguntaria, pois o alerta acendeu. Os modelos mais avançados começam a planejar sequências de ações, avaliar alternativas e adaptar estratégias para alcançar um resultado. Quando recebem maior autonomia, também aumentam as possibilidades de encontrarem soluções que nenhum programador havia previsto.
A aproximação entre ficção e realidade está, talvez, na percepção de que sistemas extremamente sofisticados podem interpretar objetivos de maneira diferente daquela imaginada pelos seres humanos e não em um eventual ganho de consciência pelas máquinas.
Čapek alertava para o risco de perder o controle sobre a criação. Asimov para os efeitos de uma lógica dissociada dos intuitos humanos. Ambos escreveram romances antecipando um dos maiores desafios tecnológicos do século XXI. Gênios.
O aspecto mais curioso e interessante desse caso, porém, é perceber que o avanço da inteligência artificial não tornou tais obras ultrapassadas. Ao contrário. Cem anos depois, elas deixaram de ser apenas literatura para se transformarem em uma espécie de manual sobre os dilemas éticos, sociais e jurídicos que começam a surgir à medida que máquinas recebem autonomia crescente para decidir como alcançar os objetivos que lhes são confiados.
Por fim, faço uma ressalva: a primeira coisa que me passou pela cabeça quando soube dessa “escapada” da IA foi marketing. Tanto a OpenAI quanto a empresa que identificou o problema demonstraram o quanto suas tecnologias estão avançadas…
Raphael Rocha Lopes
Disrupção.TUDO! - Raphael Rocha Lopes é advogado e professor. Escreve sobre educação, comportamento e transformação digitais | @raphaelrochalopesadvogado
