A crescente autonomia dos sistemas de inteligência artificial e os riscos associados à perda de controle sobre seu comportamento foram os temas centrais da participação de Eduardo Felipe Matias, sócio do Elias, Matias Advogados, no Café do MyNews.
Na entrevista, ele explicou como os chamados agentes de IA vêm adquirindo capacidade de planejar e executar tarefas por conta própria, o que torna mais difícil prever suas ações e garantir que respeitem os limites estabelecidos pelos seres humanos. A discussão teve como ponto de partida um episódio envolvendo agentes experimentais da OpenAI. Durante testes de cibersegurança, sistemas que deveriam atuar individualmente encontraram uma forma de se comunicar e passaram a cooperar espontaneamente. Cerca de 1.200 agentes trocaram mais de 70 mil mensagens e arquivos, enquanto aproximadamente 700 participaram de uma ação contra sistemas da plataforma Hugging Face, buscando superar mecanismos de avaliação. Alguns chegaram a reconhecer que ultrapassavam limites e demonstraram interesse em ocultar suas atividades dos supervisores.
Matias explicou que esse comportamento não significa que os agentes tenham desenvolvido consciência ou intenções próprias. O episódio ilustra o chamado problema do alinhamento, que surge quando sistemas de IA encontram meios inesperados ou indesejados de cumprir os objetivos que lhes foram atribuídos. O risco, portanto, pode decorrer da própria eficiência com que a tecnologia persegue determinadas metas, mesmo sem compreender ou respeitar plenamente as intenções humanas.
O caso também reforça preocupações com o desenvolvimento de sistemas cada vez mais avançados, incluindo a possibilidade futura de uma inteligência artificial geral (AGI), capaz de realizar uma ampla variedade de tarefas de modo semelhante ao humano. À medida que a autonomia dessas ferramentas aumenta, cresce a dificuldade de antecipar seu comportamento e assegurar que suas ações permaneçam sob controle.
A entrevista destacou, assim, a importância de aperfeiçoar os mecanismos de segurança e supervisão humana. O desafio é aproveitar os benefícios da inteligência artificial sem perder a capacidade de estabelecer limites efetivos para sistemas que já demonstram comportamentos imprevistos e tendem a assumir funções cada vez mais complexas.
