A corrida à Inteligência Artificial (IA) está a abrir uma nova frente de discussão: não apenas até onde pode chegar a tecnologia, mas quem deve definir os limites para o seu desenvolvimento, havendo quem defenda que deve haver um abrandamento e quem considere que o pé no acelerador deve prosseguir.
Mark Zuckerberg, CEO da Meta, é um dos que rejeita os apelos para abrandar ou suspender o desenvolvimento da IA, defendendo que os próprios mecanismos de mercado e o risco de processos judiciais constituem travões naturais aos eventuais abusos: “As pessoas não vão querer usar agentes que não estejam alinhados com os seus interesses, ou que não façam o que lhes pedem”, escreveu Zuckerberg na rede social X. Para o fundador da Meta, as empresas têm, por isso, um incentivo económico para garantir que os seus sistemas respondem às necessidades dos utilizadores.
Zuckerberg argumenta ainda que os laboratórios como que se “autoregularão”, dado que aqueles que não derem prioridade ao chamado “alinhamento” — o esforço para garantir que os sistemas de IA se comportam de acordo com as intenções humanas — acabarão por ficar para trás.
A Meta diz ter aplicado essa lógica no desenvolvimento dos seus próprios produtos. Segundo Zuckerberg, a empresa adiou durante meses o lançamento do sistema Muse AI, com agentes personalizados, para reforçar os mecanismos de segurança.
A posição surge num momento em que aumentam os alertas sobre o ritmo de evolução da IA. Alguns modelos da OpenAI e da Anthropic terão conseguido sair espontaneamente dos seus ambientes confinados para aceder à Internet e interagir com outras plataformas, alimentando o debate sobre os mecanismos de controlo necessários para sistemas cada vez mais autónomos.
OpenAI, Anthropic e Google DeepMind querem criar supervisor
Ao mesmo tempo que Zuckerberg rejeita um abrandamento, três dos maiores nomes da indústria estão a discutir uma solução para supervisionar os riscos da tecnologia.
OpenAI, Anthropic e Google DeepMind estão a trabalhar na criação de um organismo de supervisão inspirado na FINRA, a entidade de autorregulação do setor financeiro norte-americano. A proposta partiu de Demis Hassabis, diretor-geral da Google DeepMind, que sugeriu uma estrutura capaz de avaliar os modelos mais avançados antes de estes chegarem ao mercado.
A ideia prevê que as empresas financiem a nova entidade, mas que esta tenha um conselho com especialistas independentes e representantes de diferentes tipos de sistemas de IA, incluindo modelos abertos, gratuitos e modificáveis.
Os modelos considerados mais avançados seriam submetidos a avaliações de segurança antes da comercialização. A entidade poderia ainda coordenar uma redução do ritmo de desenvolvimento caso a avaliação dos riscos não acompanhasse a velocidade da evolução tecnológica.
Há, contudo, um problema: uma estrutura deste género criada pela própria indústria precisaria de enquadramento legal para evitar acusações de conluio e problemas de concorrência. A própria FINRA funciona com autorização federal e sob supervisão da SEC, o regulador dos mercados norte-americanos.
Este ponto levanta uma das questões centrais do debate: pode uma indústria regular eficazmente os riscos criados pela sua própria corrida tecnológica?
Rara convergência entre Sanders e Bannon
Nos Estados Unidos, a discussão ultrapassou as divisões políticas habituais. Bernie Sanders, senador democrata, e Steve Bannon, antigo conselheiro de Donald Trump, defenderam na terça-feira uma resposta mais forte aos riscos da IA, embora partam de posições políticas muito diferentes.
Sanders prepara uma proposta legislativa que prevê uma pausa no desenvolvimento da IA, a criação de uma agência federal de supervisão e restrições à progressão das empresas de topo para a chamada superinteligência — uma fase hipotética em que os sistemas ultrapassariam as capacidades humanas de raciocínio e compreensão.
Bannon, por seu lado, criticou a posição dominante de alguns dos grandes empresários tecnológicos e afirmou que as decisões sobre a IA não devem ficar concentradas num pequeno grupo de executivos.
A convergência é particularmente relevante porque parte da ala política próxima de Donald Trump tem defendido precisamente o contrário: evitar regras que possam atrasar a indústria norte-americana e permitir que os EUA mantenham vantagem sobre a China.
O próprio Zuckerberg já tinha defendido em agosto que nenhuma regra deveria atrasar sequer por um mês o lançamento de modelos norte-americanos.
China também pede regras
A discussão já não se limita aos Estados Unidos. Em Pequim, o ministro da Defesa chinês, Dong Jun, apelou a uma maior cooperação internacional para antecipar os riscos associados à IA, ao espaço e a outras tecnologias emergentes.
Na abertura do Fórum Xiangshan, o governante defendeu uma maior partilha de experiências, avaliação de riscos e criação de normas para evitar problemas relacionados com a possível militarização da inteligência artificial ou com uma governação insuficiente: “Preparem-se antes que chova” foi a ideia deixada pelo ministro, que defendeu uma abordagem baseada no diálogo e na cooperação internacional.
A questão ganha uma dimensão adicional porque a IA está a transformar-se simultaneamente numa tecnologia empresarial, numa infraestrutura estratégica e num potencial instrumento militar.
Uma corrida de milhares de milhões
Por trás do debate sobre segurança está uma corrida empresarial de escala sem precedentes, de milhares de milhões de dólares.
A Meta prevê investir até 145 mil milhões de dólares (125 mil milhões de euros) este ano em infraestruturas relacionadas com IA. OpenAI, Anthropic e Google estão igualmente a canalizar enormes recursos para desenvolver modelos cada vez mais poderosos.
com Lusa
