O apelo surpreendente da necessidade de se abrandar o ritmo de desenvolvimento da inteligência artificial (IA) chega de um dos líderes de uma empresa que faz do seu negócio esta ferramenta, o cofundador e CEO da Anthropic, Dario Amodei. Num extenso texto publicado na sua página pessoal intitulado ‘We Must Pace the Frontier’, o bilionário não hesitou em pedir às empresas de inteligência artificial para abrandarem o ritmo a que desenvolvem as capacidades dos modelos, com o objetivo de terem mais tempo para gerir os riscos que acarretam.
No texto Dario Amodei defende que “temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA. O progresso continuará a parecer rápido e temos de fazer uso sensato do tempo que ganhamos”.
Esta tomada de posição surge depois de um colaborador da Anthropic, Jacob Coxon, ter decidido sair da empresa alegando que esta minimiza o risco existencial que a IA representa para a humanidade. “As pessoas que estão a desenvolver a IA acreditam sinceramente que esta poderá matar-nos a todos até ao final da década”, alegou Jacob Coxon.
Face a estas declarações, Dario Amodei acaba por reconhecer no seu manifesto que a ferramenta de IA avançou “de forma drasticamente mais rápida” nos últimos meses. E refere que esta tecnologia conseguiu se aperfeiçoar a si própria.
O CEO da Anthropic garante que “se não for controlada, poderá ultrapassar a nossa capacidade de compreender e controlar estes sistemas e, por isso, deve ser desenvolvida com muito cuidado, se é que deve ser desenvolvida”.
O gestor deixa mesmo o alerta: “a IA traz riscos e, por se tratar de uma tecnologia tão poderosa, esses riscos são graves”, detalhando que entre eles está o “risco de perder o controlo dos sistemas de IA, a utilização indevida da IA para ciberataques e bioterrorismo, assim como graves perturbações económicas”.
Perante estas ameaças, Dario Amodei defende “um acordo que proíba certas utilizações restritas e manifestamente perigosas da IA, tais como a utilização da IA para a produção de armas biológicas”. E sugere que os governos deveriam mesmo “limitar substancialmente o ritmo global de desenvolvimento da IA”. Dario Amodei assume que “apoio a ideia de propor isto, mas penso que é improvável que venha a acontecer num futuro próximo”.
Para Dario Amodei não desenvolver a ferramenta retira à humanidade os seus benefícios ou pode colocar a IA nas mãos de poderes autoritários, “enquanto desenvolvê-la demasiado depressa é imprudente”. Por isso reconhece que “procurámos um meio-termo: demonstrar que é possível desenvolvê-la com cuidado e ter sucesso comercial, e fazer da segurança um aspeto em que as empresas de IA concorram entre si. Por outras palavras, criar uma corrida até ao topo”.
Nesta ideia de se repensar os avanços da IA o líder da Anthropic não está sozinho. Depois destas declarações, o CEO da OpenAI, Sam Altman e o dono da rede social X, Elon Musk, também eles presentes nos rankings dos bilionários da Forbes, vieram a público manifestar-se a favor desse travão no desenvolvimento da IA. Sam Altman escreveu na sua página na rede social X que “concordo com o Dario”, e acrescentou que este “tem sido um dos principais temas de discussão na OpenAI nas últimas semanas”. Poucas horas depois, Elon Musk reagiu dizendo: “o Dario tem razão”.
