Numa entrevista à CNBC na terça-feira, Arthur Mensch, CEO da Mistral AI, afirmou que o debate que se tem assistido nos EUA sobre IA “tem servido de cobertura para a negligência de alguns dos nossos concorrentes”.
Mensch afirmou que os sistemas de inteligência artificial podem fazer coisas que não são expectáveis, pelo que as empresas precisam de ter “a monitorização adequada” em funcionamento. Acrescentou que a Mistral fornece esses sistemas de monitorização às empresas com as quais trabalha.
O CEO da Mistral considerou importante estabelecer os “padrões adequados”, mas acrescentou que a Europa precisa de “ter uma palavra a dizer sobre a forma como as coisas estão a ser definidas”.
Mensch afirmou depois que, se a Europa quiser ter influência sobre a forma como a IA é regulamentada, precisa de ser capaz de produzir a tecnologia e demonstrar que não fica vulnerável caso as empresas norte-americanas deixem de disponibilizar as suas tecnologias.
A avaliação da Forbes
Segundo estimativas da Forbes, Arthur Mensch tem uma fortuna avaliada em $1,8 mil milhões (€1,53 mil milhões). No início deste mês, a Mistral anunciou ter angariado €3 mil milhões ($3,4 mil milhões) naquela que foi a maior ronda de financiamento de sempre na Europa para uma empresa tecnológica. A operação foi liderada por um grupo de investidores liderado pela Samsung.
A mais recente ronda elevou a avaliação da Mistral AI para €21 mil milhões ($23,8 mil milhões), um valor que continua significativamente abaixo das avaliações estimadas em mais de um bilião de dólares da Anthropic e da OpenAI.
Ao contrário das duas gigantes norte-americanas de inteligência artificial, os principais modelos de IA da Mistral são de código aberto.
O contexto
Depois dos alertas lançados por investigadores de inteligência artificial no início deste mês, os CEOs da Anthropic e da OpenAI defenderam um abrandamento no desenvolvimento dos modelos de IA de fronteira até que estejam implementados melhores sistemas de segurança e medidas de alinhamento.
A posição das duas empresas, contudo, tem enfrentado forte oposição por parte de outros executivos de topo da tecnologia, como Mark Zuckerberg, CEO da Meta.
Zuckerberg argumentou que as empresas de inteligência artificial precisam de garantir a segurança dos seus modelos para evitar uma “responsabilidade significativa”. O multimilionário afirmou que as pessoas não vão utilizar agentes de IA que estejam “desalinhados com elas e… não façam aquilo que lhes pedem”, o que cria, segundo o CEO da Meta, um “forte incentivo natural” para que as empresas garantam o alinhamento dos seus sistemas.
Jensen Huang, CEO da Nvidia, também rejeitou os apelos a um abrandamento coordenado do desenvolvimento da IA. Huang afirmou que a escolha entre segurança e velocidade era uma “falsa” dicotomia e que “é perfeitamente possível ter as duas coisas ao mesmo tempo”.
David Sacks, que anteriormente foi Conselheiro Especial do Presidente Donald Trump para a IA e criptomoedas, criticou igualmente Anthropic e OpenAI devido ao apelo a um abrandamento: “Parem de fingir que a motivação para abrandar é puramente altruísta”, afirmou. Sacks afirmou ainda que o apelo a um abrandamento e a novas regras de segurança constituía uma tentativa de obter “captura regulatória” (regulatory capture).
A reviravolta
Na segunda-feira, a OpenAI cancelou o lançamento do seu mais recente modelo, o GPT-6.1 Astra, depois de terem sido identificadas preocupações de segurança durante os testes internos.
O responsável pela segurança da empresa disse ao Wall Street Journal que a OpenAI concluiu que o GPT-6.1 apresentava um desempenho fraco nos testes de alinhamento, demonstrando mais comportamentos de engano do que o modelo anterior e não divulgando corretamente ao utilizador as ações que tinha realizado.
O novo modelo também avançaria com determinadas tarefas sem pedir autorização ao utilizador, o que poderia levá-lo a aceder a sistemas e ferramentas externos mesmo quando estes não fossem seguros.
Texto original aqui. Artigo traduzido e editado por Paulo Marmé.
