A Califórnia está a avançar com um projeto de lei para regular modelos de inteligência artificial (IA) generativa, apesar da oposição de empresas e autoridades norte-americanas, que temem que a regulamentação sufoque esta tecnologia emergente.

A OpenAI, criadora do ChatGPT, manifestou-se contra o texto, garantindo que corre o risco de afastar os inovadores do Estado norte-americano e do seu famoso Silicon Valley, enquanto “a revolução da IA mal está a começar”.

Numa carta enviada ao deputado democrata que patrocinou o projeto de lei, Scott Wiener, a OpenAI acrescentou que uma legislação nacional parece preferível a “uma manta de retalhos de regulamentos”.

O Congresso do Estado californiano, no oeste dos EUA, deverá votar a proposta antes do final do mês e, caso seja aprovada, será a vez do governador, o democrata Gavin Newsom, decidir, noticiou a agência France-Presse (AFP).

Gavin Newsom ainda não tomou uma posição pública, mas o campo democrata não está unido nesta matéria. “Muitos de nós no Congresso acreditamos que o projeto de lei é bem-intencionado, mas mal informado”, vincou Nancy Pelosi, uma das vozes mais influentes do partido, em comunicado. “Queremos que a Califórnia esteja na vanguarda da IA de uma forma que proteja os consumidores, os dados, a propriedade intelectual e muito mais”, frisou ainda.

Apelidada de “Lei de Inovação Segura em Modelos Pioneiros de IA”, a proposta visa evitar que os grandes modelos causem grandes desastres, resultando na morte de um grande número de pessoas ou em consequentes incidentes de cibersegurança.

Scott Wiener, no entanto, suavizou o texto original, seguindo nomeadamente o conselho de um concorrente da OpenAI, a Anthropic, uma ‘start-up’ também sediada em São Francisco.

A versão atual dá às autoridades da Califórnia menos poder do que o originalmente pretendido para responsabilizar as empresas de IA ou processá-las.

Os desenvolvedores de grandes modelos de IA terão de testar os seus sistemas e simular ciberataques, sob pena de multas, mas sem ameaça de consequências criminais.

A criação de uma nova agência reguladora foi cancelada, mas a lei ainda estabelece um conselho responsável por determinar padrões para os modelos mais avançados.

Atualmente, a IA generativa permite produzir conteúdos de qualidade (textos, imagens, etc.) mediante simples consulta em linguagem quotidiana.

Mas tem potencial, segundo os engenheiros envolvidos, para ir muito mais longe e, por conseguinte, para resolver problemas importantes, mas também para os provocar.

O projeto de lei alterado foi “melhorado significativamente, ao ponto de acreditarmos que os seus benefícios provavelmente superam os seus custos”, defendeu a Anthropic, na quarta-feira, numa carta a Gavin Newsom.

“Os sistemas de IA poderosos são incrivelmente promissores, mas também apresentam riscos muito reais, que devem ser levados muito a sério”, sublinhou, por sua vez, o informático Geoffrey Hinton, considerado o “padrinho da IA”, num texto de opinião na revista Fortune.

“O projeto de lei representa uma abordagem muito razoável para equilibrar estas preocupações”, acrescentou, acreditando que a Califórnia é o local ideal para começar a regulamentar esta tecnologia.

Mas organizações que representam a Google e a Meta – empresa-mãe do Facebook, Instagram ou WhatsApp -, investigadores de renome como Fei-Fei Li, da Universidade de Stanford, e professores e estudantes da Universidade CalTech manifestaram a sua oposição ao projeto de lei.

“Impõe regulamentações pesadas e irrealistas ao desenvolvimento da IA” e, por isso, constitui “uma ameaça significativa à nossa capacidade de avançar na investigação”, alertou Anima Anandkumar, professora da CalTech, numa publicação na rede social X.

Lusa