A Inteligência Artificial já não é apenas algo dos filmes de ficção científica. É real e faz parte do nosso quotidiano. Está presente em motores de busca, em assistentes virtuais, processos de recrutamento, diagnósticos médicos, serviços financeiros e muito mais.
A IA é agora inevitável e, perante isto, a União Europeia decidiu avançar com a primeira grande regulamentação, o AI Act, que, mais do que legislação, tenta responder a uma pergunta fundamental: como podemos beneficiar da inovação, sem colocar em risco direitos fundamentais, como a privacidade e até a segurança?
O que muda com o AI Act?
O regulamento adota uma lógica baseada no risco. Ou seja, quanto maior o potencial impacto de uma aplicação na vida das pessoas, maiores são as obrigações das empresas que as desenvolvem ou utilizam.
Sistemas que manipulem comportamentos de forma subliminar, explorem vulnerabilidades de grupos específicos ou que promovam mecanismos de “social scoring” semelhantes aos utilizados por regimes autoritários passam a estar proibidos.
São considerados de “alto risco” sistemas usados em educação, crédito, serviços públicos, recrutamento ou infraestruturas críticas, estando agora sujeitos a requisitos rigorosos, transparência, documentação técnica, avaliação de conformidade e supervisão humana.
Os sistemas de IA generativa, como o famoso Chat GPT e semelhantes, passam a ter obrigações específicas, ao nível da transparência, documentação e direitos de autor e os seus conteúdos gerados artificialmente, deverão ser identificados como tal em diversos contextos.
O que muda para os consumidores?
Principalmente, é uma maior proteção, mais direitos e a garantia de que a tecnologia está ao seu serviço e não o contrário. Vivemos num mundo onde já é difícil distinguir uma fotografia real de uma imagem criada por IA ou uma voz humana de uma artificialmente sintetizada. O AI Act obriga a transparência e a que os utilizadores saibam quando estão a interagir com conteúdo artificialmente criado.
O AI Act pretende também reduzir as discriminações do algoritmo, especialmente em processos de recrutamento ou na avaliação de pedidos de crédito, para garantir que as decisões são justas e passíveis de ser supervisionadas por humanos.
E para as empresas? É uma oportunidade ou um obstáculo?
Para muitas empresas, o AI Act vai representar um aumento de custos de compliance. Passa a ser necessário documentar sistemas, implementar processos de supervisão, garantir requisitos e formar equipas para todos estes processos, e é, por isso, compreensível que muitos empresários receiem que a Europa esteja a criar uma desvantagem competitiva com os Estados Unidos e a China.
No entanto, há outra perspetiva importante a ter em conta: ao definir regras claras e objetivas, a União Europeia está a criar uma maior confiança para investidores, consumidores e empresas. As organizações que se adaptem rapidamente têm na conformidade um fator competitivo, num mercado cada vez mais preocupado com a ética e a segurança digital.
Um momento decisivo nas nossas vidas
Estamos perante um enorme desafio global. A IA está a transformar a economia e a sociedade, num processo que é agora inevitável. A regulamentação apesar de poder atrasar esta transição, não a pretende travar, apenas garantir que é feita de forma responsável, transparente e que protege o consumidor. Numa era em que os algoritmos são cada vez mais decisivos nas nossas vidas, esta proteção torna-se mais importante do que a tecnologia.
Ricardo Teixeira,
CEO da CompuWorks
