A adoção generalizada de Inteligência Artificial (IA) generativa representa um dos momentos mais transformadores – e simultaneamente mais desafiantes – da história recente da tecnologia nas organizações. Ferramentas capazes de gerar texto, código, imagens, apresentações ou análises complexas em segundos passaram, num curto espaço de tempo, do domínio experimental para o uso quotidiano de milhões de pessoas. E foi precisamente essa rapidez que expôs uma fragilidade crítica: a segurança da informação.
Uma das maiores preocupações associadas à utilização indiscriminada de IA generativa prende-se com o comportamento humano. De forma surpreendentemente natural, profissionais de diferentes áreas introduzem nestas ferramentas dados sensíveis da empresa em que trabalham – informação estratégica, dados de clientes, conteúdos confidenciais, código proprietário -, muitas vezes sem consciência de a quem estão a entregar essa informação, onde ela é armazenada ou como poderá ser reutilizada. O problema não é apenas tecnológico; é cultural e comportamental.
Esta realidade agrava-se quando estão em causa ferramentas gratuitas. Existe ainda uma perceção generalizada de que, por não haver um custo direto associado, não existe um risco real quando, na verdade, é exatamente o oposto. Nos modelos gratuitos, o utilizador é tratado frequentemente como produto, não como cliente. Os dados fornecidos alimentam sistemas, modelos e processos sobre os quais a empresa não tem qualquer controlo, visibilidade ou capacidade de auditoria. Ignorar este facto é comprometer, de forma silenciosa, a segurança da organização.
Perante este cenário, parece-me evidente a necessidade de uma governance específica para a IA generativa. Não basta aplicar políticas de segurança tradicionais a uma tecnologia que funciona de forma distinta; é fundamental definir regras claras sobre que ferramentas podem ser utilizadas, para que fins, com que tipo de dados e sob que condições. A governança não é um entrave à inovação; é o que permite que ela aconteça de forma sustentada e responsável.
É neste contexto que as soluções empresariais devem ser claramente preferenciais. Ferramentas de IA escolhidas pela organização, contratualizadas, integradas nos seus sistemas e sujeitas a monitorização contínua oferecem níveis de controlo, conformidade e segurança incomparavelmente superiores. Permitem definir limites, garantir isolamento de dados, cumprir requisitos legais e, acima de tudo, responsabilizar fornecedores. Num ambiente empresarial, o improviso tecnológico é sinónimo de risco acumulado.
Importa também reconhecer um facto incontornável: não é possível irmos contra a maré – nem desejável. A IA generativa veio para ficar e continuará a evoluir, quer as organizações estejam preparadas ou não. A resposta correta não é a proibição absoluta, antes a gestão consciente do risco. Monitorizar, orientar e formar é muito mais eficaz do que tentar impedir uma adoção que acontecerá, inevitavelmente, à margem das políticas formais.
Por fim, é impossível dissociar este debate da necessidade de regulação. A IA é demasiado poderosa para ficar entregue à lógica do mercado ou à boa vontade dos utilizadores. A União Europeia tem dado passos importantes neste caminho, mas a regulação deve ser entendida como um esforço multinível: europeu, nacional e organizacional. As empresas não podem esperar apenas por enquadramentos legais externos; devem assumir a sua própria responsabilidade, criando normas internas que protejam dados, pessoas e reputação.
A Inteligência Artificial generativa tem um potencial extraordinário para aumentar produtividade, criatividade e eficiência. Mas esse potencial só será plenamente realizado se for acompanhado por uma abordagem madura à segurança e à governança. Inovar sem regras não é ousadia – é imprudência. E, no contexto empresarial, o custo da imprudência tende a ser demasiado elevado.
Patrícia Fernandes,
Chief Information Officer da Páginas Amarelas
