Como proteger a privacidade dos dados ao usar e treinar modelos de linguagem

Outro dia fiz uma pergunta em voz alta e me responderam “não sei, pergunte ao ChatGPT”.

A inteligência artificial generativa capturou a atenção da indústria de tecnologia e do público em geral. Da geração automática de textos à criação de imagens e vídeos, os avanços em modelos de linguagem de grande escala — ou LLMs, de Large Language Models — transformaram a forma como interagimos com a tecnologia. No entanto, o uso e o treinamento desses modelos trazem novos desafios em termos de privacidade dos dados, um tema cada vez mais relevante na agenda regulatória global.

Vamos percorrer os principais riscos de privacidade que surgem ao treinar e usar LLMs e as melhores práticas que as empresas podem adotar para proteger os dados pessoais, cumprindo assim normas emergentes como a nova lei de proteção de dados no Chile.

A nova lei de proteção de dados pessoais e seu impacto no uso de LLMs

As leis de proteção de dados, como a reforma da lei chilena que entra em vigor em alguns meses e o Regulamento Geral de Proteção de Dados (GDPR) na Europa, estão configurando um novo ambiente regulatório para as empresas que desenvolvem e usam modelos de IA.

Uma característica central da nova lei chilena é que ela dá aos usuários o direito de se opor ao uso dos seus dados para tomar decisões automatizadas, incluindo aquelas baseadas na elaboração de perfis. Isso é especialmente relevante para os LLMs que, entre outras coisas, têm a capacidade de gerar perfis a partir de grandes volumes de informação. Nesse contexto, é recomendável que as empresas que implementam essas tecnologias garantam estar preparadas para cumprir esses requisitos regulatórios e proteger os direitos dos usuários.

De onde vêm os riscos?

O treinamento de modelos de linguagem de grande escala exige quantidades enormes de dados. Esses dados vêm de fontes diversas, incluindo sites, livros e bases de dados públicas, mas também podem conter informação sensível ou pessoal.

A probabilidade de incorporar dados pessoais ou privados aumenta quando as empresas adaptam modelos com retreinamentos usando dados internos da empresa ou informações fornecidas diretamente pelos seus usuários. Esse tipo de ajuste, conhecido como fine-tuning, pode colocar a privacidade em risco e expor dados confidenciais em interações futuras com o modelo.

Portanto, os riscos que surgem são os seguintes:

Coleta de dados sem consentimento: muitos dos dados usados para treinar LLMs vêm de scraping de sites, o que pode incluir conteúdo protegido por direitos autorais ou informação pessoal coletada sem o conhecimento ou a autorização dos proprietários.

Exposição de dados sensíveis: ao gerar texto com base em padrões anteriores, os modelos de linguagem podem produzir informação que revele dados pessoais sem querer. Isso também é conhecido como "regurgitar" informação pessoal ou sensível capturada durante o treinamento quando se insere o prompt adequado, o que compromete a privacidade dos usuários.

Impossibilidade de retificar ou eliminar dados: embora os usuários tenham o direito de solicitar a eliminação ou a correção dos seus dados, isso é particularmente complicado com os LLMs. Isso acontece porque os modelos não armazenam dados diretamente, e sim aprendem padrões, o que dificulta eliminar ou modificar informações específicas depois do treinamento.

Como proteger a privacidade durante o treinamento de LLMs

Como vimos, o treinamento de modelos de linguagem de grande escala apresenta vários riscos, especialmente quando envolve dados pessoais. Para cumprir as regulações de privacidade e evitar problemas no futuro, as empresas precisam seguir uma série de boas práticas desde o início do processo de treinamento. Algumas recomendações fundamentais:

É fundamental escolher com cuidado as fontes de dados. Nem todos os dados disponíveis são adequados: alguns podem estar protegidos por direitos autorais ou conter informação pessoal obtida sem consentimento. É aqui que as empresas precisam ser bem seletivas e garantir que os dados cumpram as normas vigentes. Na Soyio desenvolvemos tecnologia para gerenciar os consentimentos dos usuários e manter um registro atualizado dos dados que têm autorização para ser usados no treinamento de IA. Se quiser saber mais, fale com a gente em hola@soyio.id

Outro aspecto crucial é a anonimização e a limpeza dos dados antes de usá-los no treinamento. Ao eliminar identificadores pessoais e garantir que a informação processada esteja livre de dados sensíveis, o risco de exposição cai bastante. Essa limpeza dos dados não só protege os usuários, como também melhora a qualidade do modelo, ao evitar a introdução de vieses ou erros. Se as empresas decidirem retreinar modelos com dados internos, precisam ser ainda mais cautelosas. Quando se usam dados próprios ou fornecidos pelos usuários, é muito importante ter mecanismos que minimizem a quantidade de dados pessoais processados e garantir que não sejam integrados de um modo que permita reutilizá-los ou vazá-los depois.

Por fim, uma boa prática é restringir o acesso a esses dados. Só as pessoas estritamente necessárias deveriam ter acesso à informação durante o treinamento. Implementar controles de acesso, como autenticação multifator e permissões baseadas em papéis, garante que a informação sensível fique protegida de acessos não autorizados. Uma forma de assegurar isso desde a concepção é usar aprendizado federado: essa técnica permite treinar os modelos nos dispositivos que geram os dados, evitando transferi-los para servidores centralizados.

E se os LLMs já estiverem em uso?

Depois que os modelos são treinados e começam a ser usados em soluções tecnológicas, os riscos mudam, mas não desaparecem. Na verdade, é nessa fase que as empresas precisam ser especialmente cuidadosas com a informação que manipulam, já que os usuários podem fornecer dados sensíveis nas interações com os modelos.

Algumas medidas que podem ser implementadas:

Controlar a informação que os usuários fornecem, sobretudo se ela for usada para retreinar e aperfeiçoar o modelo. É muito fácil um usuário revelar dados pessoais sem perceber durante uma interação com um LLM. Para evitar isso, é possível usar filtros que detectem e anonimizem automaticamente esse tipo de informação antes de ela ser armazenada para esse fim.

Mesmo que os dados não sejam usados para retreinar o modelo, ainda assim é importante garantir uma separação adequada entre as informações fornecidas por cada usuário ao interagir com o modelo. Essa medida tem mais a ver com a implementação do software do que com o modelo em si, mas é fundamental para evitar que qualquer dado pessoal compartilhado por um usuário fique acessível a pessoas não autorizadas.

Além disso, é importante contar com sistemas que monitorem constantemente o comportamento do modelo. Isso ajuda a detectar possíveis vazamentos de informação ou acessos não autorizados, além de reagir rapidamente a qualquer atividade suspeita, como a manipulação de prompts que possa desencadear a geração de informação sensível.

Nessa mesma linha, também é relevante adotar medidas para evitar que o modelo reproduza dados sensíveis que foram usados durante o seu treinamento. Isso é um desafio técnico, mas há formas de ajustar os algoritmos para reduzir a possibilidade de o modelo "regurgitar" informação pessoal.

Por último, realizar auditorias regulares sobre a segurança e a privacidade dos modelos é uma prática que garante que as medidas implementadas estejam funcionando corretamente. Essas auditorias permitem identificar possíveis pontos fracos e reforçar as áreas que precisarem.

Os direitos dos usuários diante dos desafios da IA

Um dos principais desafios que o uso de modelos de IA como os LLMs coloca é a dificuldade de exercer os direitos tradicionais de proteção de dados. Direitos como o acesso, a retificação ou a eliminação de dados ficam complicados de exercer, já que os LLMs não armazenam a informação em sua forma original. Em vez de manter os dados como foram entregues, os modelos os transformam em parâmetros e padrões matemáticos, o que torna praticamente impossível rastrear e eliminar dados pessoais específicos depois de terem sido usados no processo de treinamento.

Essa limitação técnica se torna um desafio considerável para o exercício pleno dos direitos previstos em normas como o GDPR ou a nova lei de proteção de dados no Chile. Ainda assim, há medidas que as empresas podem adotar enquanto esse problema segue em aberto.

Por um lado, é fazer o possível para evitar que os modelos sejam treinados com dados pessoais, usando as medidas mencionadas anteriormente.

Mas, por outro lado, uma das ações mais relevantes que podem tomar é garantir o direito de oposição a decisões automatizadas. Esse direito, exigido pela nova lei chilena, permite que os usuários solicitem que seus dados não sejam usados para tomar decisões que possam afetá-los de maneira significativa sem intervenção humana. Embora não seja possível aplicar todos os direitos sobre os dados nos modelos de IA, as empresas podem implementar mecanismos que assegurem que os usuários não fiquem sujeitos a decisões automatizadas sem o seu consentimento ou sem uma revisão adequada.

Para isso, é muito importante que as empresas estejam preparadas para gerenciar essas solicitações de forma eficiente, mantendo um registro dos consentimentos que seus usuários concederam e também podendo desativar essas funcionalidades de forma granular para os usuários que pedirem, garantindo que não sejam ativadas novamente sem o consentimento deles.

Na Soyio desenvolvemos tecnologias que ajudam as empresas a gerenciar, de forma granular e com linguagem simples, os consentimentos que seus usuários concederam, modificaram ou revogaram. Isso aumenta a confiança dos seus usuários e facilita a conformidade com a regulação para todas as suas equipes internas. Se quiser receber mais informações, fale com a gente.

O exercício dos direitos é um desafio que segue em evolução, sobretudo no campo dos modelos de linguagem LLMs, e, enquanto soluções mais avançadas são desenvolvidas, as empresas devem se concentrar em cumprir as normas atuais e oferecer transparência e controle sobre o uso dos dados em processos automatizados.