Paris: Você deseja implantar um sistema de inteligência artificial generativa em sua organização, mas está em dúvida sobre o que deve ser respeitado? A CNIL publica as primeiras respostas para uma implementação responsável e respeitosa da proteção de dados.

O que é a IA generativa?

A inteligência artificial "generativa" refere-se a sistemas capazes de criar conteúdos (texto, código de computador, imagens, música, áudio, vídeos, etc.). Quando permitem a realização de uma ampla gama de tarefas, esses sistemas podem ser classificados como sistemas de IA de uso geral. Este é o caso, por exemplo, dos sistemas que integram grandes modelos de linguagem (large language models ou LLM em inglês).

Seu uso visa geralmente aumentar a criatividade e a produtividade das pessoas que os utilizam, permitindo-lhes gerar novos conteúdos, além de analisar ou retrabalhar conteúdos preexistentes (por exemplo, propondo resumos, correções ou traduções automáticas).

No entanto, devido à sua natureza probabilística, esses sistemas são suscetíveis a gerar resultados imprecisos que podem parecer plausíveis.

Além disso, seu desenvolvimento requer treinamento em grandes volumes de dados, que frequentemente contêm informações sobre pessoas físicas, ou dados pessoais, assim como os dados fornecidos durante o uso desses sistemas.

Portanto, é necessário tomar uma série de precauções para respeitar os direitos das pessoas sobre seus dados.

Como implantar esses sistemas?

Muitos atores consultam a CNIL para saber como implantar sistemas de IA generativa, especialmente sobre as medidas e a governança a serem adotadas para cumprir as regras aplicáveis, em particular para a proteção de dados pessoais.

A publicação dessas perguntas e respostas visa guiar as organizações que planejam implantar esses sistemas, propondo uma abordagem responsável e segura.

Em resumo, a CNIL recomenda:

• Partir de uma necessidade concreta: evitar implantar um sistema de IA generativa sem um objetivo específico, mas para responder a um conjunto de usos já identificados.
• Enquadrar os usos: definir uma lista de utilizações permitidas e proibidas, considerando os riscos (por exemplo, não fornecer dados pessoais ao sistema, ou não confiar decisões ao sistema).
• Não ocultar as limitações desses sistemas: principalmente em relação aos riscos que podem causar aos interesses e direitos das pessoas envolvidas.
• Escolher um sistema robusto e um modo de implantação seguro: privilegiar o uso de sistemas locais, seguros e especializados (fine-tuned em inglês). Na falta disso, determinar em que medida o fornecedor operando o sistema pode reutilizar os dados fornecidos e adaptar o uso consequentemente.
• Formar e sensibilizar os usuários finais: quanto aos usos proibidos e aos riscos envolvidos nos usos permitidos.
• Implementar uma governança adequada: para garantir o cumprimento do RGPD e dessas recomendações, envolvendo todas as partes interessadas desde o início (encarregado da proteção de dados, responsável pelos sistemas de informação, RSSI, responsáveis "negócio", etc.).

Com informações CNIL

Link para o guia completo (em francês)

Este post foi traduzido e resumido a partir de sua versão original com o uso do ChatGPT versão 4, com revisão humana.