14 de Novembro, 2023

União Europeia caminha para regulamentação histórica de modelos de Inteligência Artificial

image 17

Legisladores da União Europeia estão nas etapas finais de elaborar um marco regulatório histórico para a Inteligência Artificial (AI Act), com foco especial em modelos de fundação como o GPT-4, que formam a base de várias aplicações de IA, incluindo chatbots renomados como o ChatGPT.

Nas recentes negociações, conhecidas como trílogos, envolvendo a Comissão Europeia, o Parlamento e o Conselho da UE, a presidência espanhola do Conselho apresentou um rascunho inicial de obrigações para esses modelos de fundação, principalmente os classificados como de "alto impacto".

A resposta dos co-relatores do Parlamento Europeu, Dragoș Tudorache e Brando Benifei, ao rascunho espanhol propôs quatro critérios iniciais para identificar esses modelos de fundação de alto impacto. Esses critérios incluem o tamanho das amostras de dados usadas para treinamento, o tamanho dos parâmetros do modelo, a quantidade de computação usada no treinamento e benchmarks de desempenho ainda a serem elaborados.

Além disso, os co-relatores sugeriram mudanças nas obrigações para os provedores de modelos de alto impacto, incluindo a exigência de registro no banco de dados público da UE e a adesão a padrões de uso de recursos e gestão de resíduos.

Os legisladores também propuseram a avaliação de riscos sistêmicos potenciais, como efeitos negativos nos direitos fundamentais, violência de gênero, saúde pública, meio ambiente e proteção de menores.

A OCDE também apresentou uma nova definição de IA para a contribuição do projeto: "Um sistema de IA é um sistema baseado em máquina que, com objetivos explícitos ou implícitos, infere, a partir dos dados de entrada que recebe, como gerar saídas, como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais. Diferentes sistemas de IA variam em seus níveis de autonomia e adaptabilidade após o seu lançamento".

A abordagem da UE para os modelos de IA poderosos está tomando forma à medida que os países europeus discutem possíveis concessões nas próximas negociações. Isso inclui a definição de obrigações horizontais para todos os modelos de fundação e regras específicas para IA generativa, exigindo que suas saídas sejam marcadas como artificialmente geradas ou manipuladas.

Com informações Euraactive - 1 e 2.

Quer ficar por dentro das ultimas notícias na área?

Assine nossa newsletter semanal e acompanhe as notícias mais relevantes em segurança da informação e proteção de dados.

Posts recentes

Amazon sacrifica privacidade em prol do novo Alexa+

A Amazon anunciou uma mudança significativa na política de privacidade dos dispositivos Echo, que entrará em vigor a partir de 28 de março. A empresa eliminará a opção de processamento local de comandos de voz, obrigando todos os usuários a enviar suas gravações para a nuvem da Amazon. Esta alteração está relacionada ao lançamento do […]

Ler Mais
BACEN prorroga prazo para registro de empresas de compartilhamento de dados sobre fraudes

O Banco Central do Brasil (BACEN) adiou a entrada em vigor da Instrução Normativa nº 590, que estabelece procedimentos para o registro de empresas contratadas para compartilhamento de dados sobre indícios de fraudes. A nova data de vigência passa a ser 3 de março de 2025, com efeitos a partir de 2 de maio de […]

Ler Mais
Oracle Cloud enfrenta alegações de vazamento de dados de 6 milhões de usuários

A Oracle está enfrentando sérias alegações de violação de dados em seus servidores de login SSO federado do Oracle Cloud, apesar de negar veementemente o incidente. De acordo com investigações conduzidas pela BleepingComputer, múltiplas empresas confirmaram a autenticidade de amostras de dados associados compartilhados por um suposto hacker. O caso veio à tona na semana […]

Ler Mais
Av. Senador Alberto Pasqualini, n. 180, sala 2 - Três de Maio/RS
contato@brownpipe.com.br
Comercial: (55) 999164209 - WhatsApp e Signal 

CONECTE-SE CONOSCO
Fique atualizado com as notícias mais relevantes em segurança da informação e proteção de dados. Inscreva-se na nossa newsletter semanal! 
Políticas BrownPipe *
Termos de privacidade
linkedin facebook pinterest youtube rss twitter instagram facebook-blank rss-blank linkedin-blank pinterest youtube twitter instagram