Introdução
O que é o AI Act? Este é o nome pelo qual ficou conhecido o Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que cria regras harmonizadas em matéria de inteligência artificial.
O Regulamento estabelece regras claras para o desenvolvimento, uso e comercialização de sistemas de inteligência artificial.
Publicado em 2024, o texto consolida uma abordagem centrada nos possíveis riscos dos sistemas de inteligência artificial.
O AI Act marca um ponto de virada no esforço legislativo internacional para lidar com os riscos e as oportunidades da inteligência artificial.
Para entender bem o que é o AI Act, é importante esmiuçar seu Capítulo I, que apresenta as bases do regulamento: define o seu objeto, o campo de aplicação, as principais definições e introduz o conceito de literacia no domínio da IA, que se tornará essencial na formação de qualquer pessoa que queira entender como funcionam os sistemas de inteligência artificial.
Além de ser um marco normativo europeu, o AI Act serve como referência global e influencia diretamente as discussões regulatórias em países como o Brasil.
A aproximação entre suas diretrizes e os princípios da LGPD evidencia uma convergência regulatória em torno da proteção de direitos na era digital.
Focando no primeiro Capítulo do Regulamento, vamos analisar em detalhes neste texto:
Vamos começar analisando o que é o AI Act, seu objeto e finalidade.
1. O que é o AI Act: objeto e finalidade
Como vimos, o AI Act é o regulamento da União Europeia que estabelece um conjunto harmonizado de regras aplicáveis à inteligência artificial.
Seu objeto está expressamente indicado no art. 1º e representa um esforço normativo para equilibrar inovação tecnológica com proteção de direitos fundamentais.
1.1 Finalidade principal do AI Act
A principal finalidade do AI Act é melhorar o funcionamento do mercado interno da União Europeia.
Para isso, o regulamento promove a adoção de uma inteligência artificial que seja ao mesmo tempo centrada no ser humano e digna de confiança.
O texto legal explicita que essa finalidade deve ser atingida com a garantia de um elevado nível de proteção da saúde, da segurança e dos direitos fundamentais, conforme definidos na Carta dos Direitos Fundamentais da União Europeia.
Eis a íntegra:
A finalidade do presente regulamento é melhorar o funcionamento do mercado interno e promover a adoção de uma inteligência artificial (IA) centrada no ser humano e de confiança, assegurando simultaneamente um elevado nível de proteção da saúde, da segurança e dos direitos fundamentais consagrados na Carta, incluindo a democracia, o Estado de direito e a proteção do ambiente, contra os efeitos nocivos dos sistemas de IA na União, bem como apoiar a inovação.
Assim, o AI Act busca salvaguardar valores essenciais como a democracia, o Estado de direito e a proteção ambiental, diante dos possíveis efeitos nocivos dos sistemas de IA no território europeu.
1.2 Dupla missão: proteção e inovação
O regulamento procura adotar uma abordagem que alia segurança jurídica e incentivo à inovação.
De um lado, impõe salvaguardas aos direitos das pessoas e ao ambiente. De outro, apoia ativamente o desenvolvimento tecnológico, com ênfase nas pequenas e médias empresas e nas startups do setor de IA.
Essa dualidade é estratégica: reconhece-se que o avanço da inteligência artificial é inevitável, mas que ele deve ocorrer sob os parâmetros da responsabilidade, da ética e da legalidade.
Apesar disso, o texto final foi alvo de críticas por parte do mercado, que alega que a regulação pode frear iniciativas inovadoras e deixar os países-membros da União Europeia para trás em relação a países com menos regulação, como China, EUA e outros.
1.3 Conteúdo normativo do AI Act
De forma sistemática, o art. 1º ainda enumera os principais eixos temáticos do regulamento, delimitando seu conteúdo normativo. São eles:
- Regras harmonizadas para a colocação no mercado, a colocação em serviço e a utilização de sistemas de IA na União Europeia;
- Proibições de certas práticas de IA, consideradas incompatíveis com os valores da União;
- Requisitos específicos para sistemas de IA de risco elevado, incluindo obrigações impostas aos seus operadores;
- Regras de transparência harmonizadas aplicáveis a determinados sistemas de IA;
- Regras harmonizadas para modelos de IA de finalidade geral, incluindo obrigações específicas para sua colocação no mercado;
- Regras de governança, fiscalização e aplicação da lei, com definição de responsabilidades entre autoridades competentes;
- Medidas de apoio à inovação, com foco especial nas PME, incluindo aquelas em fase de arranque (startups).
Com o conteúdo estabelecido, o segundo passo para entender o que é o AI Act é compreender o seu âmbito de aplicação.
2. O que é o AI Act: âmbito de aplicação
O artigo 2º do AI Act delimita o seu âmbito de aplicação, indicando os sujeitos regulados, os limites territoriais e materiais da norma, bem como as hipóteses de exclusão.
A compreensão desse escopo é essencial para entender o que é o AI Act e saber quando e a quem o regulamento se aplica, e em quais situações suas regras deixam de incidir.
2.1 Aplicação territorial e extraterritorial
O AI Act é aplicável não apenas a entidades localizadas na União Europeia, mas também a operadores situados fora do seu território, desde que os efeitos da utilização dos sistemas de IA ocorram na União Europeia.
Essa característica reflete a lógica de proteção extraterritorial adotada também por outros regulamentos europeus, como o Regulamento Geral sobre a Proteção de Dados (GDPR).
De acordo com o artigo 2º, o AI Act aplica-se a:
- Prestadores que coloquem no mercado ou coloquem em serviço sistemas de IA ou que coloquem no mercado modelos de IA de finalidade geral no território da União, independentemente de estarem estabelecidos ou localizados na União ou num país terceiro;
- Responsáveis pela implantação de sistemas de IA que tenham o seu local de estabelecimento ou que estejam localizados na União;
- Prestadores e responsáveis pela implantação de sistemas de IA que tenham o seu local de estabelecimento ou estejam localizados num país terceiro, se o resultado produzido pelo sistema de IA for utilizado na União;
- Importadores e distribuidores de sistemas de IA;
- Fabricantes de produtos que coloquem no mercado ou coloquem em serviço um sistema de IA juntamente com o seu produto e sob o seu próprio nome ou a sua própria marca;
- Mandatários dos prestadores que não estejam estabelecidos na União;
- Pessoas afetadas localizadas na União.
Nem sempre o regulamento é aplicado integralmente a todo e qualquer sistema de IA, como veremos a seguir.
2.2 Aplicação parcial em certos sistemas de risco elevado
Em casos específicos, o AI Act aplica-se de forma limitada aos sistemas de IA classificados como de risco elevado, quando associados a produtos abrangidos por legislações específicas.
Nessas hipóteses, apenas alguns artigos do regulamento incidem, conforme diposto no art. 2º, número 2.
2.3 Exclusões relativas à segurança nacional e usos militares
O AI Act não se aplica a domínios fora da competência da União Europeia, como é o caso da segurança nacional, que permanece sob responsabilidade exclusiva dos Estados-Membros.
Também são excluídos os sistemas de IA utilizados exclusivamente para finalidades militares, de defesa ou de segurança nacional, mesmo que utilizados no território da União Europeia.
Além disso, mesmo quando desenvolvidos fora da União, se os sistemas de IA tiverem seus resultados utilizados dentro da União Europeia exclusivamente para fins de defesa, segurança nacional ou finalidades militares, o regulamento também não se aplica.
2.4 Autoridades públicas e organizações internacionais
O AI Act não se aplica a autoridades públicas de países terceiros nem a organizações internacionais que utilizem sistemas de IA no contexto da cooperação policial e judiciária com a União Europeia ou com seus Estados-Membros, desde que apresentem salvaguardas adequadas de proteção dos direitos fundamentais.
2.5 Interação com outros regulamentos da União Europeia
O AI Act respeita e não interfere na aplicação das disposições relativas à responsabilidade de prestadores de serviços intermediários estabelecidas no Capítulo II do Regulamento (UE) 2022/2065, que trata de serviços digitais.
O AI Act também não prejudica a aplicação das normas da União Europeia relativas à proteção de dados pessoais, privacidade e confidencialidade das comunicações.
Nos termos do texto legal, o AI Act deve ser interpretado em conformidade com o Regulamento (UE) 2016/679 (GDPR), o Regulamento (UE) 2018/1725, a Diretiva 2002/58/CE e a Diretiva (UE) 2016/680.
2.6 Exclusões específicas para pesquisa, uso pessoal e software livre
O AI Act exclui de seu âmbito de aplicação expressamente os seguintes casos:
- Sistemas de IA desenvolvidos e utilizados exclusivamente para fins de investigação e desenvolvimento científicos, desde que não tenham sido colocados no mercado ou em serviço;
- Atividades de testagem, pesquisa ou desenvolvimento realizadas antes da colocação no mercado, exceto em condições reais de uso;
- Uso puramente pessoal e não profissional por pessoas singulares;
- Sistemas de IA lançados sob licenças gratuitas e de código aberto, exceto quando forem classificados como sistemas de risco elevado ou abrangidos pelos artigos 5º (práticas proibidas) ou 50º (obrigações de transparência de modelos de finalidade geral).
2.7 Proteção dos trabalhadores
O AI Act não impede que a União Europeia ou os Estados-Membros mantenham ou introduzam normas mais favoráveis aos trabalhadores quanto ao uso de sistemas de IA por empregadores.
O regulamento também não interfere na adoção de convenções coletivas que assegurem maior proteção aos trabalhadores.
3. Literacia no domínio da Inteligência Artificial
O artigo 4º do AI Act destina-se a literacia no domínio da Inteligência Artificial, ou seja, no domínio que as pessoas envolvidas no operação de sistemas de IA devem ter sobre o tema.
Literacia em sistemas digitais é o mesmo que letramento, ou como é mais comumente chamado no Brasil, o mesmo que alfabetização digital.
O texto do artigo 4º dispõe que “os prestadores e os responsáveis pela implantação de sistemas de IA adotam medidas para garantir, na medida do possível, que o seu pessoal e outras pessoas envolvidas na operação e utilização de sistemas de IA em seu nome dispõem de um nível suficiente de literacia no domínio da IA, tendo em conta os seus conhecimentos técnicos, experiência, qualificações académicas e formação e o contexto em que os sistemas de IA serão utilizados, bem como as pessoas ou grupos de pessoas visadas por essa utilização”.
4. O que é o AI Act de acordo com suas 68 definições
Falando em literacia, um dos pontos importantes para entender a regulação de inteligência artificial é dominar tecnicamente os termos utilizados.
Para entender o que é o AI Act, é essencial conhecer as definições apresentadas no artigo 3º, que reproduzimos abaixo para eventuais consultas:
4.1 Sistema de IA
Um sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais.
4.2 Risco
A combinação da probabilidade de ocorrência de danos com a gravidade desses danos.
4.3 Prestador
Uma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que desenvolva, ou mande desenvolver, um sistema de IA ou um modelo de IA de finalidade geral e o coloque no mercado, ou coloque o sistema de IA em serviço sob o seu próprio nome ou a sua própria marca, a título oneroso ou gratuito.
4.4 Responsável pela implantação
Uma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que utilize um sistema de IA sob a sua própria autoridade, salvo se o sistema de IA for utilizado no âmbito de uma atividade pessoal de caráter não profissional.
4.5 Mandatário
Uma pessoa singular ou coletiva localizada ou estabelecida na União Europeia que tenha recebido e aceitado um mandato escrito de um prestador de um sistema de IA ou de um modelo de IA de finalidade geral para cumprir e executar em seu nome, respetivamente, as obrigações e os procedimentos previstos no AI Act.
4.6 Importador
Uma pessoa singular ou coletiva localizada ou estabelecida na União Europeia que coloca no mercado um sistema de IA que ostenta o nome ou a marca de uma pessoa singular ou coletiva estabelecida num país terceiro.
4.7 Distribuidor
Uma pessoa singular ou coletiva inserida na cadeia de distribuição, distinta do prestador e do importador, que disponibiliza um sistema de IA no mercado da União Europeia.
4.8 Operador
Um prestador, fabricante de produtos, responsável pela implantação, mandatário, importador ou distribuidor.
4.9 Colocação no mercado
A primeira disponibilização de um sistema de IA ou de um modelo de IA de finalidade geral no mercado da União Europeia.
4.10 Disponibilização no mercado
O fornecimento de um sistema de IA ou de um modelo de IA de finalidade geral para distribuição ou utilização no mercado da União no âmbito de uma atividade comercial, a título oneroso ou gratuito.
4.11 Colocação em serviço
O fornecimento, diretamente ao responsável pela implantação ou para utilização própria, de um sistema de IA para a primeira utilização na União Europeia com a finalidade prevista.
4.12 Finalidade prevista
A utilização a que o prestador destina o sistema de IA, incluindo o contexto específico e as condições de utilização, conforme especificado nas informações facultadas pelo prestador nas instruções de utilização, nos materiais e declarações promocionais ou de venda, bem como na documentação técnica.
4.13 Utilização indevida razoavelmente previsível
A utilização de um sistema de IA de uma forma não conforme com a sua finalidade prevista, mas que pode resultar de um comportamento humano razoavelmente previsível ou de uma interação razoavelmente previsível com outros sistemas, incluindo outros sistemas de IA.
4.14 Componente de segurança
Um componente de um produto ou sistema de IA que cumpre uma função de segurança nesse produto ou sistema de IA, ou cuja falha ou anomalia põe em risco a saúde e a segurança de pessoas ou bens.
4.15 Instruções de utilização
As informações facultadas pelo prestador para esclarecer responsável pela implantação, em especial, sobre a finalidade prevista e a utilização correta de um sistema de IA.
4.16 Recolha de um sistema de IA
Qualquer medida destinada a obter a devolução ao prestador de um sistema de IA disponibilizado aos responsáveis pela implantação ou a colocar esse sistema fora de serviço ou a desativá-lo.
4.17 Retirada de um sistema de IA
Qualquer medida destinada a impedir a disponibilização no mercado de um sistema de IA presente na cadeia de distribuição.
4.18 Desempenho de um sistema de IA
A capacidade de um sistema de IA para alcançar a sua finalidade prevista.
4.19 Autoridade notificadora
A autoridade nacional responsável por estabelecer e executar os procedimentos necessários para a avaliação, designação e notificação de organismos de avaliação da conformidade e pela fiscalização destes.
4.20 Avaliação da conformidade
O processo de demonstrar se estão preenchidos os requisitos relacionados com um sistema de IA de risco elevado estabelecidos no capítulo III, secção 2, do AI Act.
4.21 Organismo de avaliação da conformidade
Um organismo que realiza atividades de avaliação da conformidade por terceiros, nomeadamente testagem, certificação e inspeção.
4.22 Organismo notificado
Um organismo de avaliação da conformidade notificado nos termos do presente regulamento ou de outra legislação de harmonização da União Europeia pertinente.
4.23 Modificação substancial
Uma alteração do sistema de IA após a sua colocação no mercado ou colocação em serviço, que não tenha sido prevista ou planeada pelo prestador na avaliação da conformidade inicial e que, consequentemente, afete a conformidade do sistema de IA com os requisitos estabelecidos no capítulo III, secção 2, do presente regulamento, ou modifique a finalidade prevista relativamente à qual o sistema de IA foi avaliado;
4.24 Marcação CE
A marcação pela qual um prestador atesta que um sistema de IA está em conformidade com os requisitos estabelecidos no capítulo III, seção 2, e noutros atos aplicáveis enumerados na lista da legislação de harmonização da União Europeia que prevejam a aposição dessa marcação.
4.25 Sistema de acompanhamento pós-comercialização
Todas as atividades empreendidas pelos prestadores de sistemas de IA para recolher e analisar dados sobre a experiência adquirida com a utilização de sistemas de IA por eles colocados no mercado ou colocados em serviço, com vista a identificar a eventual necessidade de aplicar imediatamente as eventuais medidas corretivas ou preventivas necessárias.
4.26 Autoridade de fiscalização do mercado
A autoridade nacional que realiza as atividades e toma as medidas previstas no Regulamento (UE) 2019/1020.
4.27 Norma harmonizada
Uma norma europeia na aceção do artigo 2º, nº 1, alínea c), do Regulamento (UE) nº 1025/2012.
4.28 Especificação comum
Um conjunto de especificações técnicas, definidas no artigo 2.o, ponto 4, do Regulamento (UE) n.o 1025/2012, que proporcionam os meios para cumprir certos requisitos estabelecidos no presente regulamento;
4.29 Dados de treino
Os dados usados para treinar um sistema de IA mediante o ajustamento dos seus parâmetros passíveis de serem aprendidos;
4.30 Dados de validação
Os dados utilizados para realizar uma avaliação do sistema de IA treinado e ajustar os seus parâmetros não passíveis de serem aprendidos e o seu processo de aprendizagem, a fim de, entre outras coisas, evitar um subajustamento ou um sobreajustamento.
4.31 Conjunto de dados de validação
Um conjunto de dados separado ou parte de um conjunto de dados de treino, sob forma de uma divisão fixa ou variável.
4.32 Dados de teste
Os dados utilizados para realizar uma avaliação independente do sistema de IA, a fim de confirmar o desempenho esperado desse sistema antes da sua colocação no mercado ou colocação em serviço.
4.33 Dados de entrada
Os dados disponibilizados a um sistema de IA, ou por ele obtidos diretamente, com base nos quais o sistema produz um resultado.
4.34 Dados biométricos
Dados pessoais resultantes de um tratamento técnico específico relativo às características físicas, fisiológicas ou comportamentais de uma pessoa singular, nomeadamente imagens faciais ou dados dactiloscópicos.
4.35 Identificação biométrica
O reconhecimento automatizado de características humanas físicas, fisiológicas, comportamentais ou psicológicas para efeitos de determinação da identidade de uma pessoa singular, comparando os dados biométricos dessa pessoa com os dados biométricos de pessoas armazenados numa base de dados.
4.36 Verificação biométrica
A verificação automatizada, um para um, incluindo a autenticação, da identidade de pessoas singulares por meio da comparação dos seus dados biométricos com dados biométricos previamente facultados.
4.37 Categorias especiais de dados pessoais
As categorias de dados pessoais a que se referem o artigo 9º, nº 1, do Regulamento (UE) 2016/679, o artigo 10º da Diretiva (UE) 2016/680 e o artigo 10º, nº 1, do Regulamento (UE) 2018/1725.
4.38 Dados operacionais sensíveis
Dados operacionais relacionados com atividades de prevenção, deteção, investigação ou repressão de infrações penais, cuja divulgação possa comprometer a integridade de processos penais.
4.39 Sistema de reconhecimento de emoções
Um sistema de IA concebido para identificar ou inferir emoções ou intenções de pessoas singulares com base nos seus dados biométricos.
4.40 Sistema de categorização biométrica
Um sistema de IA destinado a afetar pessoas singulares a categorias específicas com base nos seus dados biométricos, a menos que seja acessório a outro serviço comercial e estritamente necessário por razões técnicas objetivas.
4.41 Sistema de identificação biométrica à distância
Um sistema de IA concebido para identificar pessoas singulares, sem a sua participação ativa, normalmente à distância, por meio da comparação dos dados biométricos de uma pessoa com os dados biométricos contidos numa base de dados de referência.
4.42 Sistema de identificação biométrica à distância em tempo real
Um sistema de identificação biométrica à distância em que a recolha de dados biométricos, a comparação e a identificação ocorrem sem atraso significativo, que engloba não apenas a identificação instantânea, mas também a identificação com ligeiro atraso, a fim de evitar que as regras sejam contornadas.
4.43 Sistema de identificação biométrica à distância em tempo diferido
Um sistema de identificação biométrica à distância que não seja um sistema de identificação biométrica à distância em tempo real.
4.44 Espaço acessível ao público
Qualquer espaço físico, público ou privado, acessível a um número indeterminado de pessoas singulares, independentemente da eventual aplicação de condições de acesso específicas e independentemente das eventuais restrições de capacidade.
4.45 Autoridade responsável pela aplicação da lei
Uma autoridade pública competente para efeitos de prevenção, investigação, deteção ou repressão de infrações penais ou execução de sanções penais, incluindo a proteção contra ameaças à segurança pública e a prevenção das mesmas, ou
Qualquer outro organismo ou entidade designado pelo direito de um Estado-Membro para exercer autoridade pública e poderes públicos para efeitos de prevenção, investigação, deteção ou pelo exercício da ação penal relativo a infrações penais ou execução de sanções penais, incluindo a proteção contra ameaças à segurança pública e a prevenção das mesmas.
4.46 Aplicação da lei
As atividades realizadas por autoridades responsáveis pela aplicação da lei ou em nome destas para efeitos de prevenção, investigação, deteção ou repressão de infrações penais ou execução de sanções penais, incluindo a proteção contra ameaças à segurança pública e a prevenção das mesmas.
4.47 Serviço para a IA (AI Office)
A atribuição da Comissão de contribuir para a aplicação, o acompanhamento e a supervisão dos sistemas de IA, dos modelos de IA de finalidade geral, e da governação da IA prevista na Decisão da Comissão de 24 de janeiro de 2024; as referências ao Serviço para a IA no presente regulamento devem ser entendidas como referências à Comissão.
4.48 Autoridade nacional competente
Uma autoridade notificadora ou uma autoridade de fiscalização do mercado; no que diz respeito aos sistemas de IA colocados em serviço ou utilizados pelas instituições, agências, serviços e organismos da União Europeia, quaisquer referências às autoridades nacionais competentes ou às autoridades de fiscalização do mercado no presente regulamento devem ser entendidas como referências à Autoridade Europeia para a Proteção de Dados.
4.49 Incidente grave
Qualquer incidente ou anomalia num sistema de IA que, direta ou indiretamente, tenha alguma das seguintes consequências:
- A morte de uma pessoa ou danos graves para a saúde de uma pessoa
- Uma perturbação grave e irreversível da gestão ou do funcionamento de uma infraestrutura crítica
- A infração das obrigações decorrentes do direito da União destinadas a proteger os direitos fundamentais
- Danos graves a bens ou ao ambiente
4.50 Dados pessoais
Os dados pessoais na aceção do artigo 4º, ponto 1, do Regulamento (UE) 2016/679.
4.51 Dados não pessoais
Os dados que não sejam dados pessoais na aceção do artigo 4º, ponto 1, do Regulamento (UE) 2016/679.
4.52 Definição de perfis (Profiling)
A definição de perfis na aceção do artigo 4º, ponto 4, do Regulamento (UE) 2016/679.
4.53 Plano de testagem em condições reais
Um documento que descreve os objetivos, a metodologia, o âmbito geográfico, populacional e temporal, o acompanhamento, a organização e a realização dos testes em condições reais.
4.54 Plano do ambiente de testagem
Um documento acordado entre o prestador participante e a autoridade competente, que descreve os objetivos, as condições, o calendário, a metodologia e os requisitos aplicáveis às atividades realizadas no ambiente de testagem.
4.55 Ambiente de testagem da regulamentação da IA (AI regulatory sandbox)
Um modelo controlado, criado por uma autoridade competente, que oferece aos prestadores ou potenciais prestadores de sistemas de IA a possibilidade de desenvolver, treinar, validar e testar, se for caso disso em condições reais, um sistema de IA inovador, de acordo com um plano do ambiente de testagem, durante um período limitado sob supervisão regulamentar.
4.56 Literacia no domínio da IA (AI literacy)
As competências, os conhecimentos e a compreensão que permitem que os prestadores, os responsáveis pela implantação e as pessoas afetadas, tendo em conta os respetivos direitos e obrigações no contexto do presente regulamento, procedam à implantação dos sistemas de IA com conhecimento de causa e tomem consciência das oportunidades e dos riscos inerentes à IA, bem como dos eventuais danos que a IA pode causar.
4.57 Testagem em condições reais
A testagem temporária de um sistema de IA para a sua finalidade prevista em condições reais, fora de um laboratório ou de outro ambiente simulado, com vista a recolher dados fiáveis e sólidos e a avaliar e verificar a conformidade do sistema de IA com os requisitos do AI Act e não se considera como colocação do sistema de IA no mercado nem colocação do sistema de IA em serviço na aceção do regulamento, desde que estejam preenchidas todas as condições estabelecidas no artigo 57º ou no artigo 60º.
4.58 Participante
Para efeitos de testagem em condições reais, uma pessoa singular que participa na testagem em condições reais.
4.59 Consentimento informado
A expressão livre, específica, inequívoca e voluntária, por parte do participante, da sua vontade de participar numa dada testagem em condições reais, depois de ter sido informado de todos os aspetos da testagem que sejam relevantes para a sua decisão de participar.
4.60 Falsificações profundas (Deep Fakes)
Conteúdos de imagem, áudio ou vídeo gerados ou manipulados por IA, que sejam semelhantes a pessoas, objetos, locais, entidades ou acontecimentos reais, e que possam levar uma pessoa a crer, erroneamente, que são autênticos ou verdadeiros.
4.61 Infração generalizada
Uma ação ou omissão contrária à legislação da União Europeia que protege os interesses das pessoas, e que:
- Tenha prejudicado, ou seja suscetível de prejudicar, os interesses coletivos de pessoas que residam em, pelo menos, dois Estados-Membros que não o Estado-Membro no qual:
- o ato ou omissão tenha tido origem ou sido cometido,
- o prestador em causa ou, se aplicável, o seu mandatário esteja estabelecido, ou
- o responsável pela implantação esteja estabelecido, caso a violação seja cometida por este;
- Tenha prejudicado, ou seja suscetível de prejudicar, os interesses coletivos das pessoas e tenha características comuns, inclusive a mesma prática ilegal ou a violação de um mesmo interesse, e que seja cometida pelo mesmo operador em, pelo menos, três Estados-Membros em simultâneo.
4.62 Infraestrutura crítica
Uma infraestrutura crítica na aceção do artigo 2º, ponto 4, da Diretiva (UE) 2022/2557.
4.63 Modelo de IA de finalidade geral
Um modelo de IA, inclusive se for treinado com uma grande quantidade de dados utilizando a autossupervisão em escala, que apresenta uma generalidade significativa e é capaz de executar de forma competente uma vasta gama de tarefas distintas, independentemente da forma como o modelo é colocado no mercado, e que pode ser integrado numa variedade de sistemas ou aplicações a jusante, exceto os modelos de IA que são utilizados para atividades de investigação, desenvolvimento ou criação de protótipos antes de serem colocados no mercado.
4.64 Capacidades de elevado impacto
Capacidades que correspondem ou excedem as capacidades registadas nos modelos de IA de finalidade geral mais avançados.
4.65 Risco sistêmico
Um risco específico das capacidades de elevado impacto dos modelos de IA de finalidade geral que têm um impacto significativo no mercado da União Europeia devido ao seu alcance ou devido a efeitos negativos reais ou razoavelmente previsíveis na saúde pública, na segurança, na segurança pública, nos direitos fundamentais ou na sociedade no seu conjunto, que se pode propagar em escala ao longo da cadeia de valor.
4.66 Sistema de IA de finalidade geral (General-purpose AI system)
Um sistema de IA baseado num modelo de IA de finalidade geral, e com a capacidade de servir para diversas finalidades, tanto para utilização direta como para integração noutros sistemas de IA.
4.67 Operação de vírgula flutuante (Floating-point operation)
Qualquer operação matemática ou atribuição que envolva números em vírgula flutuante, que são um subconjunto dos números reais normalmente representados em computadores por um número inteiro de precisão fixa escalado por um expoente inteiro de uma base fixa.
4.68 Prestador a jusante (Downstream provider)
Um prestador de um sistema de IA, incluindo um sistema de IA de finalidade geral, que integra um modelo de IA, independentemente de o modelo de IA ser disponibilizado por si próprio e verticalmente integrado ou ser disponibilizado por outra entidade com base em relações contratuais.
5. Conclusão: o que é o AI Act
O AI Act representa um marco regulatório essencial no cenário contemporâneo, buscando equacionar dois desafios fundamentais da atualidade: incentivar a inovação tecnológica e garantir a proteção dos direitos fundamentais.
Por meio de um conjunto detalhado e abrangente de regras, a União Europeia estabelece parâmetros claros para o desenvolvimento, a implementação e a utilização dos sistemas de inteligência artificial, reforçando sua posição como referência global em matéria de governança tecnológica.
A regulação amplia a responsabilidade de prestadores, fabricantes e operadores de sistemas de IA, exigindo transparência, ética e segurança jurídica nas suas aplicações.
Além disso, a adoção do conceito de literacia em IA, previsto no artigo 4º, demonstra o compromisso europeu em preparar profissionais e cidadãos para lidarem criticamente com as oportunidades e riscos da inteligência artificial.
Apesar das críticas relacionadas a possíveis impactos negativos sobre o ritmo da inovação tecnológica, o AI Act oferece uma estrutura equilibrada, na qual a segurança jurídica e a proteção dos direitos convivem com o estímulo ao avanço tecnológico responsável.
Diante do crescente impacto global das tecnologias digitais, a influência desse regulamento vai além das fronteiras europeias, servindo como um importante ponto de partida para debates regulatórios em diversos países, inclusive o Brasil, e reafirmando a importância de legislações robustas e adaptáveis frente à rápida evolução tecnológica.
