Introdução

No dia 17 de fevereiro de 2022, pouco mais de um ano após assumir a Presidência do Senado Federal, o Senador Rodrigo Pacheco publicou um ato instituindo uma Comissão de Juristas responsável por subsidiar a elaboração de minuta de substitutivo para instruir a apreciação dos Projetos de Lei nºs 5.051, de 2019, 21, de 2020, e 872, de 2021, que têm como objetivo estabelecer princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da inteligência artificial no Brasil.

Nessa época, a inteligência artificial não era um assunto popular como é hoje. O ChatGPT só viria a ser lançado sete meses depois. A inteligência artificial generativa como conhecemos hoje não era acessível ao grande público.

No Brasil, o grande tema do Direito Digital era a proteção de dados pessoais. Uma semana antes do ato do Senador Rodrigo Pacheco, havia sido promulgada a Emenda Constitucional 115/2022, inserindo o direito à proteção de dados no art. 5º da Constituição Federal.

No entanto, assim como ocorreu com o tema da proteção de dados (com a influência do GDPR sobre a nossa LGPD), a regulação da inteligência artificial no Brasil foi também influenciada pelo que acontecia na União Europeia.

Em 2019, o Comitê ad hoc de Inteligência Artificial (CAHAI) do Conselho da Europa foi incumbido de examinar a viabilidade de um instrumento legal para regular o tema. Dois anos depois, uma primeira versão do texto que viria a ser o AI Act foi apresentado. Já em 2022, o comitê ad hoc foi sucedido pelo Comitê de Inteligência Artificial, que redigiu e negociou o texto final.

Tudo isso parece ter influenciado a decisão de criar a Comissão de Juristas no Senado Federal, onde já tramitavam os Projetos de Lei nºs 5.051, de 2019, 21, de 2020, e 872, de 2021, todos buscando regular a inteligência artificial.

Neste texto, vamos compilar o histórico da Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil, incluindo os seguintes tópicos:

O primeiro tópico a ser analisado é a própria designação da Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil.

A designação da Comissão de Juristas sobre IA

O Ato do Presidente do Senado Federal 4/2022 definiu o objeto da comissão de juristas e deu um prazo inicial de 120 dias para a conclusão dos trabalhos.

O ato dispunha que a comissão deveria receber sugestões da sociedade civil, realizar audiências públicas e promover seminários.

Assim, a comissão foi instalada em 30 de março de 2022, com previsão de término para 9 de agosto de 2022.

A ideia era ter uma análise dos projetos em tramitação até o começo do segundo semestre de 2022, logo após o retorno do recesso parlamentar. Na prática, o prazo foi estendido e os trabalhos só se encerraram no final do ano, em 7 de dezembro de 2022.

A composição da Comissão de Juristas sobre IA

O ato definiu que a composição seria formada por 18 especialistas em Direito e Tecnologia com conhecimentos na área de internet, proteção de dados e inteligência artificial.

Os especialistas designados foram:

Ricardo Villas Bôas Cueva (Presidente)

Ricardo Villas Bôas Cueva é ministro do Superior Tribunal de Justiça (STJ) desde 2011, além de possuir doutorado em Direito pela Universidade de Frankfurt, na Alemanha, e mestrado pela Harvard Law School, nos Estados Unidos. 

Com larga trajetória no serviço público e na advocacia, atuou como Conselheiro do CADE e Procurador da Fazenda Nacional. 

Assumiu a presidência da Comissão de Juristas instalada pelo Senado Federal com o objetivo de formular as diretrizes regulatórias e o anteprojeto de lei para a inteligência artificial no Brasil.

Laura Schertel Mendes (Relatora)

Laura Schertel Ferreira Mendes é professora associada de Direito Civil na Universidade de Brasília (UnB) e no IDP, além de doutora em Direito Privado pela Universidade Humboldt de Berlim, na Alemanha. 

É uma das maiores referências acadêmicas do país em privacidade, proteção de dados e direito digital, sendo autora de obras de referência na área. 

Ana Frazão

Ana de Oliveira Frazão é advogada, parecerista e professora de Direito Civil e Comercial da Universidade de Brasília (UnB). 

Ex-conselheira do Conselho Administrativo de Defesa Econômica (CADE), possui doutorado em Direito pela USP e tem vasta experiência em direito societário, concorrência, contratos e regulação econômica. 

Suas pesquisas e publicações têm forte enfoque no impacto das novas tecnologias e plataformas digitais na economia e na dinâmica dos mercados. Mantém o podcast Direito Digital em parceria com a professora Caitlin Mulholland.

Bruno Bioni

Bruno Ricardo Bioni é advogado, parecerista e fundador-diretor do Data Privacy Brasil, uma das principais associações de pesquisa e escola de proteção de dados no país. 

Doutor em Direito Comercial e mestre em Direito Civil pela Universidade de São Paulo (USP), realizou pesquisas como bolsista visitante em instituições internacionais de renome. 

É autor de livros influentes na área de direito digital e contribui ativamente com a formulação de políticas públicas sobre privacidade, inteligência artificial e proteção de dados pessoais.

Danilo Doneda

Danilo Cesar Maganhoto Doneda foi um jurista brasileiro especialista em privacidade e proteção de dados de projeção internacional. 

Professor do IDP e doutor em Direito Civil pela UERJ, Doneda é autor do célebre livro Da privacidade à proteção de dados e desempenhou papel indispensável na redação e aprovação da Lei Geral de Proteção de Dados (LGPD) no Brasil. 

Em setembro de 2022, Doneda foi diagnosticado com câncer. Três meses depois, ele veio a falecer, aos 52 anos, na mesma semana em que a Comissão de Juristas sobre IA encerrou seus trabalhos. 

Fabrício da Mota Alves

Fabrício da Mota Alves é advogado especialista em Direito Digital, privacidade e proteção de dados pessoais, sendo sócio do Serur Advogados. 

Foi indicado pelo Senado Federal para atuar como conselheiro titular do Conselho Nacional de Proteção de Dados Pessoais e da Privacidade (CNPD) da Agência Nacional de Proteção de Dados (ANPD). Sua trajetória de destaque no setor corporativo e regulatório o qualifica como uma voz proeminente nas discussões que buscam conciliar inovação tecnológica e conformidade regulatória nas empresas brasileiras.

Miriam Wimmer

Miriam Wimmer é servidora de carreira como Especialista em Políticas Públicas e Gestão Governamental e atuou como diretora da ANPD. 

Doutora em Comunicação pela Universidade de Brasília (UnB) e professora do IDP, possui longa experiência em cargos de liderança no governo federal nas áreas de telecomunicações, internet e sociedade da informação. 

É especialista de renome na articulação de diretrizes para o desenvolvimento seguro e ético de novas tecnologias de inteligência artificial.

Wederson Advincula Siqueira

Wederson Advincula Siqueira é advogado especializado em Direito Público e Direito Eleitoral, com reconhecida dedicação ao estudo e acompanhamento da democracia digital e das campanhas políticas contemporâneas. 

É membro da Academia Brasileira de Direito Eleitoral e Político (ABRADEP) e atua na linha de frente dos debates jurídicos relacionados ao controle da desinformação, liberdade de expressão e utilização responsável de sistemas computacionais avançados no cenário público.

Claudia Lima Marques

Claudia Lima Marques é professora titular e diretora da Faculdade de Direito da Universidade Federal do Rio Grande do Sul (UFRGS) e desembargadora do TJRS. 

Doutora em Direito pela Universidade de Heidelberg, na Alemanha, é considerada a maior autoridade do país em Direito do Consumidor, tendo liderado a comissão do Senado que revisou e atualizou as normas de consumo. 

Sua atuação na regulação de inteligência artificial visa garantir a proteção jurídica de sujeitos vulneráveis diante das decisões e práticas automatizadas.

Juliano Maranhão

Juliano Souza de Albuquerque Maranhão é professor associado e livre-docente da Faculdade de Direito da Universidade de São Paulo (USP) e diretor-presidente da Associação Lawgorithm de Pesquisa em Inteligência Artificial. 

Doutor pela USP com pesquisas avançadas financiadas pela Fundação Alexander von Humboldt, é também pesquisador associado do Centro de Inteligência Artificial da USP (C4AI) e membro de associações internacionais de IA e Direito, atuando na fronteira acadêmica que conecta lógica jurídica e sistemas de decisão algorítmica.

Thiago Luís Sombra

Thiago Luís Santos Sombra é professor de Direito Privado e Tecnologia na Universidade de Brasília (UnB) e sócio da área de Tecnologia, Cybersecurity e Proteção de Dados do escritório Mattos Filho. 

Ex-Procurador do Estado de São Paulo, possui vasta bagagem acadêmica e profissional voltada ao assessoramento jurídico preventivo e contencioso de grandes empresas globais de tecnologia, colaborando para a estruturação de políticas de governança e regulação de dados no país.

Georges Abboud

Georges Abboud é advogado, parecerista e professor de Direito Constitucional e Processual Civil na Pontifícia Universidade Católica de São Paulo (PUC-SP) e no IDP. 

Doutor em Direito pela PUC-SP, é autor de diversos livros conceituados sobre jurisdição constitucional, democracia e processo judicial. Sua atuação enfoca a necessidade de submeter as inovações tecnológicas e sistemas de inteligência artificial aos limites e garantias impostas pela ordem constitucional e pelo devido processo.

Frederico Quadros D’Almeida

Frederico Quadros D’Almeida é consultor legislativo do Senado Federal com especialização em comunicações e tecnologia da informação. 

No exercício de suas atribuições técnicas no parlamento, assessora senadores na formulação, refinamento e tramitação de leis de alto impacto social e econômico. 

Victor Marcel Pinheiro

Victor Marcel Pinheiro é consultor legislativo do Senado Federal e doutor em Direito do Estado pela Universidade de São Paulo (USP). 

Com produção voltada aos princípios e limites do devido processo legislativo, atua no suporte jurídico e técnico aos parlamentares para a formulação legislativa. 

Estela Aranha

Estela Aranha é advogada, ministra do Tribunal Superior Eleitoral (TSE) e pesquisadora de regulação digital no CEDIS/IDP. 

Reconhecida especialista no ecossistema de políticas públicas voltadas à tecnologia, exerceu a chefia da Secretaria de Direitos Digitais no Ministério da Justiça e Segurança Pública (MJSP) e presidiu a Comissão de Proteção de Dados e Privacidade do Conselho Federal da OAB. 

Clara Iglesias Keller

Clara Iglesias Keller é pesquisadora associada de pós-doutorado no WZB Berlin Social Science Center e lidera o grupo de pesquisa “Tecnologia, Poder e Dominação” no Weizenbaum Institute, na Alemanha. 

Doutora em Direito Público pela UERJ e mestre pela London School of Economics (LSE), é especialista em regulação de plataformas, desinformação digital e governança transnacional da internet. 

Mariana Valente

Mariana Giorgetti Valente é professora de Direito Econômico Internacional na Universidade de São Galo, na Suíça, e diretora associada do InternetLab, centro de pesquisa independente em direito e tecnologia. 

Doutora em Sociologia Jurídica pela Universidade de São Paulo (USP), é autora de trabalhos reconhecidos sobre privacidade, direitos autorais e violência de gênero online. 

Filipe Medon

Filipe Medon é advogado, professor de Direito Civil na Fundação Getúlio Vargas (FGV Direito Rio) e na UFRJ, além de doutor em Direito Civil pela UERJ. 

É autor do livro “Inteligência Artificial e Responsabilidade Civil: autonomia, riscos e solidariedade”, obra de destaque para o estudo jurídico das novas tecnologias.

As 11 reuniões da Comissão de Juristas sobre IA

1ª Reunião (30 de março de 2022): Instalação e deliberação do Regulamento Administrativo/Plano de Trabalho.

A primeira reunião, aberta pelo Senador Eduardo Gomes, destinou-se à instalação da comissão e deliberação do plano de trabalho. 

A reunião contou com a participação do Deputado Eduardo Bismarck, autor de proposição correlata na Câmara dos Deputados.

Os principais pontos discutidos foram:

• Abordagem Baseada em Riscos: Os membros debateram a conveniência de adotar uma regulação focada na gestão de riscos, semelhante às discussões em andamento na União Europeia e OCDE.
• Equilíbrio Regulatório: Destacou-se a necessidade de salvaguardar direitos fundamentais (como privacidade, igualdade e não discriminação) sem asfixiar a inovação tecnológica e o desenvolvimento econômico.
• Centralidade do Ser Humano: Reforçou-se a premissa de manter o controle humano sobre a tecnologia para mitigar vieses algorítmicos e discriminações estruturais.
• Temas Específicos Debatidos: Foram levantadas preocupações com o uso de inteligência artificial pelo setor público, a aplicação de reconhecimento facial em segurança pública e o direito autoral sobre bases de dados de treinamento.
• Regime de Responsabilidade Civil: Sugeriu-se evitar um regime único e rígido de responsabilidade civil, dada a multiplicidade de aplicações da tecnologia.

O regulamento e o plano de trabalho foram votados e aprovados de forma unânime pelos membros presentes. As atividades foram divididas em três etapas fundamentais:

1. Instalação e Participação Pública: Realização de audiências públicas temáticas programadas para abril e maio de 2022.
2. Debate e Intercâmbio Internacional: Execução de reuniões internas e de um seminário internacional previsto para junho de 2022.
3. Consolidação e Redação: Elaboração final do texto do substitutivo, com entrega prevista para 12/08/2022 após suspensão programada das atividades.

Os debates das audiências públicas foram planejados em quatro eixos temáticos: conceitos e classificação; impactos socioeconômicos; direitos e deveres; e governança, fiscalização e responsabilidade.

2ª Reunião (28 de abril de 2022): Audiência Pública

A segunda reunião abrigou os três primeiros painéis da primeira audiência pública da comissão. Os painéis foram os seguintes:

Painel 1: Inteligência artificial e regulação: qual é o objeto a ser regulado e os aspectos sociotécnicos da inteligência artificial

Expositores:

• Prof. Virgílio Almeida
• Loren Spíndola
• Fabro Steibel
• Ig Bittencourt
• Tanara Lauschner

Painel 2: Inteligência artificial e regulação: modelos de regulação e abordagem

Expositores:

• Luca Belli
• José Renato Laranjeiras
• Tainá Aguiar Junquilho
• Ana Paula Bialer
• Ivar Hartmann

Painel 3: Fundamentos e princípios

Expositores:

• Dora Kaufman
• Caroline Tauk
• Gabrielle Bezerra Sarlet
• Edson Prestes
• Paulo Rená da Silva Santarém

Os tópicos discutidos nos painéis foram:

Definição do Objeto e Aspectos Sociotécnicos

• Especificidade Tecnológica: Defendeu-se a regulação da IA por espécies e aplicações detalhadas em anexos revisáveis, em vez de uma definição genérica de gênero, protegendo a inovação de baixo risco e excluindo ferramentas de automação simples.
• Matriz de Riscos: Propôs-se uma estrutura regulatória escalonada (usos proibidos, alto risco, risco moderado e incentivável), inspirada no modelo europeu e adaptada às peculiaridades socioeconômicas do mercado brasileiro.

Modelos de Regulação e Abordagem

• Críticas ao Texto do PL 21/2020: O projeto foi classificado por representantes da sociedade civil como insuficiente, operando por vezes como um projeto de desregulação que fragiliza direitos consolidados na LGPD e no Código de Defesa do Consumidor, além de pecar pela omissão de mecanismos de governança.
• Regulação Responsiva: Sugeriu-se a aplicação de um modelo flexível que conjugue incentivos à autorregulação (soft law) com mecanismos de comando e controle, utilizando sandboxes regulatórios para testar sistemas antes da inserção no mercado.

Governança e Arranjo Institucional

• Modelagem de Supervisão: Debateu-se a conveniência de criar uma agência reguladora central e especializada (composta por cientistas de dados e juristas) versus a manutenção de uma fiscalização descentralizada pelas agências setoriais já existentes (Anvisa, Anatel, CNJ), estruturando-se um comitê multissetorial de coordenação técnica e política.

Fundamentos, Princípios e Responsabilidade Civil

• Regime de Responsabilidade: Avaliou-se a adoção de responsabilidade objetiva para sistemas de alto risco e subjetiva para as demais hipóteses. Defendeu-se que a adesão comprovada a obrigações de meio, auditorias de dados e certificações técnicas atue como causa de exclusão da responsabilidade objetiva.
• Direitos Fundamentais e Antirracismo: Destacou-se a necessidade de prever o princípio do antirracismo e a equidade material explicitamente no texto, visando mitigar o racismo algorítmico e os vieses discriminatórios estruturais em sistemas de segurança pública e reconhecimento facial.
• Transparência e Explicabilidade: Definiu-se que a explicabilidade deve assegurar o devido processo informacional e a contestabilidade de decisões automatizadas, equilibrando o direito à informação com o segredo comercial por meio de diferentes níveis de auditoria (focados em variáveis iniciais e bases de dados).

3ª Reunião (29 de abril de 2022): Audiência Pública

Painel 4 – Contexto econômico-social e benefícios: desenvolvimento sustentável e bem-estar; concorrência e inovação; consumo e marketing, pesquisa e desenvolvimento de inteligência artificial; bases de dados, direito autoral e mineração.

Expositores:

• Rosilda Prates
• Gustavo Xavier de Camargo
• Samanta Oliveira
• Mariane Schettert
• Allan Rocha de Souza
• Rogéria Leoni Cruz

Resumo dos tópicos discutidos:

• Defesa de uma regulação baseada em riscos e vinculada à finalidade de uso da tecnologia, evitando o engessamento de pesquisas e do ecossistema de inovação industrial.
• Sugerido regime de responsabilidade civil proporcional ao nível de risco, aplicando responsabilidade subjetiva para os casos de menor criticidade.
• Debatida a necessidade urgente de qualificação da força de trabalho e inclusão digital na educação básica para preparar a população para a nova economia tecnológica.
• Proposta a criação de exceção legal explícita para mineração de textos e dados com fins de pesquisa e desenvolvimento, garantindo segurança jurídica sem ferir direitos autorais.
• Sinalizada a relevância da IA no setor da saúde para otimização de recursos e precisão diagnóstica, resguardando a autonomia médica e a mitigação de vieses em dados sensíveis.

Painel 5 – Experiências setoriais: segurança pública, execução de políticas públicas, inovação na indústria, transformação digital nas empresas, proteção à criança.

Expositores:

• Pedro Hartung
• Crisleine Yamaji
• Gianna Cardoso Sagazio
• Sergio Paulo Gallindo
• Bruno Jorge Soares

Resumo dos tópicos discutidos:

• Foco nos direitos de crianças e adolescentes frente à modulação comportamental para o consumo, publicidade microssegmentada e impactos do perfilamento automatizado.
• Defesa do princípio do melhor interesse da criança aplicado por design no ciclo de desenvolvimento, em conformidade com as diretrizes constitucionais e o Estatuto da Criança e do Adolescente.
• Uso de IA no setor bancário para prevenção a fraudes, segurança cibernética e biometria, alertando para os riscos de superposições e bitributação de softwares.
• Crítica à imposição de responsabilidade objetiva irrestrita e à centralização da fiscalização em uma agência única, recomendando a atuação técnica de órgãos reguladores setoriais já existentes.
• Impactos na Indústria 4.0 e 5.0, ressaltando o ganho de produtividade global e propondo o uso de sandboxes regulatórios para equilibrar governança com fomento tecnológico.

Painel 6 – Inteligência artificial e riscos: gradação de riscos; hipóteses de riscos inaceitáveis e princípio da precaução.

Expositores:

• Maria Cecília Oliveira Gomes
• Priscila Lauande Rodrigues
• João Paulo Candia Veiga
• Heloisa Estellita
• André Lucas Fernandes

Resumo dos tópicos discutidos:

• Abordagem metodológica de gestão de risco orientada aos direitos fundamentais, com a implementação de avaliações de impacto ex ante para prevenir danos sistêmicos.
• Riscos decorrentes da gestão algorítmica e do perfilamento no ambiente de trabalho e nas plataformas digitais, com foco em transparência e minimização de dados de funcionários.
• Proposta de criação de consórcios regulatórios e protocolos de aprendizado mútuo entre o Estado e as empresas para classificar os níveis de risco de forma dinâmica.
• Reflexões do direito penal sobre a quebra da previsibilidade (dolo e culpa) decorrente da opacidade algorítmica, com foco em armas autônomas letais e veículos autônomos.
• Alerta sobre os riscos sistêmicos do racismo algorítmico e defesa do banimento do reconhecimento facial na segurança pública devido aos altos índices de erro e danos irreparáveis.

4ª Reunião (12 de maio de 2022): Audiência Pública

Painel 7 – Inteligência artificial e riscos: vieses e discriminação

Expositores:

• Jamila Venturini
• Tarcízio Silva
• Denise Carvalho
• Silvio Almeida

Resumo dos tópicos discutidos:

• Afirmação da não neutralidade da tecnologia e análise de como sistemas de inteligência artificial reproduzem e exacerbam assimetrias e discriminações estruturais e raciais presentes na sociedade.
• Apresentação de pesquisas empíricas sobre a incidência de vieses em bases de dados e modelos algorítmicos (como a representação de famílias em bancos de imagens, sistemas preditivos em políticas sociais e a distribuição do auxílio emergencial).
• Defesa da obrigatoriedade de avaliações prévias de impacto em direitos humanos com perspectiva de gênero, raça e classe antes do emprego de sistemas de IA, principalmente pelo poder público.
• Proposta de moratória ou banimento de tecnologias de alto risco que promovam vigilância em massa ou violem direitos fundamentais, com destaque para o uso de reconhecimento facial na segurança pública.
• Inclusão expressa do antirracismo na legislação, fomento a práticas educativas voltadas à cidadania digital e instituição de mecanismos de controle democrático sobre o desenvolvimento e uso da tecnologia.

Painel 8 – Atributos do design sociotécnico de confiabilidade da inteligência artificial: segurança, acurácia, transparência, rastreabilidade e monitoramento

Expositores:

• Diogo Cortiz
• Fernanda Viegas
• Rodolfo Avelino
• Alexandre Pacheco da Silva
• Nina da Hora

Resumo dos tópicos discutidos:

• Compreensão da inteligência artificial não como uma tecnologia única, mas como uma área do conhecimento com aplicações, técnicas e níveis de risco muito distintos.
• Abordagem da explicabilidade e da interpretabilidade de forma ajustada aos diferentes perfis de usuários (desenvolvedores, profissionais do domínio específico e cidadãos leigos).
• Defesa de padrões formais de documentação contínua do ciclo de vida dos modelos e bases de dados (como Model Cards e Datasheets) para garantir a rastreabilidade e a auditabilidade das decisões.
• Importância da gestão e custódia de dados, da cibersegurança e do enquadramento das infraestruturas de tecnologia da informação no rol de infraestruturas críticas nacionais.
• Uso do design centrado no ser humano e adaptado à cultura brasileira, enfatizando que a IA não resolve problemas sociais por si só e exige metodologias participativas.

Painel 9 – Direitos e deveres: transparência e explicabilidade; revisão e o direito à intervenção humana e a correção de vieses

Expositores:

• Bianca Kremer
• Bruno Miragem
• Renato Leite Monteiro
• Diego Machado

Resumo dos tópicos:

• Análise crítica do uso de IA pelo setor público e questionamento sobre a conveniência de adotar certas tecnologias preditivas em áreas sensíveis e de distribuição de benefícios sociais.
• Integração e diálogo de fontes entre o novo marco legal e o ordenamento jurídico vigente (CDC, LGPD e Código Civil), ponderando sobre a noção de defeito do produto/serviço e regimes de responsabilidade por riscos imprevistos.
• Conceituação da explicabilidade como o direito de acesso a informações inteligíveis e relevantes para o cidadão, compatibilizando a transparência com a proteção ao segredo comercial e à propriedade intelectual.
• Construção do princípio e direito à contestabilidade (contestability by design e ex post), garantindo condições materiais e técnicas para impugnar decisões e predições automatizadas.
• Redefinição da intervenção humana para além da revisão manual individualizada, compreendendo-a de forma holística em todas as etapas de desenvolvimento, testagem e execução do software.

5ª Reunião (13 de maio de 2022): Audiência Pública

Painel 10 – Regimes de responsabilidade civil

Expositores:

• Anderson Schreiber
• Caitlin Mulholland
• Nelson Rosenvald
• Gisela Sampaio

Resumo dos tópicos discutidos:

• Discussão sobre a desnecessidade ou a inconveniência de incluir regras gerais de responsabilidade civil na lei ordinária sobre IA, recomendando a aplicação sistemática do arcabouço jurídico já existente (Código Civil, Código de Defesa do Consumidor e LGPD).
• Crítica à previsão de responsabilidade civil subjetiva como regra geral para os agentes de IA, conforme constava no PL 21/2020.
• Defesa da incidência da responsabilidade civil objetiva pautada no risco da atividade (Art. 927, parágrafo único, do Código Civil) ou no defeito do produto/serviço, especialmente para aplicações de alto risco e relações de consumo.
• Impossibilidade de adoção de um regime único e abstrato de responsabilidade civil para todas as aplicações de inteligência artificial, dada a diversidade de tipos, níveis de autonomia e contextos fáticos de uso.
• Distinção entre a responsabilidade dos desenvolvedores/fornecedores da tecnologia e a responsabilidade dos usuários finais ou profissionais (ex.: médicos, proprietários de veículos).
• Importância de mecanismos complementares à responsabilidade civil, tais como seguros obrigatórios, fundos coletivos de compensação e deveres de governança e prestação de contas (accountability e answerability).
• Complexidades ligadas à comprovação do nexo de causalidade, à opacidade algorítmica (black box) e à identificação de danos individuais e coletivos.

Painel 11 – Arranjos institucionais de fiscalização: comando e controle, regulação responsiva e o debate sobre órgão regulador

Expositores:

• Fernando Filgueiras
• Andriei Gutierrez
• Raquel Lima Saraiva
• Rafael Zanatta
• Rony Vainzof
• Paloma Mendes

Resumo dos tópicos discutidos:

• Debate sobre a estrutura do modelo regulatório: rejeição de uma agência reguladora única e centralizada em favor de um modelo descentralizado, policêntrico e setorial, utilizando as agências e órgãos especializados já existentes (como Anvisa, Bacen, Cade, ANPD).
• Proposta de criação de um conselho ou comitê central multissetorial e interministerial para coordenar, harmonizar diretrizes e promover a interoperabilidade entre os reguladores setoriais.
• Defesa da regulação responsiva e da autorregulação regulada (códigos de conduta e corregulação) em contraposição a modelos puramente punitivistas de comando e controle.
• Adoção de uma abordagem baseada em risco (risk-based approach), calibrando obrigações e a intervenção estatal de forma proporcional aos níveis de risco das aplicações.
• Necessidade de ir além de discursos principiológicos abstratos, estabelecendo obrigações concretas de governança, relatórios de impacto algorítmico, auditorias e devida diligência em direitos humanos.
• Análise da aplicação do Direito Administrativo Sancionador e a previsão de uma gradação de sanções administrativas.

Painel 12 – Instrumentos regulatórios para inovação: códigos éticos e melhores práticas; avaliações de impacto; sandboxes e outros

Expositores:

• Carlos Affonso Souza
• Marcela Mattiuzzo
• Norberto Andrade
• James Görgen
• Bruno Magrani
• Ricardo Campos

Resumo dos tópicos discutidos:

• Análise de instrumentos regulatórios alternativos e flexíveis para fomentar a inovação sem comprometer a proteção a direitos fundamentais em cenários de incerteza tecnológica.
• Utilização de sandboxes regulatórios e prototipagem de políticas públicas (como o projeto Open Loop) para testar e avaliar soluções e normas em ambientes controlados antes da promulgação definitiva.
• Transição de cartas de princípios éticos abstratos para a prática concreta por meio de avaliações de impacto algorítmico, diretrizes operacionais e documentação técnica (como Model Cards).
• Aplicação de regulação assimétrica e proporcional ao grau de risco das aplicações de IA, observando a necessidade de mitigar custos de conformidade para startups e pequenas empresas.
• Papel do Estado na indução de boas práticas e padrões éticos por meio do poder de compra pública (compras públicas e encomendas tecnológicas).
• Importância do alinhamento ao contexto socioeconômico brasileiro e da garantia de participação multissetorial na construção da governança de IA.

6ª reunião (18 de maio de 2022): Balanço das Audiências Públicas

A 6ª Reunião da Comissão de Juristas sobre Inteligência Artificial, realizada sob a presidência do Ministro Ricardo Villas Bôas Cueva, aprovou as atas das reuniões anteriores e registrou a prorrogação do prazo para envio de contribuições escritas até 10/06/2022. 

O foco da reunião foi a apresentação, pela relatora Laura Schertel Mendes, do balanço consolidado dos quatro dias de audiências públicas promovidas pelo colegiado.

A relatora apontou a convergência dos especialistas sobre a necessidade de regulação multissetorial com abordagem baseada em riscos, abrangendo o setor privado e o poder público, com atenção à lacuna normativa na área criminal. 

O relatório ressaltou a importância de ir além de declarações de princípios, adotando procedimentos prévios de avaliação de impacto aos direitos humanos, previsão de banimento para usos de risco inaceitável e parâmetros específicos para setores como saúde, proteção de crianças e mineração de dados para pesquisa científica.

Os debates também evidenciaram a urgência de mecanismos antidiscriminatórios concretos e de auditoria para conter a reprodução de vieses e do racismo estrutural em decisões estatais automatizadas. 

No âmbito da governança e fiscalização, registraram-se críticas à responsabilidade civil exclusivamente subjetiva constante do PL 21/2020, sugerindo-se a responsabilidade objetiva para hipóteses de alto risco, além da necessidade de definição de arranjos institucionais claros de supervisão e coordenação regulatória.

Após este balanço, a Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil realizou novas audiências públicas, desta vez focadas em trazer convidados estrangeiros para debater o tema.

7ª reunião (9 de junho de 2022): Seminário Internacional

Painel 1 – Democracia e direitos fundamentais: fundamentos da regulação de Inteligência Artificial

Expositores:

• Wolfgang Hoffmann-Riem
• Mireille Hildebrandt
• Maria Paz Canales
• Stuart Russell

Resumo dos tópicos discutidos:

• Reconhecimento da superação da autorregulação pura e da necessidade de intervenção normativa estatal para conter assimetrias de poder e proteger a democracia.
• Foco da regulação nos impactos e riscos concretos causados às pessoas e instituições, exigindo avaliações prévias de impacto sobre direitos fundamentais.
• Necessidade de salvaguardas por design, mitigação contínua de danos e estabelecimento de supervisão humana tecnicamente qualificada e dotada de poder decisório real.
• Desmistificação da neutralidade técnica e defesa da proibição categórica de usos de risco inaceitável, com destaque para a vigilância biométrica em massa e armas autônomas letais.
• Limitações das definições puramente técnicas de IA e alertas quanto à manipulação comportamental e à perda de autonomia individual provocada por sistemas automatizados.

Painel 2 – Desafios da regulação da inteligência artificial numa análise comparativa das experiências internacionais

Expositores:

• Irina Orssich
• Indra Spiecker Genannt Döhmann
• Jake Okechukwu Effoduh
• Hans Wolfgang Micklitz

Resumo dos tópicos discutidos:

• Apresentação da arquitetura regulatória europeia (AI Act), com abordagem horizontal baseada em níveis de risco (inaceitáveis, altos, médios e mínimos) e integrada ao GDPR.
• Defesa de padrões materiais substantivos em oposição a exigências puramente procedimentais, acompanhados de fiscalização de mercado e sanções administrativas efetivas.
• Perspectiva do Sul Global para evitar o imperialismo algorítmico, aprofundando o debate sobre desigualdades estruturais, neutralidade e fomento à inovação tecnológica local.
• Incorporação da tutela do consumidor e do Direito Privado, destacando a vulnerabilidade e a assimetria digital estrutural gerada pela dependência de grandes plataformas.
• Crítica à insuficiência do consentimento formal e debate sobre a redistribuição ou inversão do ônus da prova contra práticas comerciais desleais e manipulações algorítmicas.

Painel 3 – Transparência e devido processo nas decisões automatizadas

Expositores:

• Bojana Bellamy
• Anupam Chander
• Carly Kind
• Marc Rotenberg
• Nanjira Sambuli

Resumo dos tópicos discutidos:

• Harmonização entre normas de IA e leis de proteção de dados (como LGPD e GDPR), com ênfase em accountability, corregulação e utilização de sandboxes regulatórios.
• Debate sobre a falácia da neutralidade algorítmica e a insuficiência da mera abertura de código, priorizando auditorias de inputs e outputs e ações afirmativas algorítmicas para mitigar vieses históricos.
• Exigência de transparência substantiva e publicidade em sistemas decisórios do setor público, assegurando o devido processo legal e remédios para contestação pelos indivíduos.
• Adoção de métricas de preservação de valores democráticos e fixação de linhas vermelhas contra a discriminação sistemática e sistemas de controle social.
• Impactos do emprego de inteligência artificial em países em desenvolvimento (com foco na experiência do Quênia), alertando contra a sobreposição de metas de eficiência sobre garantias sociais e direitos humanos.

8ª reunião (10 de junho de 2022): Seminário Internacional

Painel 4: Proteção de dados e regulação da inteligência artificial

Expositores:

• Gabriela Zanfir-Fortuna
• Alessandro Mantelero
• Teki Akuetteh
• Robin Wetherill

Resumo dos tópicos discutidos:

• Evolução histórica da proteção de dados pessoais e sua aplicação às decisões automatizadas e algorítmicas, com comparações entre GDPR e LGPD.
• Avaliação de impacto sobre direitos humanos e fundamentais em contraste com avaliações de impacto em proteção de dados, destacando abordagens preventivas (ex ante) e baseadas em risco.
• Limites da legislação de proteção de dados para abranger todo o ciclo de vida da inteligência artificial, especialmente quanto a dados não pessoais, públicos ou industriais.
• Atuação prática e precedentes de agências reguladoras (como a Federal Trade Commission nos Estados Unidos e autoridades europeias) em temas como reconhecimento facial, biometria e discriminação algorítmica.
• Compatibilidade e necessidade de complementação entre os princípios clássicos de proteção de dados (como finalidade e minimização) e o ecossistema de inteligência artificial.

Painel 5: Técnicas Regulatórias e Abordagem baseada em Risco

Expositores:

• Eike Gräf
• Pam Dixon
• Courtney Lang

Resumo dos tópicos discutidos:

• A proposta regulatória horizontal do AI Act da União Europeia, estruturada em níveis de risco, requisitos documentais e procedimentos de conformidade para provedores e usuários.
• Necessidade de governança, controles de qualidade pré-mercado e padronização administrativa para lidar com o ciclo de vida e a rápida expansão global de sistemas de machine learning.
• Distinção técnica e prática entre transparência e explicabilidade, tratando a transparência como instrumento de mitigação de riscos e accountability.
• Equilíbrio regulatório para evitar extremos de prescrição excessiva (comando e controle) ou autorregulação pura, buscando flexibilidade através de princípios interoperáveis e normas técnicas.
• Importância de harmonização global de padrões e alinhamento com diretrizes internacionais, como as recomendações da OCDE.

Painel 6: Mercados e Expertise: perspectivas setoriais

Expositores:

• Christian Troncoso
• Pat Aufderheide
• Christina Montgomery

Resumo dos tópicos discutidos:

• Governança corporativa, responsabilização multissetorial e o papel de comitês de ética no ciclo de vida de soluções de inteligência artificial em empresas privadas.
• Relevância da mineração de textos e dados (Text and Data Mining – TDM) para a pesquisa acadêmica e a necessidade de exceções regulatórias e de direitos autorais no modelo brasileiro.
• Impactos do avanço tecnológico no mercado de trabalho e na economia, ressaltando a demanda por capacitação e adaptação da força de trabalho.
• Mecanismos de corregulação, interoperabilidade e criação de frameworks de gerenciamento de risco adaptados a contextos setoriais específicos.
• Tensões e interfaces entre a exigência de grandes volumes de dados (incluindo acesso a dados públicos) para treinar modelos e o cumprimento das normas de privacidade e proteção de dados.

Painel 7: Sistemas de responsabilização

Expositores:

• Teresa Rodríguez de las Heras Ballell
• David Vladeck
• Mafalda Miranda Barbosa

Resumo dos tópicos discutidos:

• Modelos de imputação de responsabilidade civil em IA (responsabilidade subjetiva com presunção de culpa versus responsabilidade objetiva baseada em risco) e a refutação da tese de personalidade jurídica aos algoritmos.
• Delimitação conceitual entre a responsabilidade do produtor (defeito do produto) e a responsabilidade do operador (front-end e back-end, baseado em controle e benefício), no âmbito de ecossistemas tecnológicos complexos.
• Desafios impostos pela autonomia decisória e complexidade multi-fornecedor, com ênfase em casos de veículos autônomos e acidentes com produtos inteligentes.
• Papel de instrumentos de garantia e compensação, como seguros obrigatórios e fundos de garantia com caráter subsidiário, além do debate sobre limites indenizatórios.
• Readequação da legislação de responsabilidade por produtos defeituosos perante produtos intangíveis, atualizações contínuas de software e a reavaliação do nexo de causalidade via imputação objetiva.

Esta reunião encerrou a série de audiências públicas e seminários. A Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil só voltou a se reunir quatro meses depois, para uma curta reunião de trabalho.

9ª reunião (20 de outubro de 2022): Minuta do relatório

Após as audiências públicas, a relatora Laura Schertel apresentou na nona reunião a primeira minuta do substitutivo aos Projetos de Lei nº 5.051/2019, nº 21/2020 e nº 872/2021, organizada da seguinte forma: 

• Capítulo 1: Disposições preliminares: âmbito de aplicação, princípios, fundamentos e definições
• Capítulo 2: Direitos
• Capítulo 3: Avaliação e categorização de riscos, incluindo critérios e avaliação de impacto algorítmico
• Capítulo 4: Governança de sistemas de IA, documentação e exigências para alto risco
• Capítulo 5: Responsabilidade civil
• Capítulo 6: Supervisão e fiscalização
• Disposições Finais (mineração de dados, pesquisa e direitos autorais).

A reunião também serviu para prestação de contas e balanço das etapas anteriores, com destaque para a realização das audiências públicas, do seminário internacional e a consolidação de 102 contribuições recebidas por consulta pública, organizadas em eixos temáticos com o apoio da Consultoria do Senado.

Houve manifestação de apoio dos membros da comissão à arquitetura normativa apresentada pela relatoria.

Por fim, fixou-se o cronograma para a fase final de trabalhos da comissão, com previsão de reuniões deliberativas em novembro e dezembro de 2022, com reunião de apresentação final do relatório e minuta do projeto em 7 de dezembro de 2022.

10ª reunião (1º de dezembro de 2022): Apresentação do relatório

A 10ª Reunião da Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil teve como objetivo principal a deliberação e votação do relatório final e da minuta de substitutivo aos Projetos de Lei nº 5.051/2019, nº 21/2020 e nº 872/2021. 

Na abertura, o Presidente Ricardo Villas Bôas Cueva destacou o esforço do colegiado e prestou homenagem ao Professor Danilo Doneda, ausente por razões de saúde, reconhecendo seu papel histórico na área de proteção de dados e sua colaboração aos trabalhos da comissão. Doneda viria a falecer três dias depois, conforme informado no início deste texto.

A apresentação foi conduzida pela relatora, Professora Laura Schertel Mendes, que detalhou a metodologia de trabalho adotada desde março de 2022. 

O processo envolveu a realização de audiências públicas com mais de 50 especialistas, um seminário internacional, além da consolidação de mais de 100 contribuições escritas recebidas em consulta pública. 

Para a redação da proposta, foram organizados cinco subgrupos temáticos coordenados por integrantes da comissão (Danilo Doneda, Miriam Wimmer, Clara Iglesias Keller, Bruno Bioni e Mariana Valente), responsáveis pelos eixos de princípios, direitos/governança, classificação de riscos, inovação e supervisão.

Conteúdo do Relatório e Estrutura do Anteprojeto

O anteprojeto estruturou-se em torno de uma base principiológica abrangente e de três pilares centrais:

• Conceitos e Princípios Fundamentais: Fixou definições operacionais para sistema de inteligência artificial, fornecedor e operador (ambos enquadrados como agentes de IA). Estabeleceu princípios como não discriminação, supervisão humana efetiva, transparência, explicabilidade, prestação de contas, devido processo legal, segurança da informação e precaução.
• Primeiro Pilar (Rol de Direitos dos Afetados): Assegurou direitos oponíveis às autoridades e aos agentes de IA de forma independente da faixa de risco, tais como: direito à informação prévia sobre interações com sistemas automatizados, explicação dos critérios decisórios, contestação de decisões com impacto relevante, determinação e participação humana, não discriminação e privacidade de dados.
• Segundo Pilar (Categorização e Gradação de Riscos):
  • Risco Excessivo (Usos Vedados): Proibição de sistemas com técnicas subliminares prejudiciais à saúde ou segurança, sistemas que explorem vulnerabilidades de grupos específicos (idade ou deficiência) e mecanismos de pontuação social universal (social scoring) pelo poder público. Para o reconhecimento biométrico remoto em segurança pública em tempo real, exigiu-se autorização por lei federal específica.
  • Alto Risco (Rol Taxativo): Classificação de sistemas aplicados em infraestruturas críticas, educação, recrutamento/triagem de trabalhadores, serviços públicos e privados essenciais, avaliação de crédito, administração da justiça, veículos autônomos, saúde e diagnósticos médicos, controle de fronteiras e investigação criminal. A entrada no mercado foi condicionada à realização de avaliação prévia de risco e elaboração de relatório de impacto algorítmico.
• Terceiro Pilar (Medidas de Governança e Transparência): Imposição de deveres de documentação, registro automático de operações (logs), testes de confiabilidade, governança de dados para mitigar vieses, equipes de desenvolvimento inclusivas e medidas técnicas de explicabilidade. O texto estabeleceu obrigações adicionais para o poder público, incluindo consultas públicas prévias e protocolos de transparência.
• Regime de Responsabilidade Civil e Fiscalização: Estabeleceu a responsabilidade objetiva (independente de culpa) para fornecedores e operadores de sistemas de alto risco ou risco excessivo, na medida de sua participação no dano. Para as demais hipóteses (baixo ou médio risco), adotou-se a responsabilidade subjetiva com presunção de culpa e inversão do ônus da prova em benefício da vítima, preservando-se as regras do Código de Defesa do Consumidor nas relações de consumo. O modelo institucional previu a indicação de uma autoridade competente pelo Poder Executivo para fiscalizar, aplicar sanções administrativas, atualizar o rol de alto risco, regulamentar sandboxes regulatórios e garantir salvaguardas para mineração de textos e dados.

Deliberação e Aprovação do Relatório

Após a exposição da relatora, o Presidente colocou o relatório final em discussão e, em seguida, em votação. 

O relatório foi aprovado por unanimidade pelos juristas presentes, porém sua íntegra não foi divulgada ao público. 

Nos pronunciamentos finais, os membros Fabrício da Mota Alves, Filipe Medon e Juliano Maranhão, juntamente com a relatora e o presidente, ressaltaram o consenso coletivo atingido em temas complexos, reiteraram homenagens ao pioneirismo do Professor Danilo Doneda e destacaram o foco da regulação na centralidade do ser humano e na conformidade constitucional.

A reunião foi encerrada às 11h04, com o anúncio de que a entrega formal e solene do relatório ao Presidente do Senado Federal, Senador Rodrigo Pacheco, e ao relator no Senado, Senador Eduardo Gomes, ocorreria no dia 6 de dezembro, data em que o documento seria tornado público.

11ª reunião (6 de dezembro de 2022): Entrega do relatório

A 11ª reunião da  Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil marcou o encerramento formal dos trabalhos do colegiado antes do ato solene de entrega do relatório final e da minuta de substitutivo ao Presidente do Senado Federal, Senador Rodrigo Pacheco.

O Presidente da comissão, Ministro Ricardo Villas Bôas Cueva, abriu a reunião destacando o cumprimento do cronograma de 240 dias de atividades (prazo original de 120 dias prorrogado por igual período). 

Durante a reunião, foi feita uma retrospectiva de todo o processo de instrução, que envolveu doze painéis de audiências públicas nacionais, 102 contribuições recebidas por consulta pública, divisão em cinco subgrupos temáticos de trabalho e a realização de um seminário internacional com sete painéis.

Relatório entregue

O produto final consolidado consiste em um documento de 908 páginas acompanhado de uma exposição de motivos e de um anteprojeto de substitutivo composto por pouco mais de 40 artigos. 

Os membros destacaram que o texto final foi construído de forma unânime e consensual, integrando a proteção de direitos fundamentais, a mitigação de riscos e a segurança jurídica para a inovação.

Durante os pronunciamentos, todos os membros prestaram homenagens póstumas à memória do Professor Danilo Doneda, integrante da comissão e pioneiro do Direito Digital no Brasil. 

Ao final, foi aprovada a ata da 11ª reunião, e os trabalhos foram encerrados para a entrega imediata do relatório ao Presidente do Senado Federal, Senador Rodrigo Pacheco, e ao relator da matéria na Casa, Senador Eduardo Gomes.

Relatório final da Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil

O Relatório Final da Comissão de Juristas responsável por subsidiar a elaboração de substitutivo sobre Inteligência Artificial no Brasil apresenta um panorama completo dos trabalhos realizados para instruir a apreciação dos Projetos de Lei nºs 5.051/2019, 21/2020 e 872/2021.

O documento foi estruturado em sete capítulos principais e cinco apensos complementares:

• Exposição de Motivos e Minuta de Substitutivo: Apresenta a justificativa teórica e política da proposta, acompanhada pelo texto da minuta do projeto de lei.
• Relatório de Atividades: Detalha o plano e a metodologia de trabalho adotados pela comissão.
• Audiências Públicas: Sintetiza as exposições de especialistas realizadas durante doze painéis temáticos.
• Seminário Internacional: Reúne as contribuições de especialistas internacionais em sete painéis de discussão.
• Contribuições Escritas: Sistematiza as 103 manifestações enviadas por entidades públicas, privadas, acadêmicas e da sociedade civil.
• Estudo da OCDE: Analisa a experiência regulatória de 31 países integrantes da Organização para a Cooperação e Desenvolvimento Econômico.
• Conclusão dos Trabalhos: Encerra o relatório formalizando a entrega da proposta ao Senado Federal.
• Apensos I a V: Compilam os extratos das audiências, do seminário internacional, das contribuições escritas e do mapeamento comparado internacional.

Exposição de Motivos

A Exposição de Motivos fundamenta a necessidade de um marco legal abrangente para a inteligência artificial no Brasil. 

O texto estabelece que não há incompatibilidade entre a proteção de direitos fundamentais e o desenvolvimento econômico e tecnológico.

A proposta combina uma abordagem baseada em direitos com um modelo regulatório pautado na gradação de riscos. 

O peso da intervenção estatal cresce conforme aumentam os potenciais impactos negativos do sistema de IA na vida dos cidadãos.

O documento define garantias gerais e transversais para qualquer interação entre seres humanos e sistemas automatizados, tais como o direito à informação e à transparência. 

Para sistemas que produzem efeitos jurídicos relevantes ou impactos significativos, a proposta intensifica os deveres dos agentes, garantindo o direito à contestação e à intervenção humana.

A Exposição de Motivos estabelece três categorias principais de risco:

1. Risco Excessivo (Inaceitável): Veda o uso de sistemas que utilizem técnicas subliminares para induzir comportamentos nocivos, explorem vulnerabilidades de grupos específicos ou promovam a pontuação social (social scoring) pelo poder público. O uso de identificação biométrica à distância em espaços públicos exige lei federal específica e autorização judicial.
2. Alto Risco: Exige a aplicação de medidas rigorosas de governança, incluindo a realização obrigatória da Avaliação de Impacto Algorítmico e o registro público dos relatórios.
3. Risco Geral (Baixo ou Moderado): Aplica medidas gerais de governança, transparência e mitigação de vieses.

O texto busca refletir a realidade social brasileira ao incorporar definições de discriminação direta e indireta alinhadas à Convenção Interamericana contra o Racismo. A proposta concede atenção especial à proteção de grupos hipervulneráveis e ao combate ao racismo algorítmico.

Para fomentar a inovação, a Exposição de Motivos prevê o uso de sandboxes regulatórios e reconhece os códigos de boas práticas como indicativos de boa-fé. 

O texto disciplina a mineração de textos e dados para fins de pesquisa, jornalismo e memória, sem que isso configure violação de direitos autorais.

Em relação à responsabilidade civil, a proposta adota um regime dual:

• Sistemas de Alto Risco ou Risco Excessivo: Respondem sob o regime de responsabilidade objetiva, na medida da participação de cada agente no dano.
• Sistemas que não sejam de Alto Risco: Respondem sob o regime de culpa presumida, aplicando-se a inversão do ônus da prova em favor da vítima.

Minuta de Substitutivo

O Capítulo I da Minuta de Substitutivo fixa o escopo normativo, os fundamentos, os princípios e as definições legais que regem o desenvolvimento e a aplicação da IA no país.

Objeto e Alcance (Art. 1º)

A lei estabelece normas gerais de caráter nacional para o desenvolvimento, implementação e uso responsável de sistemas de IA. 

Seu objetivo central é proteger direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis em benefício da pessoa humana, da democracia e do avanço científico.

Fundamentos (Art. 2º)

O desenvolvimento e uso da IA no Brasil têm como fundamentos centrais:

• A centralidade da pessoa humana e o respeito aos direitos humanos.
• O livre desenvolvimento da personalidade e a proteção ao meio ambiente.
• A igualdade, a não discriminação, a pluralidade e os direitos trabalhistas.
• O desenvolvimento tecnológico, a inovação, a livre iniciativa e a livre concorrência.
• A privacidade, a proteção de dados pessoais e a autodeterminação informativa.
• A promoção da pesquisa científica e o acesso à informação e à educação.

Princípios (Art. 3º)

Os agentes de IA devem observar a boa-fé e doze princípios orientadores:

1. Crescimento inclusivo e bem-estar.
2. Autodeterminação e liberdade de escolha.
3. Participação e supervisão humana efetiva.
4. Não discriminação.
5. Justiça, equidade e inclusão.
6. Transparência, explicabilidade, inteligibilidade e auditabilidade.
7. Confiabilidade, robustez e segurança da informação.
8. Devido processo legal, contraditório e contestabilidade.
9. Rastreabilidade das decisões durante o ciclo de vida.
10. Prestação de contas, responsabilização e reparação integral dos danos.
11. Prevenção, precaução e mitigação de riscos sistêmicos.
12. Não maleficência e proporcionalidade entre métodos e finalidades legítimas.

Definições Legais (Art. 4º)

O artigo consolida conceitos fundamentais para a aplicação da lei:

• Sistema de Inteligência Artificial: Sistema computacional com diferentes graus de autonomia desenhado para inferir como atingir objetivos a partir de aprendizado de máquina ou lógica, produzindo previsões, recomendações ou decisões.
• Fornecedor: Pessoa natural ou jurídica que desenvolve sistema de IA com vistas à sua colocação no mercado ou aplicação sob seu nome.
• Operador: Pessoa natural ou jurídica que emprega ou utiliza sistema de IA em seu benefício (exceto em atividade pessoal não profissional).
• Agentes de IA: Categoria abrangente que inclui fornecedores e operadores.
• Autoridade Competente: Órgão da Administração Pública Federal responsável por zelar, implementar e fiscalizar o cumprimento da lei.
• Discriminação Direta e Indireta: Conceitos adaptados do direito internacional que cobrem distinções intencionais ou regras aparentemente neutras que resultem em desvantagem injustificada para grupos específicos.
• Mineração de Textos e Dados: Processo de extração e análise de grandes volumes de dados para identificar padrões e correlações para o desenvolvimento de IA.

Dos Direitos (Arts. 5º a 12)

O Capítulo II consagra os direitos das pessoas afetadas por sistemas de IA, estruturado em quatro seções:

• Disposições Gerais (Arts. 5º e 6º): Garante direitos transversais como informação prévia, explicação das decisões, contestação, intervenção humana, não discriminação e privacidade. O texto prevê a defesa desses direitos nas esferas administrativa e judicial, individual ou coletivamente.
• Direitos de Informação e Compreensão (Arts. 7º e 8º): Exige que o afetado receba informações claras antes da utilização do sistema, cobrindo o caráter automatizado, a lógica geral, os operadores e as medidas de segurança. Prevê o uso de ícones para facilitar o entendimento e exige proteção reforçada para vulneráveis (crianças, idosos, PCDs). A pessoa afetada pode solicitar explicação detalhada sobre decisões específicas gratuitamente, com prazo de resposta de até 15 dias (prorrogável por igual período).
• Contestação e Intervenção Humana (Arts. 9º a 11): Assegura o direito de contestar e solicitar a revisão de decisões automatizadas que produzam efeitos jurídicos relevantes ou impactos significativos, abrangendo inferências discriminatórias ou irrazoáveis. Exige a presença de intervenção ou revisão humana, admitindo exceções apenas quando comprovadamente impossível (hipótese que exige mecanismo alternativo de reanálise). Em cenários irreversíveis ou que envolvam risco à vida e integridade física, o envolvimento humano significativo e a determinação humana final são obrigatórios.
• Não Discriminação e Correção de Vieses (Art. 12): Veda o uso de IA que cause discriminação direta, indireta, ilegal ou abusiva, especialmente com dados sensíveis ou impacto desproporcional sobre grupos vulneráveis. Admitem-se critérios de diferenciação legítimos e justificáveis à luz do direito à igualdade.

Categorização dos Riscos (Arts. 13 a 18)

A minuta organiza a regulação em três patamares de risco:

• Avaliação Preliminar (Art. 13): Todo sistema de IA deve passar por uma avaliação de risco realizada pelo fornecedor antes de sua colocação no mercado. A autoridade competente pode reclassificar o grau de risco a qualquer tempo.
• Risco Excessivo / Inaceitável (Arts. 14 a 16): Veda expressamente sistemas que utilizem técnicas subliminares indutoras de danos, explorem vulnerabilidades de grupos vulneráveis ou implementem pontuação social universal (social scoring) pelo poder público. O uso de identificação biométrica à distância contínua em espaços públicos é permitido na segurança pública apenas sob previsão em lei federal específica e autorização judicial para crimes graves (com mais de dois anos de reclusão), busca de vítimas ou flagrante.
• Alto Risco (Arts. 17 e 18): Lista 14 áreas de aplicação de alto risco: infraestruturas críticas, educação, recrutamento e gestão de trabalho, serviços públicos e privados essenciais, avaliação de crédito, serviços de emergência, administração da justiça, veículos autônomos com risco físico, saúde e diagnósticos médicos, biometria de identificação, investigação criminal e segurança pública, análise de dados criminais, investigações administrativas e controle de migração e fronteiras. A autoridade competente atualizará essa lista com base em critérios como escala, reversibilidade e opacidade.

Governança dos Sistemas de IA (Arts. 19 a 26)

O Capítulo IV detalha os deveres operacionais e preventivos impostos aos agentes:

• Medidas Gerais de Governança (Art. 19): Exige estruturas internas de governança durante todo o ciclo de vida do sistema, com foco em transparência nas interfaces, gestão de dados contra vieses, privacidade por padrão e segurança da informação.
• Governança para Alto Risco (Art. 20 e 21): Para sistemas de alto risco, exige-se documentação técnica contínua, logs de registros automáticos, testes de acurácia e robustez, equipes de desenvolvimento diversas e explicabilidade técnica. A supervisão humana deve permitir que os operadores interpretem, anulem ou interrompam o sistema. Órgãos públicos contratantes devem realizar audiências públicas prévias, garantir transparência de relatórios e descontinuar o uso caso os riscos não sejam mitigados.
• Avaliação de Impacto Algorítmico (Arts. 22 a 26): Torna a Avaliação de Impacto Algorítmico obrigatória para todos os sistemas de alto risco. A avaliação deve ser conduzida por equipe com independência funcional e abrange quatro etapas: preparação, cognição do risco, mitigação e monitoramento. O processo adota o princípio da precaução diante de riscos irreversíveis e deve ter suas conclusões publicadas em base de dados aberta, resguardados os segredos comercial e industrial.

Responsabilidade Civil (Arts. 27 a 29)

A proposta estabelece a obrigação de reparação integral dos danos patrimoniais, morais, individuais ou coletivos causados por fornecedores ou operadores, independentemente da autonomia do sistema.

O texto institui um modelo dual de responsabilização:

1. Sistemas de Alto Risco ou Risco Excessivo: Respondem objetivamente pelos danos causados, na medida da participação de cada agente na cadeia de fornecimento.
2. Sistemas de Risco Geral (Não Alto Risco): Respondem sob o regime de culpa presumida, determinando-se a inversão do ônus da prova em favor da vítima.

Os agentes isentam-se de responsabilidade se provarem que não puseram o sistema em circulação, ou se houver culpa exclusiva da vítima, fato de terceiro ou caso fortuito externo. As relações de consumo continuam regidas complementarmente pelo Código de Defesa do Consumidor.

Boas Práticas, Incidentes, Fiscalização e Disposições Finais (Arts. 30 a 45)

• Códigos de Boas Práticas e Incidentes (Arts. 30 e 31): Autoriza a criação de códigos voluntários de conduta e programas de governança. A adesão voluntária funciona como indicativo de boa-fé para atenuar sanções administrativas. Agentes devem comunicar imediatamente à autoridade competente a ocorrência de incidentes graves de segurança.
• Supervisão, Sanções e Inovação (Arts. 32 a 42): O Poder Executivo designará a Autoridade Competente como órgão central de fiscalização e regulamentação, atuando em articulação com agências setoriais em um Fórum Permanente. As sanções administrativas incluem advertência, multa de até R$ 50 milhões (ou 2% do faturamento da empresa), publicização da infração, restrição a sandboxes e suspensão do sistema de IA. Para fomentar a inovação, prevê-se o uso de ambientes regulatórios experimentais (sandboxes) e institui-se a exceção de direitos autorais para mineração de textos e dados em atividades de pesquisa, jornalismo, museus e bibliotecas.
• Base Pública e Transição (Arts. 43 a 45): Exige a criação de uma base de dados pública com as conclusões dos relatórios de Avaliação de Impacto Algorítmico de alto risco. A norma fixa vacatio legis de um ano para sua entrada em vigor após a publicação.

Contribuições Escritas

O Capítulo V do relatório final sistematiza as 103 contribuições escritas enviadas por entidades do setor público, setor privado, academia e sociedade civil, totalizando mais de duas mil páginas de análise.

Conceito de IA e Estrutura Legal

Não houve consenso sobre a definição de IA. A sociedade civil e a academia consideraram que as definições dos projetos originais eram insuficientes ou excessivamente restritivas. 

O setor privado defendeu definições mais estreitas para evitar o excesso regulatório e a inclusão indevida de softwares tradicionais e automações simples.

Em relação à estrutura legal, o setor privado defendeu massivamente um marco principiológico, flexível e focado no uso da tecnologia. 

A sociedade civil e a academia criticaram um modelo puramente principiológico, argumentando que princípios genéricos não garantem a proteção efetiva contra violações de direitos.

Direitos Fundamentais, Dados Pessoais e Vieses

A sociedade civil e a academia defenderam a obrigatoriedade de Avaliações de Impacto nos Direitos Humanos e o banimento total de tecnologias consideradas nocivas, especialmente o reconhecimento facial na segurança pública. 

As forças de segurança pública e entidades do setor privado defenderam a manutenção e regulação do reconhecimento facial sob supervisão humana.

Houve convergência quanto à necessidade de alinhar a lei de IA com a Lei Geral de Proteção de Dados Pessoais (LGPD). 

As contribuições destacaram que a correção de vieses discriminatórios exige o tratamento regulado de dados sensíveis para testes de equidade. A sociedade civil enfatizou a necessidade de deveres antirracistas explícitos no texto.

Modelo Regulatório e Governança

O setor privado rejeitou categoricamente a criação de uma nova agência reguladora exclusiva para IA, defendendo a atuação das autoridades setoriais já existentes (como ANPD, Anvisa e Banco Central). 

A sociedade civil e a academia sugeriram um órgão regulador central independente ou um conselho multissetorial paritário. 

O Ministério da Economia propôs um modelo híbrido com uma autoridade central coordenadora e aplicação setorial descentralizada.

A abordagem baseada em riscos obteve concordância geral. Divergências surgiram quanto ao modo de classificação: o setor privado defendeu a autoclassificação contextual ex post, enquanto a sociedade civil defendeu listas regulatórias objetivas e avaliações prévias (ex ante).

Responsabilidade Civil e Inovação

O regime de responsabilidade civil gerou grande debate:

• Setor Privado: Defendeu a responsabilidade subjetiva (com culpa ou culpa presumida) e a fragmentação da responsabilidade ao longo da cadeia de suprimento.
• Sociedade Civil e Academia: Rejeitaram a responsabilidade subjetiva geral, defendendo a responsabilidade objetiva para sistemas de alto risco e a criação de seguros obrigatórios ou fundos de compensação.

Por fim, o setor privado e a academia apoiaram fortemente instrumentos de fomento à inovação, tais como sandboxes regulatórios, financiamento público de pesquisa e exceções de direitos autorais para mineração de dados. 

Os setores editorial e audiovisual opuseram-se à exceção genérica de direitos autorais para treinamento de IA.

Resumo Comparativo das Posições dos Setores

Eixo Temático	Sociedade Civil e Academia	Setor Privado	Governo / Órgãos Públicos
Abordagem da Lei	Regras concretas, proibições e direitos oponíveis.	Marco principiológico, flexível e não prescritivo.	Equilíbrio principiológico sem detalhamento excessivo.
Definição de IA	Conceito amplo para evitar lacunas de proteção.	Conceito focado em aprendizado de máquina.	Necessidade de seção clara de definições técnicas.
Autoridade Reguladora	Autoridade central independente ou Conselho Multissetorial.	Descentralização em agências setoriais existentes.	Modelo híbrido: órgão central coordenador e regulação setorial.
Reconhecimento Facial	Banimento na segurança pública e espaços públicos.	Regulamentação do uso com salvaguardas.	Regulamentação estrita com supervisão humana (Polícia Federal).
Responsabilidade Civil	Responsabilidade objetiva em caso de danos ou alto risco.	Responsabilidade subjetiva com base na culpa ou conduta.	Regime ajustado ao risco e papel do agente na cadeia.
Mineração de Dados (TDM)	Apoio à exceção de direitos autorais para pesquisa.	Divisão: setor de tech apoia; setor editorial/cultural opõe-se.	Cautela para preservar direitos autorais e regras específicas.

Apresentação do relatório da Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil como Projeto de Lei 2338/2023

Após ser entregue ao Presidente do Senado Federal, Senador Rodrigo Pacheco, em dezembro de 2022, a minuta apresentada no relatório final da Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil foi analisada pela Consultoria Legislativa do Senado.

O texto passou por um processo de revisão de técnica legislativa, padronização e correções gramaticais, mas manteve o conteúdo material e a estrutura inicial.

Em 1º de fevereiro de 2023, o Senador Rodrigo Pacheco foi reeleito Presidente do Senado Federal. 

Em 3 de maio do mesmo ano, ele apresentou a minuta revisada da Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil como o Projeto de Lei nº 2338/2023, que “dispõe sobre o uso da Inteligência Artificial”.

Três meses depois, foi criada uma Comissão Temporária sobre Inteligência Artificial no Brasil, composta por Senadores, para elaborar o relatório do projeto de lei. A tramitação do documento pela Comissão Temporária, no entanto, será assunto para um próximo texto.