O presente relatório intitulado “Sandbox regulatório de Inteligência Artificial: contribuições à Consulta Pública da ANPD” consolida as contribuições individuais de quatro organizações – o Legal Grounds Institute, o Center for Artificial Intelligence (C4AI), a Associação Lawgorithm de Pesquisa em Inteligência Artificial e o Hospital Israelita Albert Einstein – em resposta à consulta pública promovida pela Autoridade Nacional de Proteção de Dados (ANPD) sobre o tema.
Esta iniciativa da ANPD, visando a implementação de um programa piloto de Sandbox regulatório, concedeu espaço para organizações tanto do setor público quanto do setor privado, incluindo contribuições de atores brasileiros e estrangeiros. A consulta foi um veículo para a coleta de informações e dados relacionados ao Sandbox regulatório, com o propósito de compreender as diversas perspectivas dos stakeholders afetados pela regulamentação futura sobre Inteligência Artificial (IA) e proteção de dados.
O programa de Sandbox regulatório delineia um ambiente controlado para testar tecnologias associadas à IA desenvolvidas pelos participantes. Seu principal objetivo é fomentar a inovação dentro deste espaço delimitado, viabilizando a implementação de melhores práticas para assegurar a conformidade com as normas de proteção de dados pessoais.
Nesta perspectiva, as contribuições contidas neste relatório apresentam um panorama das considerações técnicas, jurídicas e éticas pertinentes ao desenvolvimento e implementação do Sandbox regulatório de IA, na perspectiva das quatro organizações. Entre as contribuições, destacam-se questões sobre âmbito tecnológico e legal do sandbox, envolvimento multissetorial, estrutura, transparência e outros assuntos.
Na primeira questão, o relatório aborda algumas considerações para a implementação eficaz deste programa piloto. Dentre os pontos discutidos, há reflexão sobre o escopo do Sandbox, questionando se deve se concentrar em sistemas de IA baseados em Machine Learning (ML), incluindo a IA generativa, e se deve priorizar sistemas em desenvolvimento ou já implementados.
Outro ponto é o acesso ao Sandbox, ponderando se deve ser aberto tanto para o setor público quanto para o privado ou se deve se restringir a um grupo específico, como startups ou empresas de maior porte. Além disso, há análise sobre como o Sandbox pode explorar a transparência algorítmica, alinhando-a aos princípios da LGPD e a outras disposições legais.
Há uma consideração sobre a relação entre a LGPD e os debates em torno da regulamentação da IA e transparência algorítmica, destacando a necessidade de harmonização desses elementos. Também são delineados os papéis e responsabilidades esperados do setor público, empresas privadas, instituições acadêmicas e sociedade civil dentro do contexto do Sandbox.
Outros aspectos explorados incluem a estruturação do Comitê Consultivo Multissetorial de Especialistas, visando uma participação ampla e decisões embasadas. A relação entre a ANPD e as entidades participantes é discutida, assim como os critérios de seleção de projetos e a abordagem do Sandbox em relação à suspensão temporária de dispositivos de leis e regulamentos atuais.
Antecipando desafios, o relatório também examina estratégias para mitigar possíveis obstáculos e garantir a proteção dos direitos dos titulares de dados. Além disso, são sugeridas formas de garantir o compartilhamento do conhecimento gerado pelo Sandbox para promover a inovação responsável, juntamente com estratégias para informar e educar o público sobre as atividades e descobertas do programa, além de educação sobre IA e proteção de dados.
Acreditamos que este relatório sintetiza as contribuições oferecidas pelas entidades e também representa um instrumento fundamental para orientar a ANPD na formulação de diretrizes e políticas apropriadas para o programa piloto de Sandbox regulatório no Brasil.
COMO CITAR ESTE RELATÓRIO
MARANHÃO, Juliano et al. Sandbox regulatório de Inteligência Artificial: contribuições à Consulta Pública da ANPD. Legal Grounds Institute: São Paulo, 2023. Disponível em: https://bit.ly/sandboxIA. Acesso em: DD/MM/AAAA
SOBRE OS AUTORES
Juliano Maranhão: Professor Associado de Direito da Faculdade de Direito da Universidade de São Paulo (USP). É diretor e fundador do Legal Grounds Institute e da Associação Lawgorithm de Pesquisa em Inteligência Artificial. Doutor em direito pela Universidade de São Paulo (USP), com pós-doutorado na Universidade de Utrecht. Foi professor visitante na Goethe University Frankfurt am Main (2016 a 2019). É membro do Comitê Diretor da International Association for Artificial Intelligence and Law (IAAIL). Pesquisador Associado do Center for Artificial Intelligence USP-IBM (C4AI/USP) e do Centro de Pesquisa Inteligência Artificial Recriando Ambientes (IARA) e Pesquisador da Fundação Alexander von Humboldt. É membro do Conselho Editorial da Artificial Intelligence and Law Journal (Springer) e do Steering Committee da DEON, International Conference on Deontic Logic e Normative Systems. Foi o local chair da International Conference on Artificial Intelligence and Law-ICAIL 2021 e foi escolhido pela Associação como o próximo Program Chair da ICAIL 2025.
Cristina Godoy Bernardo de Oliveira: Líder do Center For Artificial Intelligence da Universidade de São Paulo (C4AI/USP) – Humanidades (Regulação Jurídica). Professora Doutora da Faculdade de Direito de Ribeirão Preto da Universidade de São Paulo (FDRP – USP). Pós-doutora pela Université Paris I Panthéon-Sorbonne. Academic Visitor da University of Oxford. Doutora e Graduada pela Faculdade de Direito da Universidade de São Paulo (USP). Líder do Grupo de Pesquisa Direito, Ética e Inteligência Artificial da Universidade de São Paulo (USP- CNPq).
Sílvio Tadeu de Campos: Pesquisador do Legal Grounds Institute. Especialista em Direito Administrativo pela Fundação Getúlio Vargas (FGV) Direito SP, Bacharel em Direito pela Universidade Presbiteriana Mackenzie e especialista em Direito Digital pela University of Pennsylvania Carey Law School, Insper e FIA. Certificado em Proteção de Dados pela EXIN e pela Opice Blum Academy. Advogado atuante nas áreas de Proteção de Dados, Direito Digital, Direito Tributário e Direito Administrativo.
Tiago Augustini de Lima: Membro do Center For Artificial Intelligence da Universidade de São Paulo (C4AI/USP). Mestrando em Direito pela Faculdade de Direito de Ribeirão Preto da Universidade de São Paulo (FDRP/USP). É bolsista CAPES, graduado em Direito pela FDRP/USP. Tem experiência na área de Direito, com ênfase em Direito Eleitoral e TechLaw. Foi bolsista do programa de iniciação científica da USP/PUB (2019-2021). Foi bolsista do programa Pesquisa e Extensão Aprender na Comunidade: Informar para Democracia (USP) Tema: Fake News.
Rogeria Leoni Cruz: Diretora Jurídica do Hospital Israelita Albert Einstein. Membro do Comitê de Ética e Pesquisa, Responsável pelo Comitê de Proteção de Dados da Associação Nacional de Hospitais Privados (Anahp) e da Associação Brasileira de Medicina Diagnóstica (Abramed).
Edson Amaro: Neurorradiologista e responsável pela área de Big Data do Hospital Israelita Albert Einstein. Tem doutorado e livre-docência pela USP, pós-doutorado pelo Institute of Psychiatry, King’s College London e foi responsável pelo Instituto do Cérebro do Hospital Israelita Albert Einstein. Responsável por aplicações clínicas (análises preditivas e prescritivas) e gerenciais (custo / eficácia e otimização de recursos) em projetos no Hospital Israelita Albert Einstein e no SUS.
Anthony Novaes: Bacharel em Direito e Mestrando em Linguística (Universidade Presbiteriana Mackenzie). Pesquisador acadêmico e professor convidado em cursos de graduação e pós-graduação no Brasil e América Latina, em temas de inovação jurídica, incluindo Inteligência Artificial, Legal Design e Linguagem Simples. Membro do Berkeley Center on Comparative Equality and Anti-Discrimination Law (BCCE) e do Observatório de Linguagem Simples da Faculdade de Direito da Universidad de Buenos Aires (OLC/UBA).
