Como avaliar os riscos envolvidos no uso de dados pessoais e de inteligência artificial? E o que fazer quando nem todos os efeitos de uma tecnologia podem ser previstos? Essas questões estão no centro de “Relatório de Impacto à Proteção de Dados Pessoais: avaliação de riscos em tecnologias”, livro de Maria Cecília Oliveira Gomes, que será lançado em 10 denovembro, na Livraria Martins Fontes, em São Paulo. É a primeira obra brasileira a abordar a avaliação e a análise de riscos sob a ótica conjunta da proteção de dados e da inteligência artificial. O livro examina como empresas e instituições podem identificar possíveis impactos dessas tecnologias e considerar os riscos envolvidos em suas decisões.
A obra reúne o Relatório de Impacto à Proteção de Dados Pessoais (RIPD) e a Avaliação de Impacto Algorítmico (AIA). Maria Cecília recupera a origem das avaliações de impacto, acompanha a inclusão do RIPD nos debates que deram origem à LGPD e aborda o processo de regulamentação do tema pela Autoridade Nacional de Proteção de Dados (ANPD). A análise combina perspectivas do Direito, da economia e da sociologia e parte de uma premissa: a incerteza é inerente ao risco. Como não é possível prever ou eliminar todos os riscos, o RIPD deve servir como instrumento para lidar com essa incerteza e com a complexidade das tecnologias.
“Não existe uma fórmula capaz de antecipar tudo o que uma tecnologia pode provocar. A avaliação de impacto precisa considerar esse limite. Mais do que cumprir uma obrigação, ela deve ajudar quem está tomando uma decisão a entender os riscos envolvidos e o que pode ser feito para reduzi-los”, afirma Maria Cecília.
A autora defende a definição de parâmetros mais claros para identificar situações de alto risco e a articulação entre diferentes avaliações de impacto. A proposta é que o RIPD não seja tratado apenas como um documento exigido pela legislação, mas utilizado para apoiar decisões sobre o desenvolvimento de produtos, serviços e novas tecnologias, além da formulação de políticas públicas.
Doutora pela Faculdade de Direito da USP e professora da FGV, Maria Cecília estuda há quase 15 anos como as tecnologias que utilizam dados pessoais e sistemas de inteligência artificial afetam a vida das pessoas, considerando seus impactos jurídicos, sociais, éticos e políticos. Sua trajetória inclui experiências no European Data Protection Supervisor e no Conselho da Europa. O livro é resultado de quase oito anos de pesquisa de doutorado, durante os quais a autora investigou como as avaliações de impacto podem contribuir para decisões sobre tecnologias cujos riscos não podem ser inteiramente previstos.