Regulação de tecnologias e arquitetura de sistemas: um estudo sobre o privacy by design e a transparência aplicada a algoritmos computacionais

Abstract

O significativo desenvolvimento e disseminação das tecnologias de informação e comunicação tem acarretado profundos efeitos em nossa sociedade, afetando direitos fundamentais de grupos e indivíduos. Este cenário de mudanças incrementais e disruptivas suscita cada vez mais a necessidade de estudar as tensões existentes entre Direito, Ciência, Tecnologia e Inovação. Diante deste panorama, a regulação de sistemas eletrônicos e algoritmos computacionais tem recebido significativa atenção de estudiosos e agentes reguladores, os quais passaram a propor novas metodologias para a proteção de direitos. Dentre essas novas metodologias se encontra o instituto do privacy by design, o qual propõe adoção do princípio da transparência como um de seus elementos informadores. Em razão da novidade do tema no Brasil, o presente trabalho busca estudar o relacionamento entre o princípio da transparência e a proteção da privacidade no contexto da regulação de tecnologias. Para tanto, são examinadas as contribuições da doutrina jurídica estadunidense a respeito da regulação de tecnologias de informação e comunicação, identificando as reflexões trazidas por diferentes estágios doutrinários. Igualmente, busca-se estudar o desenvolvimento normativo do privacy by design e sua operacionalização de acordo com os diplomas mais recentes. Por fim, procura-se estudar especificamente a aplicação do privacy by design no que se refere à transparência de algoritmos computacionais de forma delimitar seu alcance e limites. Conclui-se que sob o ponto de vista tecnológico, a transparência de algoritmos possui limitações decorrente de barreiras enfrentadas pela própria Ciência da Computação. Desta forma, faz-se necessário ampliar a transparência sob o ponto de vista organizacional para fins de estimular o desenvolvimento responsável de novas tecnologias e proteger direitos fundamentais constitucionalmente assegurados.

The remarkable development and propagation of information technology has resulted in profound outcomes in our society, affecting fundamental rights of groups and individuals. This scenario of incremental and disruptive shifts stimulates the need to study the stresses between Law, Science, Technology and Innovation. In light of this situation, the regulation of electronic systems and computer algorithms has received considerable attention from scholars and regulatory agents who started to propose new methodologies for the protection of fundamental rights. Among these new methodologies is the privacy by design, which proposes the adoption of transparency as one of its foundational principles. Because of the novelty of the subject in Brazil, this research seeks to study the relationship between the transparency principle and privacy protection in the context of technology regulation. For that matter, the contributions of US the law doctrine about technology regulation are studied, in order to identify the reflections brought by different doctrinal phases. Likewise, the normative development of privacy by design was studied as well as its operationalization according to recent legislation. Finally, the enforcement of privacy by design with regard to computer algorithm transparency was studied in order to identify its reach and boundaries. It was concluded that under a technological point of view, algorithmic transparency faces limitations encountered by Computer Science itself. Because of that, a further increase in organizational transparency is needed in order to promote the responsible development of new technologies and to protect constitutionally assured fundamental rights.