Tecnologia, transparência e direitos

Desde os anos 90 havia um otimismo no campo da boa governança em torno da tecnologia. E, de fato, em perspectiva histórica, diferentes tecnologias permitiram avanços econômicos, políticos e sociais, de forma que o cenário que se avistava comporia mais um capítulo do desenvolvimento político-social. Novas tecnologias seriam propulsoras de inovação possibilitando a participação de camadas excluídas, dando finalmente voz a minorias e fortalecendo a qualidade da democracia liberal. Mais de vinte anos depois, a percepção sobre os usos de ferramentas tecnológicas não poderia ser mais diferente. 

Uma das grandes preocupações está no uso de machine learning por movimentos autoritários em todo o mundo resultando no cerceamento de liberdades civis. Isto inclui perseguição à sociedade civil por meio de ferramentas de vigilância, como tecnologias de reconhecimento facial, ou por disseminação orquestrada de fake news

A ausência regulatória no uso de ferramentas de machine learning foi um dos grandes temas do Tech Camp for Civic Space Defenders, imersão do International Center for Not-for-Profit Law e da Universidade de Stanford, realizado em fevereiro e que contou com a presença de organizações convidadas da sociedade civil de diferentes países, dentre elas a Transparência Brasil. O objetivo do evento era fortalecer a atuação de ONGs na sua luta de defesa do espaço cívico frente a ataques autoritários com uso de machine learning.

A discussão sobre a participação de empresas de tecnologia no processo de regulação levanta pontos opostos: se por um lado é fundamental que plataformas responsáveis pelos algoritmos sejam aliadas na defesa da democracia e de direitos, por outro, seria inocente esperar que grupos privados atuem para acabar com seu próprio modelo de negócios que venda grandes quantidades de dados comportamentais ou que privilegia a voz de extremistas por gerar mais engajamento. 

A inércia das democracias ocidentais, que não impõem uma regulação às empresas de tecnologia para proibir que suas ferramentas continuem a ser usadas para minar direitos humanos, tem resultado na deterioração da própria democracia. 

A grande preocupação é que diante desse vácuo regulatório, a China tem exercido grande influência com sua exportação em massa de tecnologia. E por ser um país autoritário, que monitora sua população por um sistema de crédito social, sua influência traz grandes riscos para a sociedade civil. A falta de uma estrutura de governança e transparência no emprego de tais ferramentas, somada ao desconhecimento técnico sobre algoritmos, resulta em uma ameaça para os direitos civis. No Brasil, o governo tem cada vez mais usado inteligência artificial com diferentes propósitos, que incluem desde a inibição da evasão escolar até identificação facial de suspeitos de crimes, e até hoje não existem informações nem sobre a extensão do uso destas tecnologias, nem dos algoritmos utilizados. Quando questionados, órgãos públicos se recusam a fornecer essas informações, ferindo a transparência pública e a prestação de contas com a sociedade. O STF, por exemplo, continua a negar acesso ao seu algoritmo de distribuição de processos. Tem-se então uma caixa-preta na tomada de decisões pelo poder público que só se faz maior.

A Transparência Brasil já tem trabalhado pelo que se chama transparência algorítmica. No Conselho de Transparência do Estado de São Paulo, exigimos a prestação de contas na  implementação de sistemas de reconhecimento facial no metrô paulistano. A transparência algorítmica e o seu acompanhamento também serão temas da próxima International Conference of Information Commissioners, organizado pela Controladoria-Geral da União em parceria com a Transparência Brasil e a Artigo 19. 

Acreditamos que as organizações da sociedade civil devam apresentar uma resposta rápida ao uso massivo de inteligência artificial de maneira a evitar injustiças e, ao mesmo tempo, garantir a eficiência que as tecnologias promovem.

Participação da Transparência Brasil no evento ‘Em Frente pela Democracia’.

No dia 02 de dezembro, foi realizado o evento Em frente pela Democracia, organizado pelo Pacto pela Democracia, e que contou com a participação de ativistas, pesquisadores e lideranças de variadas esferas e matizes políticos para refletir sobre os rumos da democracia e fortalecer o compromisso de todas e todos com a defesa das liberdades e do Estado de Direito. Segue abaixo a íntegra da contribuição da diretora de operações da Transparência Brasil, Juliana Sakai:


Há tantos problemas urgentes de ataque a sociedade civil, que poderia unir coro aos colegas que trataram aqui da diminuição e criminalização ao ataque do espaço cívico. Mas para ficar na área de atuação da Transparência Brasil, de combate a corrupção, meu ponto será: 

Contra moralismo, instituições.

Contra punitivismo, prevenção.


Nós temos um enorme problema para lidar na política brasileira, que é o fato de a corrupção ter se tornado um elemento que ameaça a democracia. Eu não estou falando de como a corrupção prejudica o acesso a bem estar social por desvio de verbas. Estou falando de como a pauta anticorrupção vem aliada ao sentimento antipartido, antipolítica e, por consequência, antidemocracia.

Após tantos escândalos de corrupção, o desgaste político surfou numa onda populista autoritária, deixando que a pauta anticorrupção fosse capturada por grupos que não têm compromisso com a democracia.  Ver post completo “Participação da Transparência Brasil no evento ‘Em Frente pela Democracia’.”

GT de Transparência e Segurança é encerrado após estado de São Paulo recusar-se a dar acesso a metadados de informação sigilosa

Em 2016, a Transparência Brasil levou ao Conselho de Transparência da Administração Pública do estado de São Paulo relatório da Ponte Jornalismo, “Informação Encarcerada: A Blindagem de Dados na Segurança Pública de São Paulo”, cobrando do Conselho explicações para a falta de transparência dos órgãos de Segurança. A Secretaria de Segurança Pública (SSP), a Secretaria de Administração Penitenciária (SAP) e a Fundação Casa foram chamadas para prestar esclarecimentos ao Conselho, e percebendo a diferença da política de transparência entre os três órgãos, bem como as demandas por fim de opacidade de informações da área, o Conselho de Transparência decidiu pela criação do Grupo de Trabalho (GT) Transparência e Segurança de forma a permitir discussões aprofundadas sobre acesso a informações relacionadas à segurança pública.

Criado no segundo semestre de 2016, o GT reuniu-se mensalmente até novembro de 2017. Além dos três órgãos da Segurança, participaram representantes da Ouvidoria-Geral do estado de São Paulo, Arquivo Público do estado de São Paulo, Procuradoria-Geral do estado, Transparência Brasil e entidades convidadas, como Artigo 19, Instituto Sou da Paz e Ministério da Transparência, Fiscalização e Controle. Ver post completo “GT de Transparência e Segurança é encerrado após estado de São Paulo recusar-se a dar acesso a metadados de informação sigilosa”

Minas de Dados: um programa para aumentar a diversidade racial e de gênero no ativismo cívico

Quem costuma participar das discussões por mais dados abertos e tecnologia na promoção de governos mais transparentes e responsivos?

A resposta é fácil: homens são maioria; pessoas brancas, maioria esmagadora. A consequência disso não é muito difícil de antever: políticas públicas menos eficientes para dar conta da maioria da população – principalmente no caso de países desiguais e segregados como o Brasil.

Foi a partir dessa perspectiva que a Transparência Brasil idealizou o projeto Minas de Dados: Mulheres negras, narrativas e tecnologias para governos abertos.  Com o objetivo de formar mulheres negras para ocuparem esses espaços, o programa oferece uma imersão expressa sobre como usar dados abertos na promoção de temas raciais e de gênero no debate público.

Ver post completo “Minas de Dados: um programa para aumentar a diversidade racial e de gênero no ativismo cívico”