Na última sexta-feira, 4.dez, Juliana Sakai, diretora de operações, e Tamara Burg, coordenadora de projetos da Transparência Brasil, participaram do 28º Inovando com o Governo com o tema: Potenciais riscos a direitos no uso de algoritmos de inteligência artificial (IA) pelo poder público e transparência em decisões tomadas pelos sistemas de inteligência artificial.
Durante o evento, Sakai e Burg apresentaram como o uso de algoritmos de inteligência artificial (IA) pelo poder público pode representar riscos aos direitos da população e como a transparência desses sistemas é requisito fundamental para garantir uma boa governança.
Foram levantados pontos sobre como avançar para um sistema de governança no desenvolvimento dessas tecnologias. Neste sentido, foi discutida a importância da avaliação de sistemas de IA ao longo de todo seu ciclo de vida, partindo do pressuposto que dados com os quais eles são construídos são retratos momentâneos de uma realidade. Outro ponto de atenção é uma definição mais precisa sobre qual tipo de IA é necessário uma regulação. IA é um campo amplo que engloba tecnologias antigas, dentre os quais determinados sistemas que não precisariam de parâmetros jurídicos complexos, ônus regulatório ou necessidade de explicabilidade da mesma maneira que as ferramentas de reconhecimento facial, por exemplo.
Foram debatidos também o alto custo operacional e de manutenção e como compartilhar o desenvolvimento de IA dentro do governo. Sobre este último, foram levantadas questões sobre os parâmetros para compra pública de IA, padronização de dados, o que pode ser compartilhado entre os órgãos e como a sociedade civil pode estar mais empoderada das decisões governamentais sobre a utilização de ferramentas de IA.
Inovando com o Governo é uma iniciativa para trocas de conhecimento do Ideagov, hub de inovação para desafios do Governo do Estado de São Paulo.