Um dos campos mais promissores para a aplicação de aparatos de inteligência artificial (IA) é a administração pública. Há, pelo menos, três motivos para isso: 1º) os agentes públicos têm de seguir regras (legalidade estrita) diante de situações típicas; 2º) as decisões da administração devem ser isonômicas; 3º) é grande o volume da demanda por decisões padronizadas e rápidas da administração.

Essas circunstâncias indicam que as decisões administrativas são, em sua maioria, perfeitamente modeláveis em mecanismos inteligentes, que podem ter escala para absorver, em curto espaço de tempo (isto é, de modo eficiente), a vasta demanda por decisões rápidas de órgãos públicos.

(Imagem: Reprodução)

As administrações municipais são especialmente suscetíveis ao processo amplo de automatização de suas atividades, porque as questões de interesse local guardam certa homogeneidade e repetibilidade e, por isso mesmo, podem ser digeridas por protótipos automáticos alimentados por dados devidamente preparados.

Também é preciso considerar aquela afirmação que é quase um truísmo: as pessoas vivem nas cidades — todos os demais entes estatais têm um quê de ficção jurídica e política. Então, é nas cidades que se passa a maior parte das situações de vida relacionadas tanto aos usos dos serviços públicos, quanto às práticas de atividades econômicas privadas, passíveis de algum policiamento estatal. Daí que é nas cidades também onde mais se fazem necessária e oportuna a adoção de meios técnicos para resolver rapidamente as demandas dos administrados.

Smart Cities 

Não por acaso, surgiu o conceito de cidade inteligente (smart city), para expressar a ideia de um núcleo urbano imerso em tecnologias digitais a serviço do bem-estar dos cidadãos. Nas cidades inteligentes, soluções digitais altamente integradas criam um rico ecossistema digital local, em que a coleta e o tratamento de dados se dão de maneira massiva e onipresente.

Numa cidade assim, edifícios, praças, ônibus, trens, semáforos, postes, dispositivos móveis (drones, por exemplo) — enfim, praticamente todas as coisas e lugares podem funcionar com sensores (câmeras, gravadores, termômetros, pluviômetros, detectores, etc.) que captem dados, tanto pessoais como não pessoais, e os remetam para infraestruturas de tratamento, cujos modelos baseados em IA podem transformar autonomamente esse vultoso e aleatório fluxo de dados em informações/conhecimento, induzindo ações dos funcionários municipais, a emissão de avisos ao público e até mesmo decisões automatizadas (por exemplo, a aplicação ipso facto de multa ao motorista que alguma câmera flagre invadindo o sinal vermelho).

São desconhecidos os limites dos benefícios que podem ser criados por uma cidade inteligente. Maior segurança pública, mais eficiência e comodidade dos serviços públicos em geral (saúde, educação, assistência social, policiamento sanitário e de trânsito etc.), aumento da capacidade de resposta a emergências climáticas, mais sustentabilidade ambiental, maior interatividade dos cidadãos entre si e com a administração da cidade — em suma, pode-se aumentar exponencialmente o conhecimento que se tem sobre a cidade e seus habitantes, em tempo real e com grande acurácia, o que permite respostas perfeitamente ajustadas às circunstâncias, em cada momento.

Bem, esse é o lado bom da implementação de tecnologias da informação e da comunicação em uma cidade, para torná-la “inteligente“. Mas, como normalmente acontece, há o lado ruim. E, para resumir desde logo, os principais pontos negativos são: a) o risco à privacidade e à intimidade dos cidadãos; b) a produção de decisões estereotipadas, com erros grosseiros, que podem acentuar alguns problemas sociais; e c) a opacidade dos modelos em uso, que podem eventualmente ser protegidos por direitos de propriedade intelectual.

A esse respeito, em recente relatório produzido pela organização Eletronic Privacy Information Center (Epic), revelou-se que só na cidade de Washington (DC), funcionam atualmente 29 algoritmos que decidem sobre, entre outras coisas, ranqueamento de candidatos a moradia social, probabilidade de reincidência criminal, indícios de fraudes à assistência social, previsão de abandono escolar e até sugestão de medidas socioeducativas para jovens infratores.

(Imagem: reprodução)

Essas decisões (ou sugestões de decisão) são tomadas automaticamente por máquinas ou por humanos assistidos por máquinas, com base em monitoramento persistente dos cidadãos, por meio de sensores espalhados pela cidade. A depender das condutas das pessoas nas ruas e locais de monitoramento em geral, o sistema atribui a correspondente pontuação (positiva ou negativa) para cada indivíduo em cada situação, o que irá constituir um escore que determinará ou, no mínimo, influenciará as decisões sobre os temas já referidos (de moradia social, risco de reincidência criminal e fraudes, etc.).

Como fica a garantia de direitos dos cidadãos das Smart Cities?

Do ponto de vista jurídico, a questão mais premente — que se coloca como premissa lógica para a garantia de direitos em face do uso de algoritmos por cidades inteligentes — é assegurar que o público tenha ciência inequívoca dos locais e situações em que dados pessoais são coletados para alimentar modelos automatizados de decisão. Parece claro também que cada pessoa deve ter acesso fácil e rápido à sua pontuação e à forma do seu cálculo, assim que requerer. Sem esses elementos, não é possível sequer pensar em fazer alguma reclamação por mau uso da IA, porque possivelmente o cidadão não saberá que está sendo avaliado por mecanismos de IA.

No relatório da Epic, já citado, observou-se que há resistência, por parte de agências públicas, em compartilhar informações sobre sistemas utilizados e, além disso, muitos desses sistemas são desenvolvidos por empresas privadas que se recusam a explicar os seus modelos de decisão, alegando segredo comercial.

Um projeto desenvolvido na Universidade de Yale , neste ano, tentou contar o número de algoritmos usados pelas agências estatais de Connecticut, mas encontrou embaraços decorrentes de alegações de segredo comercial.

Felizmente, tal problema, no Brasil, não se coloca de forma tão dura. Tendo em vista que a nossa Constituição impõe o princípio da publicidade (CF, artigo 37, caput) e assegura o acesso à informação como direito fundamental (CF, artigo 5º, XXXIII c/c artigo 37, §3º, II), não parece viável a invocação, por qualquer empresa ou mesmo pela administração, de segredo comercial quanto a algoritmos utilizados pelo Poder Público para tomar ou sugerir decisões sobre os direitos das pessoas.

Em todo caso, é preciso que se pense em instrumentos para implementar o direito do cidadão de saber como estão sendo tomadas as decisões administrativas sobre si, com o uso de mecanismos de IA.

Gerenciamento de Policiamento por IA

Um bom exemplo de gestão adequada dessa problemática vem de Nova York. Em 2019, a cidade instituiu um oficial de gerenciamento e policiamento de algoritmos, para orientar o município e suas agências sobre o desenvolvimento e uso responsável, assim como a avaliação de algoritmos, e para engajar e educar o público sobre questões relacionadas ao uso dessas ferramentas.

O oficial deverá estabelecer princípios orientadores da utilização ética de ferramentas de IA, assim como critérios para identificá-los; deverá também estabelecer protocolos de comunicação entre agências sobre o tema do uso da IA; e, por fim, deverá criar uma plataforma que permita adequada e fácil comunicação com o público, para receber reclamações e sugestões.

Esse já é um passo importante para a institucionalização de uma política de uso racional e ético de algoritmos na administração pública, que pode e deve servir de fonte de inspiração para cidades que desejem se transformar em Smart Cities.

(Imagem: reprodução)

Outra iniciativa interessante no sentido da transparência foi tomada pelas cidades de Amsterdam e Helsinque, em 2020. Essas duas cidades criaram listas de seus algoritmos em uso e deixaram-nas online. Mas há alegações de que tais listas têm lacunas, e que são omitidos nelas justamente os algoritmos cujo uso é mais preocupante.

Entre nós, a LGPD contém normas que são suficientes para uma boa gestão dessa questão. Por exemplo, o artigo 18 da LGPD diz que estão entre os direitos do titular dos dados, a faculdade de obter a confirmação da existência de tratamento de dados, o acesso aos dados, o direito à correção, entre outros.

Olhando pela perspectiva do direito constitucional, é certo que o uso de algoritmos pela administração deve seguir o princípio da publicidade (CF, artigo 37), como já disse, de maneira que não é viável que as nossas entidades públicas adotem modelos automatizados sem comunicar ao público e, pior, sem informar os seus critérios decisórios.

Clareza da LGPD no uso da IA

Em todo caso, há a necessidade de clareza sobre as formas legítimas de uso de IA, daí porque foi muito oportuna a iniciativa do Senado Federal, no sentido de instituir uma Comissão de Juristas para sistematizar os estudos em torno de propostas legislativas que tratam da regulação da IA no Brasil (PL 21/2020, já aprovado na Câmara; PLs 5.051/2019 e 872/2021). Seguramente, a comissão apontará caminhos para uma boa governança dos modelos de IA no país.

Até lá, é preciso que as instituições de fiscalização, em especial o Ministério Público, se assenhoreie do tema, para evitar usos furtivos ou abusivos de IA. Como se trata aqui, sem dúvida, de um interesse que transcende a esfera individual, cabe mesmo ao MP papel importante no levantamento e na manutenção atualizada de informações sobre o uso de algoritmos pelas administrações públicas locais. Embora a Agência Nacional de Proteção de Dados tenha protagonismo na questão, é impraticável que tal agência fiscalize os mais de 5.000 municípios brasileiros, daí a necessidade de atuação do MP em cada comarca.

Hoje, por exemplo, será que há, em algum lugar, a informação sobre quantos aplicativos e modelos de decisão automatizada existem e estão em utilização nas administrações públicas do país? Particularmente, não tenho essa informação, e creio que ninguém tem ainda. Isso, por si só, demonstra a necessidade de que se avance sobre a institucionalização do tema, aproveitando-se dos bons exemplos que vêm de outros países.

Em conclusão, parece haver uma premissa constante segundo a qual o uso da IA será tanto mais profícuo quanto mais se consiga estruturar mecanismos de controle factíveis e transparentes, que possam minimizar os seus erros e excessos, por meio de uma governança salutar, que não crie embaraços desnecessários à inovação.