Por: Isabella Hertzog e Maria Rita
POR TRÁS DAS CÂMERAS:
A VIGILÂNCIA ALGORÍTMICA NAS CIDADES INTELIGENTES
Por: Isabella Hertzog e Maria Rita
Por: Isabella Hertzog e Maria Rita
.png)
Por: Isabella Hertzog e Maria Rita
*Todas as ilustrações presentes na reportagem são autorais de Isabella Hertzog e Maria Rita
CIDADE INTELIGENTE, O QUE É?
O termo smart cities começou a ganhar força nos anos 1990, mas foi a partir dos anos 2000 que o conceito passou a se popularizar, orientando políticas urbanas e projetos de modernização em diferentes países. A publicação do relatório “Smart Cities: Ranking of European Medium-Sized Cities”, idealizado por pesquisadores da Universidade de Viena no ano de 2007 foi um dos marcos para esse processo. Nesse material, critérios como a economia, a mobilidade, a governança e o autogerenciamento do espaço urbano foram utilizados para a classificar as cidades europeias e essa iniciativa contribuiu para consolidar a conceituação atual do termo smart city.
Desde então, a ideia de cidade inteligente passou a ser associada à integração entre tecnologia e gestão urbana. Antes de compreender com mais profundidade o que caracteriza essa expressão, vale observar a própria semântica do termo que sustenta toda essa ideia.
Para esse campo, em português, smart city é traduzido como cidade inteligente. A tradução pode parecer simples, mas carrega história e uma série de significados. Na língua inglesa, o termo smart está tradicionalmente ligado à inteligência, como uma adjetivação para astúcia e capacidade de tomar decisões estratégicas. Com o avanço das tecnologias observado nas últimas décadas, a palavra ganhou uma significação mais ampla, passando a designar também ferramentas aptas ao processamento de informações de forma rápida e automatizada e conectar-se à internet para responder a determinados estímulos.
A associação de inteligência ao espaço urbano, então, ocorre junto ao crescimento acelerado observado nas cidades. Em um mundo em processo de globalização, as populações crescem em proporções maiores, assim como a pressão sobre os serviços de segurança e planejamento público relacionados aos problemas de mobilidade e à nova necessidade de tornar esse novo cenário controlado. É nesse contexto que as Tecnologias de Informação e Comunicação (TICs) passam a ocupar um papel mais estratégico, na medida em que há um objetivo comum de garantir um melhor uso dos recursos públicos pela inovação constante, para a melhoria sustentável do espaço urbano.
.png)
.png)
Colagem sobre placa de aviso de videomonitoramento em via pública no Rio de Janeiro. | Foto: Guito Moreto / Agência O Globo | Colagem: Isabella Hertzog e Maria Rita
O conceito chega em prática ao Brasil a partir de demandas de infraestrutura urbana e legislações e a cidade do Rio de Janeiro pode ser um exemplo desse desdobramento. Em dezembro de 2010 o Decreto Municipal nº 33.322 criou o Centro de Operações Rio (COR) motivado pela urgência de gerenciar crises climáticas, após os históricos deslizamentos daquele ano, e pela necessidade de preparar a infraestrutura urbana para a Copa do Mundo de 2014 e as Olimpíadas de 2016. A capital fluminense unificou câmeras e telas de diversos órgãos públicos em uma sala de controle integrada a mapas digitais e dados meteorológicos em tempo real.
Mais de uma década depois, Curitiba e São José dos Campos também podem ser consideradas referências nacionais em cercamento digital. Em março de 2022, São José dos Campos tornou-se o primeiro município brasileiro a obter a certificação da Associação Brasileira de Normas Técnicas (ABNT) em três normas da Organização Internacional para Padronização (ISO). Com destaque a ISO 37122, voltada ao uso de tecnologia avançada aplicada à segurança. No ano seguinte, Curitiba, foi eleita a cidade mais inteligente do mundo no World Smart City Awards 2023.
Embora implementada para otimizar a segurança global, dados oficiais de conectividade e infraestrutura disponíveis nos Painéis de Dados de Antenas e Infraestrutura da Anatel, cruzados com os dados e estatísticas territoriais do Sistema SIDRA do IBGE, indicam que a infraestrutura de conectividade se concentra em áreas de maior rendimento. Bairros centrais e corporativos de alta renda concentram uma densidade de antenas de nova geração e redes de fibra óptica até dez vezes maior que as zonas periféricas.
Se a inteligência urbana pressupõe a promoção de bem-estar e qualidade de vida por meio da gestão tecnológica, o modelo brasileiro de smart city é inteligente mesmo?
CAPÍTULOS
.png)
.png)
.png)
.png)
.png)
.png)
.png)
NO MAPA DO VIDEOMONITORAMENTO
O fenômeno de tornar uma cidade inteligente cresce em escala global como tentativa de mitigar os problemas gerados pelo crescimento da população urbana. No Brasil, esse modelo se funde a realidades mais acentuadas de desigualdade social e, no âmbito da segurança pública, assume características próprias, como o uso da infraestrutura de rede para aprimorar a economia e a gestão pública, favorecendo o desenvolvimento social e urbano.
Com predominância de municípios das regiões Sudeste e Sul, o projeto se expande para outras regiões do país. De acordo com o ranking das cidades mais inteligentes do Brasil, Vitória assume a liderança nacional, seguida por Florianópolis, Niterói, São Paulo, Curitiba, Recife, Barueri, Santos, Salvador e Rio de Janeiro.
.png)
CONSULTE OS PROJETOS
Em análise geral aos dados coletados, no Rio de Janeiro, o Programa Sentinela registrou a maior licitação pública mapeada no país, com teto planejado de R$ 2,042 bilhões para a instalação de 200 mil câmeras. Atualmente, o plano enfrenta incertezas após o Decreto nº 50.116/2026, que o instituiu, ter sido revogado em julho de 2026 pelo Decreto nº 50.371, em meio a instabilidade sobre o destino das despesas preparatórias.
No âmbito municipal, São Paulo lidera os gastos com recursos próprios por meio do projeto Smart Sampa, cujo contrato estipula um teto máximo de R$ 588 milhões. Já a cidade de Santos, no litoral paulista, estruturou o programa Santos Mais utilizando o maior volume de financiamento internacional registrado. O projeto totaliza cerca de R$ 700 milhões (US$ 131,4 milhões), sendo US$ 105 milhões captados via Banco de Desenvolvimento da América Latina (CAF) e US$ 26,3 milhões investidos como contrapartida direta do Tesouro Municipal para modernizar a infraestrutura local.
Nesses espaços, programas estaduais e municipais são implementados e, com isso, há um incentivo à prática de governança pública aliada a uma ideia de automatização dentro das cidades. Levantamento documental realizado pela reportagem identificou ao menos R$ 1,32 bilhão em contratos, valores de referência e investimentos anunciados relacionados a programas de videomonitoramento, além de US$ 131,4 milhões vinculados ao Programa Santos Mais.
OS SOFTWARES DO VIDEOMONITORAMENTO
Por trás das câmeras instaladas nas cidades do ranking discutido, está uma uma estrutura tecnológica pouco visível à sociedade. Além dos equipamentos, os projetos municipais e estaduais de videomonitoramento dependem de softwares, programas de computador que controlam o fluxo de imagens e dados e, em alguns casos, utilizam inteligência artificial para reconhecer rostos, identificar movimentações e emitir alertas automáticos.
O levantamento realizado para essa reportagem teve como base editais oficiais, contratos administrativos, termos de referência, portais de transparência e notícias disponibilizadas pelos governos estaduais e municipais dos locais em questão. Ao todo, os documentos e informações públicas dos projetos apontam o uso de pelo menos 14 sistemas e plataformas voltados à gestão de vídeo (VMS), inteligência artificial (IA) e armazenamento de dados. Apesar da diversidade, os editais e contratos, em geral, não informam o nome comercial do VMS nem o desenvolvedor responsável pelos algoritmos de IA utilizados.
Entre os sistemas nacionais utilizados, destacam-se o Digifort (São Paulo), Helper Tecnologia (Paraná), Urbanii (Santa Catarina), Prodam (São Paulo) e o SISP/CIASC (Santa Catarina). Já entre os sistemas estrangeiros aparecem empresas como Genetec (Canadá), ShotSpotter (Estados Unidos), NetApp (Estados Unidos), Bosch (Alemanha), HPE (Estados Unidos), Hikvision (China) e Suprema (Coreia do Sul).
Os documentos também revelam baixa transparência sobre o funcionamento dessas tecnologias. Praticamente nenhum dos sistemas divulga relatórios públicos de informações sobre taxas de erro e vieses dos algoritmos, especialmente em relação a raça e gênero, mesmo quando há uso de biometria facial em larga escala. Além disso, nos casos em que a inteligência artificial identifica comportamentos considerados "anômalos", não há critérios técnicos públicos que expliquem os parâmetros que geram alertas automáticos às forças policiais. Já em relação aos dados, alguns arquivos indicam armazenamento de imagens por 15 a 30 dias, mas raramente detalham o descarte definitivo de metadados biométricos.
OS LIMITES DA TRANSPARÊNCIA
A limitação exposta acaba por evidenciar um cenário de baixa transparência na gestão dessas tecnologias no cenário governamental brasileiro, mais especificamente, no que tange a Lei Geral de Proteção de Dados (LGPD). Embora a lei estabeleça regras para o tratamento de dados pessoais, o artigo 4º da legislação exclui as atividades de segurança pública de sua aplicação direta.
Aparelho urbano instalado em poste de iluminação pública. | Foto: Isabella Hertzog
Martim Landgraf, pesquisador do Instituto de Defesa do Direito de Defesa (IDDD), explica: “o cenário atual no Brasil é esse: a gente tem um vácuo legislativo, porque a LGPD não traz uma proteção expressa sobre a matéria de segurança pública”. Os princípios gerais da legislação continuam a servir de referência, mas não existem regras específicas que disciplinam a forma como os órgãos do governo e de segurança coletam, utilizam e compartilham essas informações. A previsão era que uma norma específica, a LGPD penal, regulamentasse posteriormente o tratamento de dados nesse contexto com critérios para a coleta e administração dos registros. Esse projeto, entretanto, nunca foi aprovado.
Na prática, o resultado é um vácuo legislativo sobre o uso de dados pessoais na segurança pública. Martim também menciona que sem esse marco legal, a adoção de sistemas de videomonitoramento e inteligência artificial avança de forma perspicaz entre entes públicos e privados, enquanto os critérios de governança e transparência seguem pouco padronizados.
A falta de regulamentação também amplia outro desafio: compreender como essas tecnologias chegam aos resultados observados. Diferentemente de uma câmera convencional, sistemas de reconhecimento facial servem para fazer o registro das imagens, mas também produzem novas informações a partir delas, cruzando os dados obtidos. Para Adriano Teixeira, pesquisador em criminologia vinculado ao Programa de Pós-Graduação em Direito da Universidade Federal do Rio de Janeiro (UFRJ), essa opacidade representa um obstáculo no controle social dessas ferramentas. Ele afirma que não se sabe ainda como exatamente os algoritmos são feitos. Segundo ele, muitos desses sistemas funcionam como "caixas-pretas", já que seus mecanismos internos permanecem inacessíveis ao escrutínio público. O pesquisador pondera que, mesmo diante dos avanços tecnológicos, o mínimo necessário seria a existência de instrumentos regulatórios capazes de estabelecer critérios claros para seu funcionamento e fiscalização.
A ausência de regras específicas e a opacidade dos sistemas dificultam a compreensão pública sobre o funcionamento dessas tecnologias. Sem exigências legais no território brasileiro, grande parte do funcionamento desses sistemas permanece restrita aos órgãos responsáveis e às empresas contratadas. Métricas de desempenho, políticas de retenção de dados e protocolos adotados para o uso das informações são aspectos que devem ser de livre acesso para todos. Assim, temos um avanço diretamente proporcional: a vigilância algorítmica cresce nas cidades brasileiras, ao mesmo tempo que surge o desafio da implementação de mecanismos efetivos de fiscalização, clareza e proteção de direitos dos cidadãos.
CORPO URBANO
Sem imaginar a cidade como um espaço estático de concreto e asfalto. Pense nela como um organismo vivo, em constante movimento. Seus elementos urbanos funcionam de forma integrada, seguindo uma lógica semelhante à dos sistemas que mantêm o corpo humano em funcionamento. Assim, as vias e ruas se estendem como artérias vitais, responsáveis por garantir toda a circulação diária. As áreas verdes cumprem uma missão essencial, assumem o papel dos pulmões que dão fôlego ao mapa, enquanto as estruturas e edificações se erguem para representar a própria ossatura que sustenta o conjunto.
Durante muito tempo, decifrar os males e as necessidades desse grande corpo dependia de métodos limitados. O planejamento urbano baseava-se principalmente em mapas tradicionais e observações gerais. Era um processo semelhante à tentativa de um médico tratar uma lesão interna contando apenas com o toque das mãos. Hoje, no entanto, o cenário mudou com a chegada de grandes volumes de dados, câmeras, sensores e sistemas de inteligência artificial. Essas tecnologias entram em cena como exames médicos de imagem de alta precisão, capazes de revelar partes desse organismo que antes permaneciam invisíveis aos olhos.
Em vez de suposições, agora é possível compreender o que acontece dentro desse corpo: identificam-se fluxos exatos de circulação, padrões reais de uso dos espaços públicos e a precisão dos problemas urbanos. Essa capacidade ampliada de enxergar a cidade em seus mínimos detalhes gera informações que guiam decisões que impactam diretamente a vida das pessoas. Contudo, essa mesma tecnologia de diagnóstico traz uma dualidade: ao monitorar o organismo constantemente, os sensores e câmeras acabam por transformar os espaços públicos em ambientes permanentemente observáveis.
.png)
.png)
Todo esse funcionamento disserta que o território urbano vai além de suas barreiras físicas. Para Fernando Garrefa, arquiteto, urbanista e professor da Universidade Federal de Uberlândia (UFU), essa comparação com o corpo humano ajuda a entender a necessidade de observar suas diferentes camadas.
O especialista em planejamento urbano observa que a aplicação de câmeras, sensores e ferramentas de inteligência artificial traz, inicialmente, um sentimento de encantamento. Sob uma perspectiva otimista, essa tecnologia de captação de imagens representa um avanço para subsidiar o desenho da cidade ao atuar como um mapeamento visual contínuo. O registro que permite documentar o uso real das ruas e praças ajuda a identificar como os pedestres interagem com o espaço construído e serve de base para qualificar o desenho das calçadas e a infraestrutura local a partir das dinâmicas coletadas.
Todavia, essa transição tecnológica impõe dilemas éticos que transformam o monitoramento em uma ferramenta de controle comportamental. O pesquisador adverte que o videomonitoramento constante submete os cidadãos a uma vigilância invasiva sobre suas ações diárias, com potencial até para modular o imaginário coletivo. Como analisa o arquiteto: “A estética maior que a gente vê é em relação aos aparatos de segurança que afetam muito a cidade. Por exemplo, os condomínios fechados, com os muros, aqueles muros altos, aquelas cercas de campo de concentração, que eles chamam de concertina, isso leva a cidade a uma estética do medo, digamos assim, da segregação, do medo nesses condomínios e também da estética da vigilância. Estamos todos de olho naquilo que você está fazendo ou não dentro das cidades”.
Frente a essa realidade, Garrefa avalia que o conceito de "cidades inteligentes" opera mais como uma peça de marketing e propaganda política do que propriamente como uma ciência consolidada. As administrações municipais frequentemente utilizam o termo para justificar a instalação de grandes centrais de monitoramento focadas apenas na aplicação de multas e na repressão policial.
“Diz mais respeito a câmeras de vigilância, centros de monitoramento do que a uma transformação urbana real.”
explica o docente.
.png)
SORRIA, VOCÊ ESTÁ SENDO MONITORADO!
Pensar em atravessar uma avenida, entrar em uma estação de transporte público ou até mesmo caminhar em uma praça pública. Em poucos minutos, é possível que esse trajeto tenha sido registrado por diferentes câmeras instaladas no espaço urbano. E, na maioria das vezes, é uma experiência que passa despercebida.
As tecnologias digitais ampliam a capacidade de monitorar a cidade, mas alteram significativamente a própria lógica da vigilância. O foco deixa de ser somente na resposta policial a um acontecimento específico e passa a incorporar uma lógica de observação contínua do cotidiano das pessoas, em que deslocamentos e comportamentos passam a ser interpretados em tempo real. Fala-se, então, de um controle diferente do de costume, historicamente ligado a órgãos públicos nas ruas. Agora, “quem” atua na linha de frente são sistemas automatizados que operam de maneira quase imperceptível para quem circula pela metrópole.
.png)
Essa dinâmica se aproxima do conceito de panoptismo, desenvolvido pelo filósofo francês Michel Foucault em Vigiar e Punir (1975). Ao analisar o projeto do Panóptico, concebido por Jeremy Bentham no século XVIII, Foucault descreve uma forma de poder que se baseia na constante possibilidade de vigilância. Nessa esfera, a eficácia do modelo não reside na observação permanente, mas na percepção de que ela pode acontecer a qualquer momento. Cria-se uma sensação de incerteza que faz com que os próprios indivíduos passem a regular seus comportamentos, incorporando a disciplina em seu dia a dia.
No mundo contemporâneo, é possível observar essa mesma lógica, embora que com maior complexidade. Como descreve o projeto O Panóptico, a torre central que simbolizava vigilância permanente é substituída por uma infraestrutura de câmeras, sensores, bancos de dados e algoritmos, capazes de realizar registros em larga escala, produzindo classificações sobre a circulação da população. Nessa configuração atualizada, a vigilância deixa de estar concentrada em um único observador e passa a operar por meio de uma rede tecnológica mais dispersa e escondida pelo espaço.
A cidade inteligente, nesse aspecto, se torna também um mecanismo para uma nova forma de organização do espaço público, desenvolvendo uma vigilância que produz seus próprios efeitos sobre a cidade. A distribuição das câmeras passa a ser feita com base em critérios que carregam parcialidade e subjetividade, abrindo espaço para uma discussão sobre privacidade e às desigualdades que a tecnologia pode reforçar
SOBERANIA DIGITAL
O avanço tecnológico observado nas últimas décadas é notório e o debate acerca dos impactos desse desenvolvimento tem circulado em diferentes instâncias. Entretanto, não há como negar que os questionamentos a respeito dos mecanismos de poder envolvidos nos setores de tecnologia aliados a grandes conglomerados globais podem ainda não ser suficientes.
À medida que a gestão pública incorpora sistemas digitais cada vez mais complexos, cresce também a discussão sobre soberania digital, conceito que diz respeito à capacidade de um país manter autonomia sobre suas infraestruturas tecnológicas, seus dados e seus sistemas estratégicos. Um estudo do Centro de Tecnologia e Sociedade da Fundação Getulio Vargas (CTS-FGV) aponta que a dependência crescente de softwares, serviços em nuvem e plataformas digitais pode fragilizar a capacidade dos Estados de administrar informações estratégicas e exercer sua autonomia tecnológica. No Brasil, esse debate se torna uma situação, visto que boa parte dos projetos implementados visam ampliar o desenvolvimento e a conectividade, mas terminam por também aumentar a dependência tecnológica do poder público em relação a infraestruturas sediadas fora do país.
No que tange a segurança pública, o alinhamento entre plataformas digitais e projetos políticos representa uma porta de entrada para aspectos abrangentes. O cerne parte da obtenção de dados para o mapeamento dos espaços urbanos e uma leitura mais ampla da cidadania. Porém, isso pode se transformar em um uso desenfreado que, quando não regulamentado, se transforma em uma forma de controle social. Surge então, um termo designado para representar essa nova forma de poder: o tecnofascismo. Alimentado pela fusão entre o domínio econômico de corporações digitais e a lógica propriamente política de domínio e vigilância, é um fenômeno mediado por algoritmos e pela manipulação da informação.
É somente no século 21 que o conceito ganha maior interesse acadêmico, passando a descrever essa simbiose entre o potencial autoritarismo e o uso de ferramentas digitais mecanizadas. Jason Stanley, publica How Fascism Works, descrevendo como os eventos globais corroboram a sua preocupação de que a retórica fascista esteja aparecendo novamente na política em todo o mundo. Em artigo publicado no The Guardian, o autor destaca as raízes direitistas do Vale do Silício e discute o avanço de práticas tecnofacistas no ambiente digital. No Brasil, Vinício Martinez, professor titular do Departamento de Educação da Universidade Federal de São Carlos (UFSCar), também analisa essa nova lógica no contexto global.
É uma nova faceta atualizada de um poder que vigora há séculos. Não há necessidade visual ou material de tanques, marchas públicas ou milícias, como no fascismo tradicional. O tecnofascismo se dá em um campo de batalha virtual, que se fortalece a partir de um fluxo massivo de dados e armas invisíveis. É nesse cenário que os sistemas de vigilância, algoritmos e inteligência artificial entram.
A atual configuração do poder digital é marcada pela atuação de bilionários. Elon Musk, que lidera o ranking global mais recente de pessoas mais ricas do mundo, mobiliza o argumento da “liberdade de expressão” para exercer um controle centralizado sobre seus investimentos. Quando comprou a plataforma “X”, o antigo Twitter, em outubro de 2022, desmontou mecanismos de moderação da plataforma, deixando os conteúdos circularem livremente na rede social. Logo após a aquisição, Musk também aproveitou a oportunidade para fazer uma postagem falando que seu objetivo com a compra não é ganhar dinheiro, e sim ajudar a humanidade, fazendo com que a civilização tenha uma “praça digital comum”.
Nesse recorte econômico e político, Peter Thiel é um dos principais nomes. Cofundador do Paypal e um dos primeiros investidores do Facebook, o empresário é um dos responsáveis pela criação da Palantir Technologies, empresa de software americana especializada em análise de big data e inteligência artificial. O principal atributo da infraestrutura é a sua capacidade de organizar e interpretar conjuntos massivos de dados para agências de defesa e grandes corporações. No contexto norte-americano, as ferramentas da Palantir são amplamente utilizadas por órgãos do governo, como a Agência Central de Inteligência (CIA), o Departamento Federal de Investigação (FBI), Agência de Segurança Nacional (NSA) e o Serviço de Imigração e Controle de Alfândegas dos EUA (ICE) . A explicação para o nome da companhia também não deve ser ignorada. Inspirado nas pedras mágicas da saga de livros O Senhor dos Anéis, o nome Palantir remete ao poder que essas pedras davam a quem as possuísse de ver o mesmo que os seus inimigos veem. Há, portanto, uma associação com a ideia de vigilância.
Um dos programas feitos pela desenvolvedora de software foi o das ilhas flutuantes, projeto de vigilância apoiado por Donald Trump, atual presidente dos Estados Unidos, que investiu em experimentos de colonização extraterritorial sem regulação estatal. Entenda mais sobre a Palantir Technologies no vídeo a seguir:
No Brasil, a empresa de videomonitoramento Pax AI, considerada a Palantir brasileira, com dois anos de atuação, conquistou clientes de peso, como os governos do Goiás, Paraná e São Paulo, por meio de acordos milionários sem licitação. A solução vendida pela corporação é, justamente, de um monitoramento capaz de cruzar dados com Inteligência Artificial para facilitar a investigação policial. Não obstante, a trajetória financeira da empresa chama atenção pelos altos valores envolvidos, além da falta de transparência nos contratos. A trajetória financeira da empresa, conforme dados publicados pela Carta Capital, indica que o capital social inicial, de R$ 20, teria saltado para R$ 36 milhões em menos de 30 dias, alcançando R$ 50 milhões em 2025, R$ 140 milhões em 2026 e mais de R$ 156 milhões no registro mais recente disponível.
A MARGEM DE ERRO
Com essa expansão do videomonitoramento nos espaços públicos, aumenta também um tema frequentemente deixado em segundo plano pelas empresas que as desenvolvem: os erros dos sistemas. Em levantamentos publicados pelo Colégio Nacional de Defensores Públicos Gerais (Condege), apontam que o estado do Rio de Janeiro mapeou 58 prisões injustas por identificação fotográfica. Testes práticos subsequentes no Estádio do Maracanã, cidade do Rio de Janeiro, a 10 colocada no ranking das cidades inteligentes, confirmaram a imprecisão do mecanismo ao registrar que, de 11 cidadãos detidos pelas câmeras, 7 acabaram abordados erroneamente, uma margem de falha estatística próxima a 70%, conforme reportagem publicada pela Revista Piauí.
Para Sara Wagner York, professora da Universidade do Estado do Rio de Janeiro (UERJ) e pesquisadora das relações entre tecnologia, gênero e direitos humanos, os indicadores normalmente utilizados para medir o sucesso desses sistemas acabam reforçando sua própria expansão. “As avaliações oficiais de cidades inteligentes tendem a medir a eficiência técnica. Tudo isso são métricas que o próprio sistema gera sobre si mesmo e, por isso, tende a validar a sua própria expansão”, afirma. O desempenho é avaliado com base em critérios produzidos pelo próprio sistema, como taxa de reconhecimento facial, tempo de resposta e integração de bancos de dados, sem considerar, por exemplo, quem é mais afetado pelos erros ou quais são seus impactos sociais. Por isso, a docente defende que a discussão deve partir de outra pergunta: “avaliar o avanço desses algoritmos exige perguntar: avanço para quem e de quem?”.
No geral dos casos brasileiros, os dados por amostragem demonstram um viés racial explícito na aplicação dessas ferramentas. Conforme estudo do Centro de Estudos de Segurança e Cidadania, divulgado pelo CESeC, 90,5% dos cidadãos capturados por monitoramento facial no país são negros. Essa distorção estatística resultou no cárcere injusto de um vigilante negro durante uma festividade junina em Salvador, 9 colocada no ranking, no ano de 2022. O trabalhador permaneceu detido por 26 dias devido a um crime cometido por um terceiro que utilizou sua identidade, caso detalhado pelo portal G1. O profissional perdeu sua vaga de emprego em razão do erro.
As falhas algorítmicas também apresentam disparidades de gênero e raça. De acordo com o projeto de pesquisa internacional Gender Shades, os sistemas erram cerca de 34% mais com mulheres negras do que com homens brancos, enquanto a taxa de acerto biométrico para indivíduos transgêneros cai para menos de 60%. Uma investigação, situada em território nacional, do Laboratório de Políticas Públicas e Internet, disponível no relatório Opanóptico do LAPIN, revela que 82,5% das secretarias estaduais de segurança recusaram-se a fornecer dados sobre falsos positivos, sob a alegação de que falhas inexistem.
Na avaliação de York, os danos provocados por esses sistemas não acontecem por acaso, mas refletem a lógica com que foram construídos. Ela explica que os algoritmos de reconhecimento facial são treinados, em sua maioria, a partir de rostos cisgênero, brancos e enquadrados em padrões binários de gênero. “O próprio ato de rotular um rosto como masculino ou feminino já pressupõe uma ontologia binária de gênero que o algoritmo não questiona. Mais dados poderiam reduzir o erro estatístico, mas não resolvem a violência epistemológica de um sistema que só sabe classificar dentro de duas caixas”, afirma.
A recorrência de violações motivou uma reação institucional em 2 de julho de 2026, quando o Conselho Nacional dos Direitos Humanos (CNDH) solicitou a retirada de pauta do Projeto de Lei 1.828/2023. O órgão colegiado emitiu um alerta formal contra a liberação da vigilância em massa no território nacional. Conforme o posicionamento divulgado pelo Fórum Nacional Pela Democratização da Comunicação (FNDC), a manifestação destaca o risco de institucionalizar o monitoramento sem prever salvaguardas ou mecanismos de reparação financeira e jurídica para as vítimas de abordagens indevidas.
A segurança pública é, portanto, diretamente afetada, já que abrange os desafios relacionados à criminalidade, violência, desigualdade social e falta de infraestrutura. Além disso, cada política pública urbana que é atravessada pelo uso de tecnologias, deve ser vista como dimensão também responsável pela proteção da ordem pública. Ou seja, não deve desconsiderar o fato de que existe um conjunto de direitos e deveres a serem usufruídos pela sociedade.
Como complemento à investigação, foi criada a plataforma Caixa-Preta, um espaço colaborativo de participação cidadã voltado ao registro de experiências relacionadas ao uso de câmeras de vigilância nos espaços urbanos. A iniciativa permite que os cidadãos registrem, de forma anônima, relatos sobre a localização de equipamentos, dúvidas sobre seu funcionamento, situações de abordagem indevida e possíveis falhas dos sistemas. As informações reunidas alimentam um infográfico atualizado em tempo real a partir das palavras-chave presentes nos relatos, formando um mapa colaborativo da vigilância na cidade. Se esse monitoramento se consolida como uma expressão das relações de poder que atravessam o espaço urbano, dar visibilidade às experiências da população também é uma forma de resistência. A proposta é ampliar a participação cidadã e fortalecer o debate público sobre transparência, tecnologia, direito à cidade e a construção de políticas públicas mais transparentes.
“Quando o sistema erra com uma pessoa trans, ele não trata isso como uma falha sua, mas como uma anomalia do sujeito. Não é o algoritmo que está errado, é o corpo.”
Prefere assistir? Acesse a vídeo-reportagem e veja como a vigilãncia urbana se manifesta nos espaços urbanos.
