Vigilância artificial em São Paulo: o que isso pode significar

Smart Sampa é projeto da Prefeitura de São Paulo que quer reconhecimento facial e monitorar cor dos cidadãos

A cidade de São Paulo planeja contratar sistemas de vigilância inteligente para reconhecer “criminosos e vadiagem”. É, “vadiagem” mesmo! Seriam mais de 20 mil câmeras para esse monitoramento, além de integrar outras tantas câmeras e bases de dados já construídas por órgãos municipais. Hoje essas câmeras, sistemas e bases de dados não estão integrados. Ao integrá-los, a capital paulista quer criar um “Smart Sampa”, como é chamado o projeto.

Segue, como falamos aqui na Bahia, o gueri oficial:

A Smart Sampa tem previsão de integrar mais de 20 mil câmeras até 2024 e busca a modernização e ampliação no monitoramento de câmeras na Capital, agregando o conceito de Cidades Inteligentes. A iniciativa permitirá maior eficácia e agilidade no atendimento de ocorrências da Guarda Civil Metropolitana e demais órgãos de segurança.
A Smart Sampa possibilitará um monitoramento mais inteligente e especializado graças ao uso de analíticos, permitindo que os órgãos de segurança possam promover a filtragem instantânea de imagens de ocorrências. Com recursos de identificação facial e detecção de movimento, as câmeras reconhecerão atitudes suspeitas, pessoas procuradas, placas de veículos e objetos perdidos.

A nova plataforma ainda facilita a integração de diversos serviços municipais, como CET, SAMU, Defesa Civil e GCM, em uma única plataforma por meio da criação de uma moderna Central de Monitoramento Integrada.
Além disso, com as novas câmeras, os órgãos de segurança terão como monitorar escolas, UBS e demais equipamentos públicos, aumentando significativamente a segurança nesses locais. As câmeras técnicas contarão ainda com monitoramento de calor, facilitando a supervisão em praças e parques, que normalmente possuem árvores e áreas verdes que podem prejudicar uma vigilância mais precisa.

Em resumo, ele é baseado em três pontos:

  • Reconhecimento facial;
  • Monitoramento das mídias digitais;
  • E detecção da cor da pele dos indivíduos monitorados.

O quão isso pode ser errado, né? Tudo!

Reconhecimento facial por inteligências artificiais (IAs) são problemáticas. Elas (ainda) têm uma porcentagem de erro muito grande, os chamados falso positivos, que podem taguear alguém como “suspeito” sem, necessariamente, sê-lo. Algo mais ou menos parecido com que vive a imensa maior da população afro-brasileira ao adentrar em um espaços da minoria branca rica. Além disso, geralmente, essas tecnologias podem reforçar esses vieses e preconceitos por empresas, governos, programadores e bases de dados (sim, bases de dados também têm vieses). De modo geral, esse tipo de automatização pode reforçar “pressões” do estado sobre indivíduos e populações já marginalizadas.

Monitorar atividades nas redes sociais, contudo, já é algo feito por grupos de inteligências em diversos órgãos públicos dentro e fora do Brasil. Aferir o “sentimento” das redes é comum para detectar engajamentos e movimentos sociais. Podemos forçar um pouco e dizer que é “normal”. Contudo, não é difícil imaginar que cruzar esses dados com outras dados governamentais em busca de “vadiagem” ou “insurreições de movimentos sociais” possa gerar diversos questionamentos sobre predições (análises dos dados tendo em vista ações futuras) que podem emergir. Ao que parece, a ideia do Minority Report nunca sai da cabeça dos governantes.

Mas há quem já se adiantou.

A China faz isso já há alguns anos: se você vai para a praça protestar, coloca sua manifestação nas redes e é “pego” por uma câmera inteligente, é bem provável que seu score social (um tipo de score do Serasa deles, só que bem mais restritivo) vai baixar e, em alguns casos, você não pode nem mais sair de sua cidade por causa disso. É um tipo bem punitivo de vigilância estatal. Um tipo de panóptico inteligente. O Big Brother vive.

Em minha dissertação de mestrado, traço um pouco o panorama dos Centros de Comando e Controle Urbanos criados para a Copa do Mundo de 2014 que pretendiam se transformar em “panópticos governamentais” sobre as cidades-sede da competição. Em alguma medida, conseguiram. Mas seu controle estava mais para o ambiente urbano, trânsito, coordenação de forças de segurança pública, serviços públicos etc. Não tratavam de “vadiagem”. Pelo menos não à época.

No Smart Sampa o principal dedo na ferida vem ao reboque do reconhecimento facial, identificar a cor da pele das pessoas.

Mas, heim? Você pergunta. Apois! respondo.

Isso é ilegal? É. É descriminação do indivíduo por sua cor de pele. Mais uma vez, não é difícil imaginar que um indivíduo seja monitorado em vias públicas ou seja abordado apenas por sua “cor suspeita”. Isso é uma violação do direito básico de existência do indivíduo. É uma afronta à Constituição Federal.

Além de tudo isso, há outra questão que é preciso levar em consideração: os dados. Dados de reconhecimento, mídias sociais (que a maioria das pessoas publica livremente) e, por incrível de pareça, detecção de cor são pessoais – óbvio! A má gestão desses dados pode causar prejuízo aos indivíduos e comunidades e comprometer sua privacidade e segurança. Óbvio!

Enquanto tecnologia, as inteligências artificiais (IAs) não só más por si. Mas podem ser apropriadas, utilizadas de maneira errônea, equivocada ou com má intenção. Este projeto Smart Sampa parece ser uma junção dessas matrizes. Já é um projeto que nasce burro, é um “Dumb (burro) Sampa”.

Enquanto sociedade, temos que usar as tecnologias em ambientes e serviços públicos com muito cuidado. Discussões e aparagens de arestas são necessárias para prover a melhor utilização dessas tecnologias ao ambiente social ao, por exemplo, tentar mitigar seus vieses. Algumas simplesmente não são convenientes, como o reconhecimento facial automatizado por IAs.

E ponto.

Você pode ver a documentação do projeto clicando aqui. https://participemais.prefeitura.sp.gov.br/legislation/processes/209

Centros de Comando e Controle Urbanos (CCCU) nas cidades

Artigo: “Centros de Comando e Controle Urbanos (CCCU): Sistemas Operacionais Urbanos, Smartsurveillance e Tecnologias Infocomunicacionais”

Noa Salvador: exemplo de Centro de Comando e Controle Urbano

Neste artigo propomos investigar os Centros de Comando e Controle Urbanos (CCCU), novas ferramentas para gestões urbanas baseadas em tecnologias infocomunicacionais. Partimos da conceituação do que seriam os CCCU e, em seguida, analisamos alguns dos seus impactos sobre as cidades, como a criação de sistemas operacionais urbanos (SOU), análises preditivas sobre camadas urbanas e o surgimento de smartsurveillances dos atores urbanos – três aspectos que dependem dos dados coletados pelas tecnologias infocomunicacionais (como sensores, hardwares tecnológicos,aplicativos, softwares de coleta, armazenamento, processamento e análise de dados etc.) instaladas nos CCCU. Nossa conclusão é de que Centros de Comando e Controle Urbanos podem contribuir para amplificar a noção de Estado-rede, e produzir novas camadas de controle sobre espaços e corpos urbanos.

Palavras-chave: Centros de Comando e Controle Urbanos, Sistemas Operacionais Urbanos, Tecnologias Infocomunicacionais, Smartsurveillances, Cibercultura.

Urban Command and Control Centers (UCCC) in cities

In this article we propose to investigate the Urban Command and Control Centers (UCCC), new tools for urban management accepted in infocommunication technologies. We start with the conceptualization of what UCCC would be and then analyze some of their impacts on cities, such as the creation of urban operating systems (OS), predictive analyzes on urban plans and the incident of smartsurveillances of urban actors – three aspects that depend on the data collected by infocommunication technologies (such as sensors, technological hardware, applications, software for collecting, storing, processing and analyzing data, etc.) installed in the UCCCs. Our conclusion is that the Urban Command and Control Centers can contribute to amplify the notion of the network-State, and produce new flags of control over spaces and urban bodies.

Keywords: Urban Command and Control Centers, Urban Operating Systems, Infocommunication Technologies, Smartsurveillances, Cyberculture.

Mais uma vez, blog

Não é meu primeiro blog na rede. Já fiz de tudo um pouco na internet, já usei blogspot, já circulei no wordpress e já semeei no meu próprio “com.br” – perdi esse domínio, lamentavelmente, e agora ataco de “moises.co“.

Mas, volto. Volto com um objetivo em mente: escrever. Este é meu desafio para os próximos anos: escrever mais e mais a cada dia. Ler mais livros também está na equação de minha vida. Todavia, ter um blog sempre me ajudou na prática da escrita, e sempre foi um grande incentivo.

Faça seu próprio blog e produza. Não fique contente em apenas consumir.

Neste canto você poderá ler sobre cibercultura – minha paixão em termos de interesse e pesquisa -, comunicação digital, marketing e mídias sociais – estas últimas mais próximas das áreas de trabalho que coloquei meus pés nos últimos anos – e, claro, um pouco sobre mim. Não creio que vá acertar em tudo que escreverei, mas o objetivo será mesmo de levantar a bola e não de marca o ponto. Fazer um exercício de humildade é preciso, afinal. 🙂

Espero conseguir escrever, ao menos, três parágrafos por dia neste blog. Também anceio conseguir pegar as borboletas que realmente importam, não apenas para mim, mas também para você, anônimo leitor. Dedos cruzados.

Se está lendo isso, sinta-se no direito de me cobrar essa “promessa”.

Abraços fraternos.

Waze and Urban Command and Control Centers: cases studies in Brazil

New digital and collaborative infocommunication technologies can be seen in the hands of citizens as well as organs and governments. The Waze smartphone app is one such case. Based on data and mining locative information on traffic, in real time, it quickly gained spaces among citizens to bypass urban problems. And also the Urban Command and Control Centers (UCCCs), which aim to have access to the data produced collaboratively by the users of the app. Based on this, this research aims to understand how Waze works and associations with UCCCs. Interviews with those responsible for Centers that have a partnership with Waze in Brazil (in the cities of Rio de Janeiro-RJ, Petrópolis-RJ, Vitória-ES and Juiz de Fora-MG), or use it unofficially (in Salvador-BA) were done in order to raise appropriations and understanding about the use of the app and its data by UCCCs. The application, important for users to overcome urban problems, has proved useful to Centers (lending their infocommunication skills) to connect with citizens and to be able to observe, treat and solve problems in different urban layers.
Key-words: Waze. Infocommunication Technologies. Urban Command and Control
Centers. Connected Citizens Program. Traffic.

Acess: https://repositorio.ufba.br/ri/handle/ri/27834

Waze e Centros de Comando e Controle Urbanos: estudos de casos no Brasil

Novas tecnologias infocomunicacionais digitais e colaborativas podem ser vistas nas
mãos de cidadãos e também de órgãos e governos. O aplicativo para smartphones Waze é um destes casos. Baseado em dados e mineração de informações locativas sobre o trânsito, em tempo real, rapidamente ganhou espaços entre cidadãos para contornar
problemas urbanos. E, em seguida, também de Centros de Comando e Controle Urbanos (CCCUs), que visam ter acesso a dados produzidos colaborativamente pelos usuários do app. Com base nisso, esta pesquisa objetiva compreender como o Waze funciona e associações como CCCUs. Entrevistas com os responsáveis por Centros, que têm parceria com o Waze, no Brasil (Rio de Janeiro-RJ, Petrópolis-RJ, Vitória-ES e Juiz de Fora-MG), ou usa-o extraoficialmente (Salvador), foram realizadas afim de levantar apropriações e entendimento sobre a utilização do app e seus dados pelos CCCUs. O aplicativo, importante para usuários contornarem problemas urbanos, no dia a dia, mostrou-se útil aos Centros (emprestando suas competências infocomunicacionais) para conectarem-se com os cidadãos e conseguirem observar, tratar e solucionar problemas em diversas camadas urbanas.
Palavras-chave: Waze. Tecnologias infocomunicacionais. Centros de Comando e
Controle Urbanos. Connected Citizens Program. Trânsito.

Disponível: https://repositorio.ufba.br/ri/handle/ri/27834