Vigilância invertida

Curador: Vítor Nieves

Vigilância invertida

Em janeiro de 2023, o governo francês aprovou uma lei que legaliza a vídeo vigilância algorítmica (AVS) como medida de controlo de multidões para todos os ajuntamentos de mais de 300 pessoas. Esta tecnologia é implementada para automatizar o processo de deteção de crimes.

Em Reversed Surveillance, Marcel Top analisa dois tipos de AVS: o reconhecimento de emoções e a análise de movimentos. Ao colocar ambas à prova, Top desafia a objetividade delas, forçando os limites de deteção e destacando as falhas como estruturas empíricas.

Abordando o conflito entre humanos e não humanos, o artista questiona, em última análise, a eficiência, a justiça e os possíveis futuros decorrentes do facto de deixar estas tecnologias não humanas atuarem como juízes absolutos em questões de leitura humana relacionadas com o direito de reunião em França.

O reconhecimento de emoções é semelhante ao reconhecimento facial, mas em vez de se centrar no reconhecimento da identidade, o seu objetivo é descodificar o estado emocional interior da pessoa. Neste caso, a inteligência artificial é treinada para detetar, analisar e descodificar os padrões de comportamento humano associados às emoções.

Partindo de uma transmissão em direto de 3 horas de um recente protesto francês, o artista utiliza o software “Video Content Analysis” para analisar a multidão e discernir os rostos de mais de 30 000 pessoas.

Com a utilização de uma IA treinada para reconhecer 7 expressões faciais associadas a determinadas emoções, o artista categoriza os manifestantes com base no estado emocional que lhes foi atribuído pela inteligência artificial. Este processo permite-lhe visualizar a forma como a IA interpreta um protesto.

Atualmente, não há registo de que o reconhecimento de emoções seja utilizado em decisões que afetem os manifestantes. No entanto, esta tecnologia tem sido amplamente utilizada por empresas para monitorizar os seus empregados.

A contínua evolução das tecnologias de vigilância, combinada com a normalização resultante da facilidade com que estas tecnologias são introduzidas a nível legislativo, constitui uma ameaça ao direito de reunião, de protesto e de expressão. Isto torna-se extremamente ameaçador quando a tecnologia é incumbida da tarefa de descodificar algo da natureza humana e utilizada para tomar decisões com base em probabilidades e não em acontecimentos.

No final, Top cria uma ferramenta de reconhecimento facial para identificar agentes da polícia durante os protestos. Ao aproveitar o poder das tecnologias de vigilância, Top tenta criar novas ferramentas para expor o perigo destas tecnologias, bem como para as utilizar em nosso próprio benefício.

B-Lounge da U.Minho — Campus de Azurém
Campus de Azurém s/n, Braga

Horário:

Segunda-feira – sexta-feira
08:30–20:00

Sábado e domingo
Encerrado