Capitalismo de vigilância e racismo
o reconhecimento facial automatizado como técnica de controle sobre o corpo negro
Resumen
Imerso em uma sociedade de vigilância, o ser humano constitui fonte e usuário da coleta, processamento e análise dos seus dados digitais, perfazendo a modulação das subjetividades humanas. Permeado pelo discurso em que se glorifica as novas e mais modernas tecnologias, o já conhecido e inebriante discurso de combate à criminalidade violenta (ideologia da segurança pública), ganha novos instrumentos e técnicas de trabalho. Dentre esses instrumentos, destaca-se a utilização do reconhecimento facial automatizado. Este se concretiza através da coleta dos dados biométricos da face humana, conferindo um tratamento mais objetivo, supostamente neutro e eficaz no cumprimento de mandados de prisão. Nesse contexto, o presente artigo tem por objetivo debater o reconhecimento facial como uma técnica de controle e construção de subjetividades no sistema penal, que reforça sua seletividade. Para responder a essa problematização, analisamos a monitoração facial como uma nova forma de controle (digital) que circunda as relações pessoais. Identificamos um viés racista e discriminatório dos algoritmos utilizados, descortinando a suposta neutralidade atribuída a essas novas tecnologias. Utiliza-se a pesquisa bibliográfica, documental e estatística.
Citas
ALMEIDA, Silvio Luiz de. Racismo Estrutural. São Paulo: Sueli Carneiro, Pólen, 2019.
ARGUELLO, Katie. Guerra às drogas ou racismo de estado: a necropolítica de segurança pública. In: CARDOSO, Helena S.; NUNES, Leandro G.; Gusso, Luana de Carvalho S. (Orgs.) Criminologia Contemporânea. Rio de Janeiro: Lumen Juris, 2018, p. 141-173.
BARATTA, Alessandro. Criminologia Crítica e Crítica do Direito Penal: introdução à sociologia do direito penal. 6. ed. Rio de Janeiro: Revan, 2011.
BARRETTO, Vicente de Paulo; SCHIOCCHET, Taysa. Bioética: dimensões biopolíticas e perspectivas normativas. In: In: Leonel Severo Rocha; Lenio Luiz Streck. (Org.). Anuário do Programa de Pós-Graduação em Direito. 1ªed.Porto Alegre: Livraria do Advogado, 2006, p. 255-276. Disponível em: https://unisinos.academia.edu/ TaysaSchiocchet. Acesso em 05 abril 2022.
CARNEIRO, Sueli Aparecida. Construção do Outro como Não-Ser como fundamento do Ser. 2005. 339f. Tese de doutorado, Universidade de São Paulo, 2005.
COUTINHO, Lorena Melo; DAL CASTEL, Mauricio. Controle e vigilância: a ascensão do reconhecimento facial na política criminal. In: Biopolíticas no século XXI. Porto Alegre: Editora Fundação Fênix, 2022, v. 02, p. 111 – 130. Disponível em:
DELEUZE, Gilles. Post-Scriptum sobre as Sociedades de Controle. Editora 34, Rio de Janeiro, 2000.
DIWAN, Pietra. Raça Pura: uma história da eugenia no Brasil e no mundo. 2. ed. São Paulo: Contexto, 2020.
DUARTE, Evandro Piza; GARCIA, Rafael de Deus. O uso de novas tecnologias de comunicação no sistema de justiça criminal: tensões entre propostas de eficiência da justiça e a maximização dos efeitos negativos do sistema penal. Revista de Processo, v. 261, nov. 2016, p. 445-464.
FLAUZINA, Ana Luiza Pinheiro. Corpo negro caído no chão: o sistema penal e o projeto genocida do Estado Brasileiro. 2006. 145f. Dissertação de Mestrado, Universidade de Brasília, 2006.
FOUCAULT, Michel. Em defesa da sociedade. São Paulo: Martins Fontes, 2005.
FOUCAULT, Michel. Vigiar e punir: nascimento da prisão. Petrópolis: Vozes, 1987.
FRANÇA, Tiago Cruz; et al. Big Social Data: Princípios sobre Coleta, Tratamento e Análise de Dados Sociais. In: Tópicos em Gerenciamento de Dados e Informações. Disponível em: https://www.inf.ufpr.br/sbbd-sbsc2014/sbbd/proceedings/artigos/pdfs/127.pdf. Acesso em 08 jun. 2022.
FRAZÃO, Ana. Fundamentos da proteção dos dados pessoais – Noções introdutórias para a compreensão da importância da Lei Geral de Proteção de Dados. In: Lei Geral de Proteção de Dados Pessoais, 2. ed. São Paulo: Thomson Reuters Brasil, 2020.
HAN, Byung-Chul. Infocracia: digitalização e a crise da democracia. Trad. Gabriel S. Philipson. Petrópolis: Vozes, 2022.
HOFFMANN-RIEM, Wolfgang. Teoria Geral do Direito Digital: transformação digital: desafios para o direito. Rio de Janeiro: Forense, 2021.
KONDER, Carlos Nelson. O tratamento de dados sensíveis à luz da Lei 13.709/2018. In: Lei Geral de Proteção de Dados Pessoais, 2. ed. São Paulo: Thomson Reuters Brasil, 2020.
MAGNO, Madja Elayne da Silva Penha; BEZERRA, Josenildo, Soares. Vigilância negra: o dispositivo de reconhecimento facial e a disciplinaridade dos corpos. In: Revista Novos Olhares, v. 09, n. 02, ago-dez, 2020, p. 45 – 52. Disponível em: Acesso em:
MBEMBE, Achille. Necropolítica: biopoder, soberania, estado de exceção, política da morte. 4ª reimpressão. São Paulo: n-1 edições, 2019.
NUNES, Pablo. Novas ferramentas, velhas práticas: reconhecimento fácil e policiamento no Brasil, p. 67 – 70. In: Retratos da Violência: cinco meses de monitoramento, análises e descobertas. Jun. – Out., 2019. Disponível em: https://igarape.org.br/infografico-reconhecimento-facial-no-brasil/. Acesso em 30 maio 2022.
PINTO, Fernanda Miler Lima. Entre os ratos, o sino e o gato: uma abordagem sobre sistema penal e controle social na era da globalização a partir da análise do caso Bellingcat. 2021. 130f. Dissertação de Mestrado, Universidade do Vale do Rio dos Sinos – UNISINOS, 2021.
QUIJANO, Aníbal. Colonialidade do poder, eurocentrismo e América Latina. In: A colonialidade do saber: eurocentrismo e ciências sociais. Perspectivas latino-americanas. CLACSO, Consejo Latinoamericano de Ciencias Sociales, 2005. Disponível em: http://bibliotecavirtual.clacso.org.ar/clacso/sur-sur/20100624103322/12_Quijano.pdf. Acesso em 20 abril 2022.
REIS, Carolina; ALMEIDA, Eduarda; DA SILVA; Felipe; DOURADO, Fernando. Relatório sobre o uso de tecnologias de reconhecimento facial e câmeras de vigilância pela administração pública no Brasil. Brasília: Laboratório de Políticas Públicas e Internet, 2021.
SÁ, Priscilla Placha. Eles (não) são recicláveis. Revista da Faculdade de Direito – UFPR, Curitiba, nº 53, p. 0-000, 2011.
SILVA, Tarcizo da. Visão computacional e racismo algorítmico: branquitude e opacidade no aprendizado de máquina. Revista da Associação Brasileira de Pesquisadores Negros, v. 12, n. 31, dez. 2019 – fev. 2020, p. 428 – 448.
SILVEIRA, Sérgio Amadeu da. Sistemas algorítmicos, subordinação e colonialismo de dados. In: SABARIEGO, Jesús; AMARAL, Augusto Jobim do; SALES, Eduardo Baldissera Carvalho (org.). Algoritarismos. São Paulo: Tirant lo Blanch, 2020.
SIMÕES-GOMES, Letícia; ROBERTO, Enrico; MENDONÇA, Jônatas. Viés algorítmico – um balanço provisório. Estudos de Sociologia, Araraquara, v. 25, n. 48, 2020. DOI: 10.52780/res.13402. Disponível em: https://periodicos.fclar.unesp.br/estudos/article/view/13402. Acesso em: 30 dez. 2022.
SOUZA, Monique Navarro; COSTA, Luis Artur. Modulações algorítmicas em plataformas digitais e o colonialismo de dados: reflexões para a construção de uma agência descolonial. In: Revista Eletrônica Interações Sociais – REIS, v. 5, n. 1, jan. -jul. 2021, p. 169 – 198.
YOUNG, Iris Marion. Cinco faces da Opressão. In: Revista de Direito Público, v. 18, n. 97, jan./fev. 2021, p. 475-501. Disponível em https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/5405/pdf_1. Acesso em 31 maio 2022.
ZUBOFF, Shoshana. Big Other: capitalismo de vigilância e perspectivas para uma civilização de informação. In: Tecnopolíticas da vigilância: perspectivas da margem. São Paulo: Boitempo, 2018.
ZAFFARONI, Eugenio Raúl. Criminologia: aproximación desde un margen. Bogotá: Editorial Temis, 2003.
ARGUELLO, Katie. Guerra às drogas ou racismo de estado: a necropolítica de segurança pública. In: CARDOSO, Helena S.; NUNES, Leandro G.; Gusso, Luana de Carvalho S. (Orgs.) Criminologia Contemporânea. Rio de Janeiro: Lumen Juris, 2018, p. 141-173.
BARATTA, Alessandro. Criminologia Crítica e Crítica do Direito Penal: introdução à sociologia do direito penal. 6. ed. Rio de Janeiro: Revan, 2011.
BARRETTO, Vicente de Paulo; SCHIOCCHET, Taysa. Bioética: dimensões biopolíticas e perspectivas normativas. In: In: Leonel Severo Rocha; Lenio Luiz Streck. (Org.). Anuário do Programa de Pós-Graduação em Direito. 1ªed.Porto Alegre: Livraria do Advogado, 2006, p. 255-276. Disponível em: https://unisinos.academia.edu/ TaysaSchiocchet. Acesso em 05 abril 2022.
CARNEIRO, Sueli Aparecida. Construção do Outro como Não-Ser como fundamento do Ser. 2005. 339f. Tese de doutorado, Universidade de São Paulo, 2005.
COUTINHO, Lorena Melo; DAL CASTEL, Mauricio. Controle e vigilância: a ascensão do reconhecimento facial na política criminal. In: Biopolíticas no século XXI. Porto Alegre: Editora Fundação Fênix, 2022, v. 02, p. 111 – 130. Disponível em:
DELEUZE, Gilles. Post-Scriptum sobre as Sociedades de Controle. Editora 34, Rio de Janeiro, 2000.
DIWAN, Pietra. Raça Pura: uma história da eugenia no Brasil e no mundo. 2. ed. São Paulo: Contexto, 2020.
DUARTE, Evandro Piza; GARCIA, Rafael de Deus. O uso de novas tecnologias de comunicação no sistema de justiça criminal: tensões entre propostas de eficiência da justiça e a maximização dos efeitos negativos do sistema penal. Revista de Processo, v. 261, nov. 2016, p. 445-464.
FLAUZINA, Ana Luiza Pinheiro. Corpo negro caído no chão: o sistema penal e o projeto genocida do Estado Brasileiro. 2006. 145f. Dissertação de Mestrado, Universidade de Brasília, 2006.
FOUCAULT, Michel. Em defesa da sociedade. São Paulo: Martins Fontes, 2005.
FOUCAULT, Michel. Vigiar e punir: nascimento da prisão. Petrópolis: Vozes, 1987.
FRANÇA, Tiago Cruz; et al. Big Social Data: Princípios sobre Coleta, Tratamento e Análise de Dados Sociais. In: Tópicos em Gerenciamento de Dados e Informações. Disponível em: https://www.inf.ufpr.br/sbbd-sbsc2014/sbbd/proceedings/artigos/pdfs/127.pdf. Acesso em 08 jun. 2022.
FRAZÃO, Ana. Fundamentos da proteção dos dados pessoais – Noções introdutórias para a compreensão da importância da Lei Geral de Proteção de Dados. In: Lei Geral de Proteção de Dados Pessoais, 2. ed. São Paulo: Thomson Reuters Brasil, 2020.
HAN, Byung-Chul. Infocracia: digitalização e a crise da democracia. Trad. Gabriel S. Philipson. Petrópolis: Vozes, 2022.
HOFFMANN-RIEM, Wolfgang. Teoria Geral do Direito Digital: transformação digital: desafios para o direito. Rio de Janeiro: Forense, 2021.
KONDER, Carlos Nelson. O tratamento de dados sensíveis à luz da Lei 13.709/2018. In: Lei Geral de Proteção de Dados Pessoais, 2. ed. São Paulo: Thomson Reuters Brasil, 2020.
MAGNO, Madja Elayne da Silva Penha; BEZERRA, Josenildo, Soares. Vigilância negra: o dispositivo de reconhecimento facial e a disciplinaridade dos corpos. In: Revista Novos Olhares, v. 09, n. 02, ago-dez, 2020, p. 45 – 52. Disponível em: Acesso em:
MBEMBE, Achille. Necropolítica: biopoder, soberania, estado de exceção, política da morte. 4ª reimpressão. São Paulo: n-1 edições, 2019.
NUNES, Pablo. Novas ferramentas, velhas práticas: reconhecimento fácil e policiamento no Brasil, p. 67 – 70. In: Retratos da Violência: cinco meses de monitoramento, análises e descobertas. Jun. – Out., 2019. Disponível em: https://igarape.org.br/infografico-reconhecimento-facial-no-brasil/. Acesso em 30 maio 2022.
PINTO, Fernanda Miler Lima. Entre os ratos, o sino e o gato: uma abordagem sobre sistema penal e controle social na era da globalização a partir da análise do caso Bellingcat. 2021. 130f. Dissertação de Mestrado, Universidade do Vale do Rio dos Sinos – UNISINOS, 2021.
QUIJANO, Aníbal. Colonialidade do poder, eurocentrismo e América Latina. In: A colonialidade do saber: eurocentrismo e ciências sociais. Perspectivas latino-americanas. CLACSO, Consejo Latinoamericano de Ciencias Sociales, 2005. Disponível em: http://bibliotecavirtual.clacso.org.ar/clacso/sur-sur/20100624103322/12_Quijano.pdf. Acesso em 20 abril 2022.
REIS, Carolina; ALMEIDA, Eduarda; DA SILVA; Felipe; DOURADO, Fernando. Relatório sobre o uso de tecnologias de reconhecimento facial e câmeras de vigilância pela administração pública no Brasil. Brasília: Laboratório de Políticas Públicas e Internet, 2021.
SÁ, Priscilla Placha. Eles (não) são recicláveis. Revista da Faculdade de Direito – UFPR, Curitiba, nº 53, p. 0-000, 2011.
SILVA, Tarcizo da. Visão computacional e racismo algorítmico: branquitude e opacidade no aprendizado de máquina. Revista da Associação Brasileira de Pesquisadores Negros, v. 12, n. 31, dez. 2019 – fev. 2020, p. 428 – 448.
SILVEIRA, Sérgio Amadeu da. Sistemas algorítmicos, subordinação e colonialismo de dados. In: SABARIEGO, Jesús; AMARAL, Augusto Jobim do; SALES, Eduardo Baldissera Carvalho (org.). Algoritarismos. São Paulo: Tirant lo Blanch, 2020.
SIMÕES-GOMES, Letícia; ROBERTO, Enrico; MENDONÇA, Jônatas. Viés algorítmico – um balanço provisório. Estudos de Sociologia, Araraquara, v. 25, n. 48, 2020. DOI: 10.52780/res.13402. Disponível em: https://periodicos.fclar.unesp.br/estudos/article/view/13402. Acesso em: 30 dez. 2022.
SOUZA, Monique Navarro; COSTA, Luis Artur. Modulações algorítmicas em plataformas digitais e o colonialismo de dados: reflexões para a construção de uma agência descolonial. In: Revista Eletrônica Interações Sociais – REIS, v. 5, n. 1, jan. -jul. 2021, p. 169 – 198.
YOUNG, Iris Marion. Cinco faces da Opressão. In: Revista de Direito Público, v. 18, n. 97, jan./fev. 2021, p. 475-501. Disponível em https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/5405/pdf_1. Acesso em 31 maio 2022.
ZUBOFF, Shoshana. Big Other: capitalismo de vigilância e perspectivas para uma civilização de informação. In: Tecnopolíticas da vigilância: perspectivas da margem. São Paulo: Boitempo, 2018.
ZAFFARONI, Eugenio Raúl. Criminologia: aproximación desde un margen. Bogotá: Editorial Temis, 2003.
Publicado
12/03/2023
Sección
PUBLICAÇÕES
