Surveillance capitalism and racism
automated facial recognition as a technique of control over the black body
Keywords:
Information society, Surveillance capitalism, Criminal selectivity, Facial recognition, Racist bias
Abstract
Immersed in surveillance society, the human being is the source and user of the collection, processing and analysis of their own digital data, also making up the modulation of human subjectivities. Permeated by the discourse in which the new and more modern technologies are glorified, the already known and inebriating discourse of fighting against violent crime (public security ideology), gains new instruments and working techniques. Among these instruments, the use of automated facial recognition stands out. This is achieved through the collection of biometric data from the human face, providing a more objective treatment, supposedly neutral and effective in complying with arrest warrants. In this context, this article aims to discuss facial recognition as a technique for controlling and building subjectivities in the criminal system, which reinforces its selectivity. To respond to this problematization, we analyze facial monitoring as a new form of (digital) control that surrounds personal relationships. We identified a racist and discriminatory bias in the algorithms used, revealing the supposed neutrality attributed to these new technologies. We used the bibliographical, documentary and statistical research.
References
ALMEIDA, Silvio Luiz de. Racismo Estrutural. São Paulo: Sueli Carneiro, Pólen, 2019.
ARGUELLO, Katie. Guerra às drogas ou racismo de estado: a necropolítica de segurança pública. In: CARDOSO, Helena S.; NUNES, Leandro G.; Gusso, Luana de Carvalho S. (Orgs.) Criminologia Contemporânea. Rio de Janeiro: Lumen Juris, 2018, p. 141-173.
BARATTA, Alessandro. Criminologia Crítica e Crítica do Direito Penal: introdução à sociologia do direito penal. 6. ed. Rio de Janeiro: Revan, 2011.
BARRETTO, Vicente de Paulo; SCHIOCCHET, Taysa. Bioética: dimensões biopolíticas e perspectivas normativas. In: In: Leonel Severo Rocha; Lenio Luiz Streck. (Org.). Anuário do Programa de Pós-Graduação em Direito. 1ªed.Porto Alegre: Livraria do Advogado, 2006, p. 255-276. Disponível em: https://unisinos.academia.edu/ TaysaSchiocchet. Acesso em 05 abril 2022.
CARNEIRO, Sueli Aparecida. Construção do Outro como Não-Ser como fundamento do Ser. 2005. 339f. Tese de doutorado, Universidade de São Paulo, 2005.
COUTINHO, Lorena Melo; DAL CASTEL, Mauricio. Controle e vigilância: a ascensão do reconhecimento facial na política criminal. In: Biopolíticas no século XXI. Porto Alegre: Editora Fundação Fênix, 2022, v. 02, p. 111 – 130. Disponível em:
DELEUZE, Gilles. Post-Scriptum sobre as Sociedades de Controle. Editora 34, Rio de Janeiro, 2000.
DIWAN, Pietra. Raça Pura: uma história da eugenia no Brasil e no mundo. 2. ed. São Paulo: Contexto, 2020.
DUARTE, Evandro Piza; GARCIA, Rafael de Deus. O uso de novas tecnologias de comunicação no sistema de justiça criminal: tensões entre propostas de eficiência da justiça e a maximização dos efeitos negativos do sistema penal. Revista de Processo, v. 261, nov. 2016, p. 445-464.
FLAUZINA, Ana Luiza Pinheiro. Corpo negro caído no chão: o sistema penal e o projeto genocida do Estado Brasileiro. 2006. 145f. Dissertação de Mestrado, Universidade de Brasília, 2006.
FOUCAULT, Michel. Em defesa da sociedade. São Paulo: Martins Fontes, 2005.
FOUCAULT, Michel. Vigiar e punir: nascimento da prisão. Petrópolis: Vozes, 1987.
FRANÇA, Tiago Cruz; et al. Big Social Data: Princípios sobre Coleta, Tratamento e Análise de Dados Sociais. In: Tópicos em Gerenciamento de Dados e Informações. Disponível em: https://www.inf.ufpr.br/sbbd-sbsc2014/sbbd/proceedings/artigos/pdfs/127.pdf. Acesso em 08 jun. 2022.
FRAZÃO, Ana. Fundamentos da proteção dos dados pessoais – Noções introdutórias para a compreensão da importância da Lei Geral de Proteção de Dados. In: Lei Geral de Proteção de Dados Pessoais, 2. ed. São Paulo: Thomson Reuters Brasil, 2020.
HAN, Byung-Chul. Infocracia: digitalização e a crise da democracia. Trad. Gabriel S. Philipson. Petrópolis: Vozes, 2022.
HOFFMANN-RIEM, Wolfgang. Teoria Geral do Direito Digital: transformação digital: desafios para o direito. Rio de Janeiro: Forense, 2021.
KONDER, Carlos Nelson. O tratamento de dados sensíveis à luz da Lei 13.709/2018. In: Lei Geral de Proteção de Dados Pessoais, 2. ed. São Paulo: Thomson Reuters Brasil, 2020.
MAGNO, Madja Elayne da Silva Penha; BEZERRA, Josenildo, Soares. Vigilância negra: o dispositivo de reconhecimento facial e a disciplinaridade dos corpos. In: Revista Novos Olhares, v. 09, n. 02, ago-dez, 2020, p. 45 – 52. Disponível em: Acesso em:
MBEMBE, Achille. Necropolítica: biopoder, soberania, estado de exceção, política da morte. 4ª reimpressão. São Paulo: n-1 edições, 2019.
NUNES, Pablo. Novas ferramentas, velhas práticas: reconhecimento fácil e policiamento no Brasil, p. 67 – 70. In: Retratos da Violência: cinco meses de monitoramento, análises e descobertas. Jun. – Out., 2019. Disponível em: https://igarape.org.br/infografico-reconhecimento-facial-no-brasil/. Acesso em 30 maio 2022.
PINTO, Fernanda Miler Lima. Entre os ratos, o sino e o gato: uma abordagem sobre sistema penal e controle social na era da globalização a partir da análise do caso Bellingcat. 2021. 130f. Dissertação de Mestrado, Universidade do Vale do Rio dos Sinos – UNISINOS, 2021.
QUIJANO, Aníbal. Colonialidade do poder, eurocentrismo e América Latina. In: A colonialidade do saber: eurocentrismo e ciências sociais. Perspectivas latino-americanas. CLACSO, Consejo Latinoamericano de Ciencias Sociales, 2005. Disponível em: http://bibliotecavirtual.clacso.org.ar/clacso/sur-sur/20100624103322/12_Quijano.pdf. Acesso em 20 abril 2022.
REIS, Carolina; ALMEIDA, Eduarda; DA SILVA; Felipe; DOURADO, Fernando. Relatório sobre o uso de tecnologias de reconhecimento facial e câmeras de vigilância pela administração pública no Brasil. Brasília: Laboratório de Políticas Públicas e Internet, 2021.
SÁ, Priscilla Placha. Eles (não) são recicláveis. Revista da Faculdade de Direito – UFPR, Curitiba, nº 53, p. 0-000, 2011.
SILVA, Tarcizo da. Visão computacional e racismo algorítmico: branquitude e opacidade no aprendizado de máquina. Revista da Associação Brasileira de Pesquisadores Negros, v. 12, n. 31, dez. 2019 – fev. 2020, p. 428 – 448.
SILVEIRA, Sérgio Amadeu da. Sistemas algorítmicos, subordinação e colonialismo de dados. In: SABARIEGO, Jesús; AMARAL, Augusto Jobim do; SALES, Eduardo Baldissera Carvalho (org.). Algoritarismos. São Paulo: Tirant lo Blanch, 2020.
SIMÕES-GOMES, Letícia; ROBERTO, Enrico; MENDONÇA, Jônatas. Viés algorítmico – um balanço provisório. Estudos de Sociologia, Araraquara, v. 25, n. 48, 2020. DOI: 10.52780/res.13402. Disponível em: https://periodicos.fclar.unesp.br/estudos/article/view/13402. Acesso em: 30 dez. 2022.
SOUZA, Monique Navarro; COSTA, Luis Artur. Modulações algorítmicas em plataformas digitais e o colonialismo de dados: reflexões para a construção de uma agência descolonial. In: Revista Eletrônica Interações Sociais – REIS, v. 5, n. 1, jan. -jul. 2021, p. 169 – 198.
YOUNG, Iris Marion. Cinco faces da Opressão. In: Revista de Direito Público, v. 18, n. 97, jan./fev. 2021, p. 475-501. Disponível em https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/5405/pdf_1. Acesso em 31 maio 2022.
ZUBOFF, Shoshana. Big Other: capitalismo de vigilância e perspectivas para uma civilização de informação. In: Tecnopolíticas da vigilância: perspectivas da margem. São Paulo: Boitempo, 2018.
ZAFFARONI, Eugenio Raúl. Criminologia: aproximación desde un margen. Bogotá: Editorial Temis, 2003.
ARGUELLO, Katie. Guerra às drogas ou racismo de estado: a necropolítica de segurança pública. In: CARDOSO, Helena S.; NUNES, Leandro G.; Gusso, Luana de Carvalho S. (Orgs.) Criminologia Contemporânea. Rio de Janeiro: Lumen Juris, 2018, p. 141-173.
BARATTA, Alessandro. Criminologia Crítica e Crítica do Direito Penal: introdução à sociologia do direito penal. 6. ed. Rio de Janeiro: Revan, 2011.
BARRETTO, Vicente de Paulo; SCHIOCCHET, Taysa. Bioética: dimensões biopolíticas e perspectivas normativas. In: In: Leonel Severo Rocha; Lenio Luiz Streck. (Org.). Anuário do Programa de Pós-Graduação em Direito. 1ªed.Porto Alegre: Livraria do Advogado, 2006, p. 255-276. Disponível em: https://unisinos.academia.edu/ TaysaSchiocchet. Acesso em 05 abril 2022.
CARNEIRO, Sueli Aparecida. Construção do Outro como Não-Ser como fundamento do Ser. 2005. 339f. Tese de doutorado, Universidade de São Paulo, 2005.
COUTINHO, Lorena Melo; DAL CASTEL, Mauricio. Controle e vigilância: a ascensão do reconhecimento facial na política criminal. In: Biopolíticas no século XXI. Porto Alegre: Editora Fundação Fênix, 2022, v. 02, p. 111 – 130. Disponível em:
DELEUZE, Gilles. Post-Scriptum sobre as Sociedades de Controle. Editora 34, Rio de Janeiro, 2000.
DIWAN, Pietra. Raça Pura: uma história da eugenia no Brasil e no mundo. 2. ed. São Paulo: Contexto, 2020.
DUARTE, Evandro Piza; GARCIA, Rafael de Deus. O uso de novas tecnologias de comunicação no sistema de justiça criminal: tensões entre propostas de eficiência da justiça e a maximização dos efeitos negativos do sistema penal. Revista de Processo, v. 261, nov. 2016, p. 445-464.
FLAUZINA, Ana Luiza Pinheiro. Corpo negro caído no chão: o sistema penal e o projeto genocida do Estado Brasileiro. 2006. 145f. Dissertação de Mestrado, Universidade de Brasília, 2006.
FOUCAULT, Michel. Em defesa da sociedade. São Paulo: Martins Fontes, 2005.
FOUCAULT, Michel. Vigiar e punir: nascimento da prisão. Petrópolis: Vozes, 1987.
FRANÇA, Tiago Cruz; et al. Big Social Data: Princípios sobre Coleta, Tratamento e Análise de Dados Sociais. In: Tópicos em Gerenciamento de Dados e Informações. Disponível em: https://www.inf.ufpr.br/sbbd-sbsc2014/sbbd/proceedings/artigos/pdfs/127.pdf. Acesso em 08 jun. 2022.
FRAZÃO, Ana. Fundamentos da proteção dos dados pessoais – Noções introdutórias para a compreensão da importância da Lei Geral de Proteção de Dados. In: Lei Geral de Proteção de Dados Pessoais, 2. ed. São Paulo: Thomson Reuters Brasil, 2020.
HAN, Byung-Chul. Infocracia: digitalização e a crise da democracia. Trad. Gabriel S. Philipson. Petrópolis: Vozes, 2022.
HOFFMANN-RIEM, Wolfgang. Teoria Geral do Direito Digital: transformação digital: desafios para o direito. Rio de Janeiro: Forense, 2021.
KONDER, Carlos Nelson. O tratamento de dados sensíveis à luz da Lei 13.709/2018. In: Lei Geral de Proteção de Dados Pessoais, 2. ed. São Paulo: Thomson Reuters Brasil, 2020.
MAGNO, Madja Elayne da Silva Penha; BEZERRA, Josenildo, Soares. Vigilância negra: o dispositivo de reconhecimento facial e a disciplinaridade dos corpos. In: Revista Novos Olhares, v. 09, n. 02, ago-dez, 2020, p. 45 – 52. Disponível em: Acesso em:
MBEMBE, Achille. Necropolítica: biopoder, soberania, estado de exceção, política da morte. 4ª reimpressão. São Paulo: n-1 edições, 2019.
NUNES, Pablo. Novas ferramentas, velhas práticas: reconhecimento fácil e policiamento no Brasil, p. 67 – 70. In: Retratos da Violência: cinco meses de monitoramento, análises e descobertas. Jun. – Out., 2019. Disponível em: https://igarape.org.br/infografico-reconhecimento-facial-no-brasil/. Acesso em 30 maio 2022.
PINTO, Fernanda Miler Lima. Entre os ratos, o sino e o gato: uma abordagem sobre sistema penal e controle social na era da globalização a partir da análise do caso Bellingcat. 2021. 130f. Dissertação de Mestrado, Universidade do Vale do Rio dos Sinos – UNISINOS, 2021.
QUIJANO, Aníbal. Colonialidade do poder, eurocentrismo e América Latina. In: A colonialidade do saber: eurocentrismo e ciências sociais. Perspectivas latino-americanas. CLACSO, Consejo Latinoamericano de Ciencias Sociales, 2005. Disponível em: http://bibliotecavirtual.clacso.org.ar/clacso/sur-sur/20100624103322/12_Quijano.pdf. Acesso em 20 abril 2022.
REIS, Carolina; ALMEIDA, Eduarda; DA SILVA; Felipe; DOURADO, Fernando. Relatório sobre o uso de tecnologias de reconhecimento facial e câmeras de vigilância pela administração pública no Brasil. Brasília: Laboratório de Políticas Públicas e Internet, 2021.
SÁ, Priscilla Placha. Eles (não) são recicláveis. Revista da Faculdade de Direito – UFPR, Curitiba, nº 53, p. 0-000, 2011.
SILVA, Tarcizo da. Visão computacional e racismo algorítmico: branquitude e opacidade no aprendizado de máquina. Revista da Associação Brasileira de Pesquisadores Negros, v. 12, n. 31, dez. 2019 – fev. 2020, p. 428 – 448.
SILVEIRA, Sérgio Amadeu da. Sistemas algorítmicos, subordinação e colonialismo de dados. In: SABARIEGO, Jesús; AMARAL, Augusto Jobim do; SALES, Eduardo Baldissera Carvalho (org.). Algoritarismos. São Paulo: Tirant lo Blanch, 2020.
SIMÕES-GOMES, Letícia; ROBERTO, Enrico; MENDONÇA, Jônatas. Viés algorítmico – um balanço provisório. Estudos de Sociologia, Araraquara, v. 25, n. 48, 2020. DOI: 10.52780/res.13402. Disponível em: https://periodicos.fclar.unesp.br/estudos/article/view/13402. Acesso em: 30 dez. 2022.
SOUZA, Monique Navarro; COSTA, Luis Artur. Modulações algorítmicas em plataformas digitais e o colonialismo de dados: reflexões para a construção de uma agência descolonial. In: Revista Eletrônica Interações Sociais – REIS, v. 5, n. 1, jan. -jul. 2021, p. 169 – 198.
YOUNG, Iris Marion. Cinco faces da Opressão. In: Revista de Direito Público, v. 18, n. 97, jan./fev. 2021, p. 475-501. Disponível em https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/5405/pdf_1. Acesso em 31 maio 2022.
ZUBOFF, Shoshana. Big Other: capitalismo de vigilância e perspectivas para uma civilização de informação. In: Tecnopolíticas da vigilância: perspectivas da margem. São Paulo: Boitempo, 2018.
ZAFFARONI, Eugenio Raúl. Criminologia: aproximación desde un margen. Bogotá: Editorial Temis, 2003.
Published
12/03/2023
Section
PUBLICAÇÕES
