Bajo observación: inteligencia artificial, reconocimiento facial y sesgos

Abstract

In this paper we concentrate on facial recognition technology and emphasize that in recent decades, the idea that this type of technology is "objective" and devoid of human errors and biases has been installed in public discourse, assigning it any responsibility to the "good or bad use" that is made of it. Faced with this rhetoric, we argue that when it comes to talking about technological artifacts, neutrality is impossible, even in the very instance of design. To this end, based on the ideas of North American pragmatism, we analyze a real case to show that it is not possible to sustain a dichotomy between facts and values, and that it is necessary to recognize that there is no sharp distinction between the design of technology and the use that we make of it.

En este trabajo nos concentramos en la tecnología de reconocimiento facial y hacemos hincapié en que en las últimas décadas se instaló en el discurso público la idea de que este tipo de tecnología es "objetiva" y carente de los errores y sesgos humanos, adjudicándole cualquier responsabilidad al "buen o mal uso" que se haga de ella. Frente a esta retórica, argumentamos que a la hora de hablar de artefactos tecnológicos la neutralidad es imposible, aun en la instancia misma del diseño. A tal efecto, a partir de las ideas del pragmatismo norteamericano analizamos un caso real, para mostrar que no es posible sostener una dicotomía entre hechos y valores y que es necesario reconocer que no existe una distinción tajante entre el diseño de la tecnología y el uso que hacemos de ella.