Se han encendido nuestras alarmas al conocer el anuncio de que en Santa Cruz van a implementar un centro de vigilancia y colocarán cámaras dentro y fuera de 90 colegios con el supuesto objetivo de proteger a sus estudiantes, pero como sabemos, el reconocimiento facial, no nos cuida, nos vulnera.
A nivel mundial, sobran ejemplos de la vulneración de Derechos Humanos en manos de Estados que implementan esta forma de vigilancia masiva y en un país como el nuestro, en el que no contamos con una ley de protección de datos personales el riesgo es mayor.
Una pregunta que debemos hacer es de dónde adquieren estas tecnologías. La ansiedad de acelerar el uso de este tipo de vigilancia hace que dejen de lado un punto fundamental: cómo las empresas privadas recolectan, salvaguardan y utilizan la información que recopilan.
Eso se vuelve una combinación perfecta, las empresas que quieren sacar provecho y generar ganancias y los Estados, que sin entender muy bien cómo funciona, quieren vender la idea de seguridad sin una política de transparencia ni rendición de cuentas.
Menos derechos, más discriminación y persecución
El rostro forma parte de lo que se denomina “datos biométricos”, una categoría que incluye a todos aquellos datos que remiten al cuerpo como signo identificador, lo que los vuelve particularmente delicados.
En tareas de vigilancia del espacio público, su uso conlleva la recolección masiva e indiscriminada de información altamente sensible y, al menos potencialmente, permite la creación de perfiles detallados de rutinas diarias de todas las personas. A eso, se suman posibles suplantaciones, uso del rostro para crear imagenes y videos falsos a través de la Inteligencia Artificial génerica. Estos riesgos aumentan cuando hablamos de niños, niñas y adolescentes, pues abre la posibilidad de creación de contenido sexual abusivo por parte de depredadores.
Pero allí no termina, porque esta técnica, sumamente intrusiva, tiene altas tazas de falsos positivos, problema que se incrementa cuando las personas que están siendo vigiladas pertenecen a grupos históricamente vulnerados como mujeres, personas de tez oscura o personas trans.
Y es que no existe tal cosa como la neutralidad, la inteligencia artificial se entrena a partir de patrones, imagenes e información brindada por personas que traen consigo sesgos de exclusión social que son replicadas y amplificadas por esta técnica que cuando es usada con fines de vigilancia, amenaza el derecho a la dignidad, a la privacidad y la presunción de inocencia, entre otros de los tantos derechos que se vulneran.
¿Protegidos o controlados?
La niñez y adolescencia son grupos especialmente protegidos, así vemos que la convención sobre derechos del niño, niña y adolescentes establece que “Cada niño tiene derecho a la vida privada”, por otro lado, la Ley N° 548. Código Niña, Niño y Adolescente del Estado Plurinacional de Bolivia, en su artículo 144, establece el derecho a la protección de la imagen y de la confidencialidad.
Esto, choca de frente con esta iniciativa que pretende poner cámaras dentro y fuera de las escuelas cruceñas y que sostiene que “…tiene como objetivo identificar el rostro de los estudiantes mediante un registro biométrico, detectar el género de los estudiantes al acceder a los baños” como expresa la bajada la nota de Red Uno, «Implementan IA en la vigilancia en los colegios: Escaneará los rostros de los estudiantes para identificarlos» que celebra esta nueva política ¿de seguridad? cruceña.
No hay nada más íntimo que el baño, de eso no creo que haya dudas, entonces, ¿por qué se entiende como una política de protección el uso de cámaras en la entrada de ellos en una escuela? Por otro lado, ¿qué se busca proteger cuándo lo que quieren es “detectar el género”?
Aquí, ya hay otra cuestión que no tiene que ver con tecnología pero sí con derechos y es la implementación de la Educación Integral en Sexualidad (IES), tan altamente rechazada por los mismos sectores que celebran la vigilancia masiva.
La tecnología no resuelve los problemas estructurales de violencia de la sociedad. Y es que si lo que quieren es evitar, por ejemplo, que haya abusos en establecimientos educativos, la respuesta es más educación sexual y no más control. Que las Unidades Educativas cuenten con protocolos de acción y prevención ayudará a que los y las jóvenes tengan más herramientas para identificar situaciones de peligro y puedan dar un alerta temprana.
Por supuesto, desde la Fundación InternetBolivia.org, promovemos e instamos a todos los actores involucrados a proteger a niños, niñas y adolescentes, pero creemos que la vigilancia masiva no sólo no contribuye sino que puede ser perjudicial porque los puede exponer a más situaciones de violencias que las que previene.
