por Alejo Paredes
22 Noviembre de 2024 13:53
En el imponente vestíbulo de la estación de trenes del centro de Buenos Aires, Guillermo Ibarrola señala una puerta al final del pasillo. Su voz, teñida de incredulidad, cuenta una historia que parece sacada de una pesadilla. Fue detenido en ese lugar y retenido durante seis días en una celda sin ventanas ni comodidades básicas. "El sistema de reconocimiento facial me identificó como un delincuente", recuerda. El delito que se le atribuía: un robo a mano armada en Bahía Blanca, una ciudad donde nunca había estado. Sí, nunca puso un sólo pie en la ciudad de Manu Ginóbili, pero para las autoridades era culpable de un delito que se cometió allí.
El sistema de vigilancia que alimentó esta confusión, implementado por la Ciudad de Buenos Aires, prometía mejorar la seguridad identificando a los delincuentes más buscados del país. Sin embargo, la detención de Ibarrola reveló los riesgos de depender de herramientas tecnológicas con bases de datos incorrectas. "El sistema funcionó bien, pero los datos estaban mal ingresados", supo lamentarse. Aunque fue liberado gracias a la intervención de un fiscal, su caso es uno entre al menos 140 errores similares registrados entre 2019 y 2020, antes de que la pandemia suspendiera su uso y desatara un mal mucho mayor.
Desde su lanzamiento, el sistema de reconocimiento facial se convirtió en una herramienta más que polémica y siempre ha estado bajo escrutinio constante. Mientras el gobierno de la Ciudad de Buenos Aires lo elogia como indispensable para la seguridad, activistas y expertos advierten sobre sus riesgos. En 2022, el juez Andrés Gallardo ordenó apagar el sistema, alegando irregularidades. Durante su investigación, descubrió que la ciudad había solicitado datos biométricos de casi 10 millones de personas, incluidas figuras públicas como la vicepresidenta Cristina Fernández de Kirchner (cuyos datos fueron solicitados 226 veces) y periodistas.
Además de la ex presidenta, también fueron solicitados los datos del presidente Alberto Fernández unas 76 veces. "Una cosa es pedir información de Fulanito Pérez y otra distinta es pedir los datos de una vicepresidenta. Es al menos llamativo. También hay pedido de información de (Eduardo) Feinmann, (Patricia) Bullrich, (Axel) Kicillof, Viviana Canosa, Estela de Carlotto, Eve de Bonafini... Hay un montón de gente pública. Esmeralda Mitre, de hecho, denunció todo esto varias veces en su Twitter. Estuvo siguiendo el tema y haciendo las denuncias públicas de lo que ella cree que pasó con su seguimiento a través de este sistema", le señaló a este medio Juan Emilio Ribera.
Ribera es abogado por la Universidad de Buenos Aires. Cursó la Carrera de Especialización en Derecho Informático en la UBA y el Programa de Protección de Datos Personales en la Universidad Torcuato Di Tella. Es integrante del Observatorio de Derecho Informático Argentino (O.D.I.A). El juez Gallardo sospechaba que el sistema, en lugar de limitarse a rastrear fugitivos, se usaba para crear un banco de datos masivo. Aunque la ciudad niega estas acusaciones, una auditoría independiente reveló serias vulnerabilidades: el sistema incluía perfiles no autorizados, registros eliminados manualmente y cuentas de usuario no identificables.
Marcelo D'Alessandro, por entonces ministro de Seguridad de Buenos Aires, defendió el sistema, alegando que permitió la captura de 1,700 fugitivos. Sin embargo, el informe de auditoría demostró que 15,459 personas fueron cargadas sin justificación legal. Además, 356 registros fueron eliminados manualmente, borrando cualquier rastro de quiénes fueron afectados. En un país donde la inseguridad es una de las principales preocupaciones, el sistema de vigilancia masiva tiene tanto defensores como detractores. Por lo general, aquellos que recorren el centro de Buenos Aires afirman sentirse más seguros con las cámaras.
Pero todos ellos desconocen los escándalos relacionados con el sistema. Victoria Montenegro, legisladora y defensora de los derechos humanos, advirtió sobre el peligro de un uso descontrolado de estas herramientas. "Si alguna vez necesitas una de esas cámaras, no funcionan", había asegurado, haciendo referencia a casos de violencia policial donde las grabaciones clave desaparecen. El O.D.I.A. surgió en 2019 con profesionales interesados en explorar el impacto de las tecnologías en los derechos humanos, incluyendo programadores y especialistas en informática.
Su investigación inicial se centró en el Sistema de Reconocimiento Facial para Prófugos, implementado en la Ciudad de Buenos Aires en 2019. Inspirados por experiencias internacionales, advirtieron que esta tecnología generaba errores discriminatorios y violaciones a la privacidad en contextos como San Francisco, Estados Unidos, donde su uso fue suspendido por sus errores e implicaciones éticas. En diálogo con este portal, Ribera contó que esto les llevó a examinar cómo se estaba implementando en Buenos Aires. En sus investigaciones iniciales, encontraron falta de transparencia por parte del gobierno, lo que los obligó a recurrir a la Justicia.
Uno de los principales cuestionamientos fue que el sistema fue instalado mediante una resolución administrativa, sin una ley previa que respaldara su aplicación. Además, no se establecieron ni se activaron los órganos de control que debían supervisar su uso, incumpliendo así las propias disposiciones del gobierno. Posteriormente, se aprobó una ley marco que establecía la regulación del sistema, incluyendo la restricción de acceso a datos biométricos exclusivamente de personas prófugas y una lista clara de funcionarios autorizados para gestionar el sistema. Sin embargo, las irregularidades continuaron.
De acuerdo a lo informado por el letrado, el gobierno de la Ciudad no respondió completamente a solicitudes de acceso a información, incumpliendo la Ley 104. Esto llevó a presentar amparos judiciales. De hecho, el sistema fue implementado mediante una resolución ministerial, sin una ley formal previa, lo que vulnera procedimientos administrativos. Además, los órganos de control establecidos por la resolución no estaban activos al inicio, lo que llevó a la obtención de una licencia exprés: La licitación se resolvió en menos de 30 días, generando muchísimas más dudas sobre la transparencia del proceso.
El análisis judicial y técnico reveló múltiples problemas: usuarios genéricos como "admin, admin" gestionaban el sistema, lo que imposibilitaba identificar responsables en caso de uso indebido. "Este listado lo conforma el Ministerio de Justicia de la Nación en base a toda la información que le pasan los juzgados que tienen pedido de captura de distintas personas. Esto puede ser por un delito grave o puede ser por un delito de menor cuantía o porque faltaste a dar testimonio cuando estabas obligado. Si es que te pusieron en la lista de buscados. Pero se sancionó una ley que estableció la prohibición tácita y expresa de incorporar imágenes o datos biométricos de personas que no estén en el listado de prófugos. Esto lo hace la CONARC, Comisión Nacional del Ministerio de Justicia", detalló Ribera.
A su vez, se estableció en esa misma ley "que el acceso al sistema se restringe solamente a aquellos funcionarios que el Ejecutivo individualice y determine". Lo cierto es que además de los llamativos usuarios genéricos, también se verificaron inconsistencias en la base de datos, como errores en fechas de nacimiento, y una deficiente curación de la información proveniente del sistema nacional de Justicia. Incluso, se descubrió que el gobierno de la Ciudad realizó más de 9,9 millones de consultas al Registro Nacional de las Personas (RENAPER), involucrando datos de 7 millones de personas, una cifra desproporcionada considerando que el sistema estaba destinado a rastrear aproximadamente 40.000 prófugos. "La primera base de datos de la CONARC fue de 46.000 prófugos, después se limpió la base porque estaba mal cargada por la gente de justicia o por los juzgados, que mandan la información de forma incompleta o defectuosa. ¡No la depuran!", destacó el letrado.
Y siguió: "El problema es que el gobierno tomó esa base de datos y no la curó. Así como les llegó, la cargó. No la constató, no la revisó, no la chequeó, digamos. Así como está, hay datos incongruentes como que había chicos de 5 años aparentemente buscados como prófugos porque estaban mal cargadas las fechas de cumpleaños, de nacimiento, cosas básicas". Entre las consultas realizadas, destacaron casos de figuras públicas como Cristina Fernández de Kirchner, Axel Kicillof y Viviana Canosa, entre otros, lo cual generó dudas sobre el uso legítimo de la tecnología. En algunas ocasiones, las solicitudes de datos coincidieron con eventos públicos, como marchas o actos políticos, lo que refuerza las sospechas de un uso inadecuado del sistema. "Son personas que caminando por la calle las reconoces y no son prófugos", dijo.
Otro punto crítico señalado fue la falta de información sobre el entrenamiento del algoritmo utilizado, ya que las empresas contratadas se ampararon en cláusulas de confidencialidad para no revelar detalles técnicos esenciales. Esto plantea riesgos adicionales, como la posible extracción de datos por parte de terceros o el uso de esta información para entrenar sistemas en otros países. Finalmente, Ribera destacó que la tecnología es imparable y que no están en contra de su uso, pero enfatizó la necesidad de una regulación sólida y mecanismos de control ciudadanos para garantizar que se respete la privacidad y los derechos fundamentales.
Actualmente, el sistema está suspendido por orden judicial, a la espera de una auditoría integral que determine su legalidad y su impacto en la privacidad de los ciudadanos. Pese a esto, esta semana entró en vigor el "Protocolo Unificado para el Reconocimiento y Comparación Facial", recientemente aprobado por el Ministerio de Seguridad de la Nación, que estandariza el uso del reconocimiento facial y de la taxonomía facial en las fuerzas de seguridad federales. De acuerdo con las autoridades, busca mejorar la eficacia y coherencia en las prácticas policiales. Sin embargo, plantea importantes cuestiones sobre la privacidad y la protección de los derechos civiles, lo cual podría tener un impacto significativo en la vida cotidiana de los ciudadanos. El protocolo y sus anexos fueron declarados de carácter reservado, lo cual generó algunas dudas en torno a la transparencia de su implementación. La naturaleza reservada del documento podría dificultar la supervisión independiente y el acceso público a los detalles.
