ESSION{id_auteur}|oui)

Portada del sitio > Mensual > 2019 > 2019/06 > La “ciudad segura” o la gobernanza por los algoritmos

La “ciudad segura” o la gobernanza por los algoritmos

Las herramientas policiales basadas en el big data y la inteligencia artificial se extienden por numerosas ciudades europeas. En Francia, a través de pruebas impulsadas por grupos privados que buscan poder competir con empresas estadounidenses, chinas o israelíes, la “ciudad inteligente” revela su verdadero rostro: el de una ciudad bajo vigilancia.

por Félix Tréguer, junio de 2019

El 28 de diciembre de 1948, el filósofo e introductor de la cibernética en Francia, Dominique Dubarle publicó en el periódico Le Monde uno de los primeros artículos dedicados a los nuevos ordenadores desarrollados en Estados Unidos durante la Segunda Guerra Mundial. De entrada, intentaba anticipar los efectos políticos de lo que pronto se denominará “informática”. La cibernética se encontraba en sus inicios y el capitalismo de vigilancia aún no era un tema de actualidad (1), pero ya comprendió que, a la larga, esa tecnología estaba destinada a transformarse en una “máquina de gobernar”: “¿Acaso no podríamos imaginar –escribía– una máquina que recopile un tipo u otro de información, por ejemplo, la información sobre la producción y el mercado, y que determine más tarde, en función de la psicología media de los hombres y de las medidas que se pueden adoptar en un instante determinado, cuáles serán las evoluciones más probables de la situación?”. Dubarle predijo que, en función del incremento de las capacidades de almacenamiento y de tratamiento de datos, la informática conducirá al “surgimiento de un prodigioso Leviatán político”.

Setenta años más tarde, los proyectos de “ciudad inteligente” (smart city) se expanden por el mundo. Después de Estados Unidos, China, los países del Golfo o el Reino Unido, en Francia se posicionan grandes grupos industriales en estos mercados, aliándose con representantes de administraciones locales o regionales adeptos al solucionismo tecnológico (2). Como un eco de las predicciones de Dubarle, pretenden hacer que proliferen las herramientas informáticas en el espacio público urbano para vigilar, analizar, predecir y controlar los flujos de personas y de mercancías. De esta manera, el gobierno de las ciudades pasa así a la era de la gobernanza algorítmica. Y, exceptuando algunas iniciativas en materia de apertura de datos, de gestión “inteligente” del alumbrado público o de los camiones de recogida de la basura, la smart city se define sobre todo por su vertiente ligada a la seguridad. Hasta el punto de que los industriales hablan en la actualidad de la safe city: la ciudad segura.

Los documentos administrativos vinculados a estos proyectos demuestran la porosidad entre la gobernanza urbana y las doctrinas procedentes del mundo militar. Esto lo podemos observar, por ejemplo, en el convenio de experimentación firmado en junio de 2018 entre el Ayuntamiento de Niza y un consorcio de quince empresas liderado por Thales [compañía francesa dedica al desarrollo de sistemas de información y servicios para los mercados aeroespacial, de defensa y seguridad], que parte de la constatación de una “urbanización galopante en la superficie terrestre”. Al aludir a unas “amenazas cada vez más importantes”, sitúa en el mismo plano los “riesgos naturales”, como el cambio climático, y los “riesgos de origen humano” (criminalidad, terrorismo, etc.). No se observa intención alguna de abordar las causas económicas, sociales o políticas de estos fenómenos, y menos aún, de actuar sobre ellas. Sobre todo importa “evaluar cada situación para anticipar los incidentes y las crisis”, “identificar las señales de baja frecuencia” con el objetivo de proporcionar “ayuda para la planificación”, ofrecer “predicciones basadas en escenarios”, todo ello en el marco de una “gestión en tiempo real” a través de la explotación de la “máxima cantidad de datos existentes” en el seno de un “centro de hipervisión y de mando” (3).

Los “riesgos” se reducen así a una situación en la que el poder público se contenta con controlar sus efectos. Para los creadores de la safe city, la Policía abarca su antigua función teorizada en el siglo XVIII: producir cierto saber entre la población, orientar su conducta actuando sobre las variables que la determinan, garantizar su docilidad y su productividad. La novedad se encuentra en el abandono del horizonte del “orden público”, definitivamente demasiado escurridizo. Ahora nos limitamos a gestionar el desorden. Gracias a la escalada tecnológica, los tecnócratas creen que pueden detectar en la nube del caos algunas características o regularidades estadísticas a partir de las cuales se podrá categorizar, seleccionar, correlacionar e, in fine, anticipar, prevenir, adelantarse, ajustar –pero también, cuando sea necesario, situar en el punto de mira y reprimir–.

Para ello, la safe city se basa en dos grandes innovaciones tecnológicas. En primer lugar, la posibilidad de reunir y de analizar diversos conjuntos de datos, como los ficheros policiales, la información personal recopilada en Internet –y, en particular, en las redes sociales–, etc., para producir estadísticas y ayuda en la toma de decisiones siguiendo una lógica de policía predictiva. Las herramientas de vigilancia probadas desde hace diez años por parte de las agencias de inteligencia se generalizan en el conjunto de las actividades policiales…

En Marsella, el proyecto de “observatorio big data de la tranquilidad pública”, confiado desde noviembre de 2017 a la empresa Engie Ineo, pretende integrar fuentes procedentes de los servicios públicos municipales (Policía, servicio muncipal de transporte, centros de salud, etc.), pero también de “colaboradores externos” como el Ministerio del Interior, que centraliza numerosos ficheros y datos estadísticos, o las operadoras de telecomunicaciones, cuyos datos relativos a la localización de los teléfonos móviles permiten cartografiar en tiempo real los “flujos de población”.

Igualmente, los ciudadanos serán llamados a contribuir proporcionando directamente información (mensajes de texto, vídeos, fotografías, velocidad de desplazamiento, nivel de estrés…) a través “de una aplicación para smartphones o de objetos conectados”. También es necesario vigilar las conversaciones en las redes sociales como Twitter o Facebook, ya sea para “recuperar publicaciones cuyos temas sean de interés para la seguridad de la ciudad” con el objetivo de “anticipar la amenaza” y evaluar el “riesgo de agrupaciones peligrosas mediante el análisis de los tuits”, o incluso para proceder a la “identificación de los actores” observando “quién habla, quién actúa, quién interacciona con quién”. Para alojar y tratar estos inmensos volúmenes de datos, la ciudad de Marsella ha adquirido varios servidores del gigante tecnológico estadounidense Oracle. En la actualidad dispone de un espacio de almacenamiento de 600 terabytes, es decir, una capacidad equivalente a la de la Biblioteca Nacional de Francia para su política de preservación de contenidos de la Web.

Segundo pilar técnico de la safe city: el análisis automático de los flujos de videovigilancia. El Estado y las administraciones locales francesas han invertido cientos de millones de euros en la compra de videocámaras desde 2007, con unos resultados irrisorios (4), pero ahora la automatización nos promete maravillas –y como colofón, sin necesidad de contratar a funcionarios para el visionado–. Se están poniendo en marcha proyectos de videovigilancia llamada “inteligente” en Toulouse, Niza, Marsella, Valenciennes, París o incluso en los departamentos de Gard y de Yvelines.

El alcalde de Niza, Christian Estrosi, se encuentra entre los responsables políticos más entusiastas en cuanto a las posibilidades de estas tecnologías. En diciembre de 2018, consiguió la adopción por parte del Consejo Regional de la Región Sur (5) de una deliberación que autorizaba a probar arcos de reconocimiento facial en dos institutos para vigilar las entradas y salidas, en asociación con la empresa estadounidense Cisco. Asimismo, el último carnaval de la ciudad sirvió de laboratorio para probar dispositivos similares.

Niza también forma parte de esos municipios franceses que pretenden vincular la videovigilancia con algoritmos de reconocimiento de las emociones. Los ediles acudieron a la start-up Two-I para extender su solución por los tranvías de la ciudad. En las ciudades de Nancy y Metz, Two-I trabaja con un organismo de vivienda social para evaluar las sensaciones de los habitantes. En Irigny, cerca de Lyon, la gendarmería se ha decantado por un competidor, la empresa DC Communication, para analizar el “estado de ánimo” de los ciudadanos que acuden a sus instalaciones. Estas herramientas procedentes del neuromarketing detectan las expresiones faciales asociadas a la alegría, la tristeza, el miedo o incluso el desprecio. “A continuación, el algoritmo trabaja para medir estas emociones y resaltar la que se encuentra más presente”, explica Rémy Millescamps, fundador de DC Communication y gendarme reservista.

Tecnologías de control social

Aunque no faltan usos potenciales para la videovigilancia “inteligente”, la identificación automática de individuos o de comportamientos sospechosos parece ser una prioridad. En junio de 2018, en un discurso dedicado a las doctrinas de mantenimiento del orden, el exministro del Interior francés, Gérard Collomb, anunciaba herramientas de inteligencia artificial que pronto serían capaces de “detectar entre la multitud a individuos con comportamientos inusuales”. Esta perspectiva se mencionó de nuevo en el Parlamento francés este invierno con motivo del debate sobre la “ley antimanifestaciones” adoptada por el Gobierno como respuesta al movimiento de los “chalecos amarillos”. A través de enmiendas finalmente rechazadas, algunos diputados de Los Republicanos intentaron legalizar la vinculación de imágenes de videovigilancia con diversos ficheros con el objetivo de automatizar “la identificación de los individuos peligrosos en una manifestación”. Además del caso de los militantes políticos juzgados como peligrosos o de los sospechosos de actividades terroristas, la multiplicación de los ficheros biométricos –especialmente aquellos relacionados con la inmigración o el fichero de títulos electrónicos protegidos (TES, por sus siglas en francés), que, desde 2016, incorpora los datos de todo aquel que solicite el carné de identidad o el pasaporte– posibilita una rápida extensión del reconocimiento facial a categorías cada vez más amplias (6).

Junto con el Reino Unido, Francia aparece hoy en día como un líder europeo en el uso de estas tecnologías de control social. Mientras que sus servicios de inteligencia tuvieron que comprar en 2016 las herramientas de análisis de datos a la empresa estadounidense Palantir, el surgimiento de líderes nacionales en materia de big data para la seguridad se considera una prioridad en la actualidad. Los proyectos de safe city permiten a las sociedades de servicios públicos, como Engie Ineo, o de defensa y seguridad, como Thales, posicionarse en estos nuevos mercados frente a la competencia estadounidense o china, con el apoyo del Estado accionista, presente en el capital de estos grupos (un 23,6% y 25,8% respectivamente y más de un tercio del derecho de voto en ambos casos).

Además de las administraciones locales proveedoras de fondos, numerosos organismos públicos participan en estas evoluciones. Desde este punto de vista, el proyecto de safe city desarrollado por Thales en Niza es emblemático. Concebido para seguir los ejes temáticos identificados por el Comité del Sector Industrial de la Seguridad –que garantiza los intercambios entre el Gobierno y el sector privado–, se beneficia de una certificación expedida por este mismo organismo. A título del “Programa de Inversión de Futuro”, el Banco Público de Inversión le asignó una ayuda de 11 millones de euros en forma de subvenciones y de anticipos reembolsables, por un coste total del proyecto de 25 millones en tres años. Finalmente, varias de las tecnologías propuestas se han desarrollado gracias a proyectos de investigación que asocian a actores industriales y a organismos públicos, como el Instituto Nacional de Investigación en Informática y en Automática (INRIA, por sus siglas en francés), a través de la financiación de la Agencia Nacional de Investigación o de la Comisión Europea.

También sobre el terreno, la safe city conlleva una privatización sin precedentes de las políticas en materia de seguridad. La pericia técnica se confía en su totalidad a los actores privados; además, los parámetros que rigen sus algoritmos, con toda probabilidad, seguirán estando sometidos al secreto empresarial. En el ámbito jurídico, no existe a día de hoy ningún análisis serio de la conformidad de estos dispositivos con el derecho a la privacidad o con la libertad de expresión y de conciencia pese a encontrarse directamente cuestionados. Por ahora, solo los juristas de las empresas concernidas procuran respetar, sin excesivo ahínco, la legislación vigente, revisada en 2018 pero ya obsoleta. Los efectos políticos de semejantes despliegues se anuncian significativos: escalada en el tratamiento policial de algunos barrios, agravamiento de las discriminaciones que ya sufren algunas categorías de personas, represión de los movimientos sociales. Por supuesto, sus promotores nunca mencionan estas consecuencias.

Por su parte, la Comisión Nacional de Informática y Libertades (CNIL) se ciñe a un indolente laisser-faire. Amparándose en su falta de medios y en que el reglamento europeo de protección de datos le ha quitado su poder de autorización a priori, llama a un “debate democrático” con el objetivo de que “se definan los marcos apropiados” (7). No obstante, reconoce con ello la ausencia de cualquier marco jurídico específico, lo que, en virtud de la jurisprudencia del Tribunal Europeo de Derechos Humanos, es suficiente para demostrar, simple y llanamente, la ilegalidad de estos proyectos. A su vez, el Gobierno francés, que ha anunciado una revisión de la ley de inteligencia para 2020, podría aprovechar este texto para justificar, en el plano legislativo, las pruebas en curso, así como para preparar la generalización de estos dispositivos de vigilancia policial. A menos que las movilizaciones ciudadanas consigan mantenerlos a raya.

(1) Véase Shoshana Zuboff, “Un capitalismo de vigilancia”, Le Monde diplomatique en español, enero de 2019.

(2) Cf. Evgeny Morozov, La locura del solucionismo tecnológico, Katz, Madrid, 2015.

(4) Cf. Laurent Mucchielli, Vous êtes filmés! Enquête sur le bluff de la vidéosurveillance, Armand Colin, París, 2018.

(5) N. de la T.: Anteriormente la región PACA, Región Sur es la actual denominación para la región de Provenza-Alpes-Costa Azul.

(6) Véase François Pellegrini y André Vitalis, “La era del control generalizado”, Le Monde diplomatique en español, abril de 2018.

Félix Tréguer

Jurista. Cofundador de la Asociación de defensa de las libertades “La Quadrature du Net” (www.laquadrature.net).