A lo largo de mi
trayectoria en la administración me he encontrado haciendo indagaciones para
resolver un recurso, motivar una denuncia o dictar una resolución que no
habrían sido necesarias si hubiera tenido a mi disposición datos que obraban en
poder de la propia administración pero a los que no tenía acceso. Y día a día
soy testigo de cómo las administraciones públicas o incluso los órganos de una
misma administración trabajan de espaldas los unos a los otros, a pesar de las
implicaciones evidentes de una y otra gestión paralelas, y de cómo no disponer
de determinada información conduce a la concesión de autorizaciones,
subvenciones y subsidios, a la elusión de responsabilidades y al reconocimiento
de derechos en fallos judiciales que más que apoyarse en evidencias, se
soportan en la falta de ellas.
De hecho, ocasionalmente,
me he topado con administrados que, haciendo una interpretación sui generis del
principio de presunción de inocencia, en lugar de acreditar los requisitos para
el reconocimiento de un derecho, defendían que debía ser la administración la
que demostrase su no concurrencia o en otro caso concederlos, sabedores de que
esa información no estaba a disposición de la administración encargada de tal
reconocimiento.
Pero también he visto
como cruzar la información de tan solo dos bases de datos permitía disponer de
esa u otra información en un parpadeo. Y con frecuencia me he preguntado si
sería legítimo que la administración tuviera un acceso menos limitado a los
datos de sus ciudadanos.
Sería fácil dejarse
seducir por la infalibilidad de un sistema capaz de manejar toda la información
que pudiera ponerse a su disposición, considerando que ello garantizaría que no
se malgastasen los recursos públicos, evitaría fraudes, permitiría tomar
medidas de carácter preventivo o coercitivo y, en último extremo, asegurarse de
que los malos fuesen castigados. Pero siempre existe la posibilidad de que esa
información sea utilizada de forma sesgada o para fines ilegítimos y
consiguientemente surge el miedo a que se produzca un acceso ilegítimo a datos
que, en principio, solo conciernen a la persona a la que se refieren.
Hasta ahora ha sido
relativamente fácil controlar esos accesos e identificar a quien haya podido
llevarlos a cabo, pero cada vez más los procesos de gestión de datos se
automatizan y pronto los sistemas que utilizan organizaciones tanto públicas
como privadas no necesitaran acceder a esos datos, sino que sencillamente los
tendrán a su disposición. Y el inevitable paso siguiente sería utilizar todas
esas variables en la toma de decisiones que afectan a ciudadanos concretos.
Todos hemos escuchado
que muchos empleos están llamados a desaparecer porque pronto los realizaran
robots capaces de trabajar veinticuatro horas, inmunes a los accidentes de
trabajo o, más bien, a las bajas laborales, y también poco dados a secundar una
huelga. Y, cuando oímos este tipo de predicciones, tendemos a pensar sistemáticamente
en obreros, repartidores y limpiadoras. Pero la inteligencia artificial puede
terminar sustituyendo a los humanos también en la realización de trabajos que
consideramos intelectuales porque somos demasiado lentos manejando información
y, consiguientemente, tomando decisiones. Y, además, puede resultar mucho más
barato adquirir e instalar programas capaces de manejar información y proponer
una actuación concreta, que invertir en una sofisticada maquinaria que pueda
realizar tareas rutinarias como las que debe llevar a cabo un humilde
repartidor de pizzas. Desde este punto de vista puede ser mucho más fácil
prescindir de un oficinista que de un repartidor.
Recientemente, el uso
de la inteligencia artificial ha permitido identificar a los agresores de
Samuel Luiz, volviendo nítidas unas imágenes grabadas por las cámaras
instaladas en la vía pública en cuya oscuridad y falta de definición trataban
de ocultarse quiénes lo persiguieron y golpearon de forma despiadada durante
150 metros y continuaron golpeándolo cuando cayó al suelo para no volver a
levantarse. La mayor parte de ellos no tenían antecedentes y, hasta ahora, eran
ciudadanos anónimos, pero cuyo grado de violencia y ensañamiento con la víctima
ha impresionado a los propios investigadores.
Para apuntalar la
acusación, se encuentra pendiente una comisión rogatoria enviada por el juzgado
de instrucción número ocho de La Coruña para que Facebook dé acceso a los
mensajes de WhatsApp e Instagram que borraron los agresores.
Pero, por otra parte,
también estos días, el Parlamento Europeo, con objeto de poner freno a los
avances del reconocimiento facial ha pedido a la Comisión Europea una
"prohibición de cualquier tratamiento de datos biométricos con fines
policiales que conduzcan a la vigilancia masiva en espacios de acceso público".
Estas dos noticias
ponen encima de la mesa una vez más el viejo conflicto entre libertad y
seguridad, y llevan a cuestionarse si la eficacia de los sistemas de
reconocimiento facial y, en general, el deslumbrante e incontenible avance de
la inteligencia artificial no implican un evidente riesgo de sacrificar nuestra
intimidad y nuestra libertad personal y, al margen de los posibles fallos del
sistema, de quedar a merced de un Gran Hermano, infalible en su vigilancia e
inmisericorde en su veredicto.
No me extrañaría que
las defensas de los acusados en el juicio por el asesinato de Samuel, perdida
toda esperanza de absolución, pudieran llegar a invocar la falta de legitimidad
de los medios empleados para su identificación. No sería la primera vez que la
invalidación de una prueba de cargo condujera a la absolución del acusado o
incluso a la inhabilitación de un juez por una presunta vulneración de
derechos.
Cuando reflexiono
sobre estas cuestiones, siempre me acuerdo de RoboCop, un poderoso ciborg dotado de un sistema de reconocimiento
que le permite analizar la potencial peligrosidad de los ciudadanos con los que
se tropieza patrullando las calles y, en función de ella, tomar determinadas
decisiones; y también de la legendaria frase de Kyle Reese, tratando de
convencer a Sarah Connor de que le siga para salvar su vida, ‘El Terminator está ahí fuera. No se puede
razonar con él. Es un exterminador. No siente lástima, ni remordimiento, ni
miedo y no se detendrá ante nada’.
Todos somos
ciudadanos anónimos, y también potenciales delincuentes. Nuestros datos e
información que nos concierne y se refiere a aspectos tan variados de nuestra
vida como experiencia laboral, expediente académico, enfermedades y dolencias
están almacenados en servidores y bases de datos. Cámaras de seguridad y
sistemas de videograbación registran a diario nuestros movimientos y lo que
decimos y cualquier sistema medianamente sofisticado podría rastrearnos y saber
de nuestras andanzas en redes sociales y hacer un diagnóstico de nuestros
gustos y preferencias. Una unidad de la fuerza policial de Detroit podría
juzgarnos cómo ciudadanos inofensivos, pero, de tener algún tipo de antecedente,
podría juzgarnos también como potencialmente peligrosos y detenernos o
dispararnos. Y un gobierno totalitario, aun surgido de unas elecciones
democráticas, podría vigilarnos, complicarnos la existencia, discriminarnos, perseguirnos,
encarcelarnos y vulnerar nuestros derechos de cualquier otra forma que podamos
imaginar, además de utilizar esa información para perpetuarse en el poder.
Y todos tenemos
derecho al anonimato, a la confidencialidad, a pasar desapercibidos, a
ocultarnos de la vista de los demás si nos apetece y a transitar por la vida
sin darnos a conocer más que a aquellos a quienes nos apetece que nos conozcan.
Solo cuando pretendemos acreditar un mérito o que se nos reconozca un derecho, y cuando con nuestro comportamiento ponemos en
riesgo la vida, la integridad física o patrimonial de los demás debemos quedar
sujetos a controles o mostrar nuestras credenciales. Todos los demás intentos
de saber quiénes somos, a qué nos dedicamos en nuestro tiempo libre, el estado
de salud de nuestro organismo, o si somos propensos a la euforia o a la
depresión, deben considerarse ilegítimos y cualquier software, sistema o algoritmo
que, con cualquier pretexto, trate de sacar conclusiones a propósito de
nosotros y nuestra existencia es potencialmente peligroso y, por ello, debe ser
neutralizado.
