Toda mi vida profesional ha estado guiada por la convicción del enorme poder democratizador de la tecnología, de su capacidad para transformar las sociedades en las que vivimos para hacerlas más sustentables y sí, más humanas y menos desiguales. Pero también es cierto que la tecnología por sí misma o solo porque sí, no puede resolver todos nuestros problemas, y que incluso, a veces puede profundizarlos y causar más daños que beneficios.
Como ya lo he descrito en la entrada del blog anterior, en momentos como los que hoy vivimos, y en que muchos de los mecanismos, herramientas y formas de funcionar de los gobiernos parecieran no alcanzar, quedarse cortos, y verse rebasados por el tamaño de la pandemia, la tecnología - y en particular la inteligencia artificial - surge como un medio para encontrar soluciones y herramientas para diagnosticar, encontrar la cura, predecir la evolución de la pandemia, proteger al personal médico y hacer cumplir medidas de prevención y de confinamiento establecidas por las autoridades. Estas son posibilidades reales que tenemos la obligación de aprovechar.
Sin embargo, también es cierto que no podemos perder de vista dos realidades:
primero, que las tecnologías de inteligencia artificial, especialmente aquellas relacionadas con el reconocimiento facial, han probado no ser infalibles y además, replicar prejuicios y profundizar desigualdades entre grupos sociales, afectando a quienes ya se encuentran en situación de vulnerabilidad o que han sido históricamente excluidos. Por ejemplo, ya en otra ocasiones he hablado de cómo el sistema de inteligencia artificial de Amazon para contratar personal, eliminaba, sistemáticamente a las candidatas mujeres, o de cómo el uso de estas tecnologías en los sistemas de justicia en Estados Unidos reproducen injusticias en contra de las personas afroamericanas. Se debe tener especial cuidado en no replicar este tipo de prácticas y omisiones en las tecnologías que se implementen en la lucha contra la pandemia.
segundo, que ni ante la desesperación de brindar soluciones a la pandemia, podemos perder de vista que cualquier política pública y tecnología que se utilice para cumplir sus objetivos, debe estar centrada en las personas y en sus derechos humanos, muy especialmente para estos casos, los de la privacidad y la protección de de datos personales. No podemos permitir que la pandemia sea pretexto para instaurar de manera indiscriminada, poco transparente y sin controles democráticos, sistemas de vigilancia masiva en nuestras ciudades.
Hoy ya existen muchos ejemplos de gobiernos utilizando inteligencia artificial o tecnologías de vigilancia para contener los contagios y reforzar las medidas de confinamiento o cuarentena. Por ejemplo, países europeos como Austria, Bélgica, Italia, Reino Unido y Alemania, han llegado a acuerdos con compañías de telecomunicaciones para recibir de manera agregada y anonimizada información sobre la ubicación de los teléfonos celulares de las personas y monitorear el cumplimiento de medidas de confinamiento. En México, la Ciudad de México anunció un acuerdo similar con las compañías de teléfonos apenas la semana pasada. Países como China han ido más lejos y han utilizado sistemas de inteligencia artificial para implementar escáneres termales inteligentes o de reconocimiento facial en espacios públicos. En Polonia las autoridades han desarrollado mecanismos para que las personas tengan que enviar una selfie que después es analizada con tecnologías de reconocimiento facial y de geolocalización para garantizar que las personas se encuentran en sus casas.
Organizaciones como Human Rights Watch, Amnistía Internacional, R3D y Derechos Digitales ya han advertido los peligros de centrar todas nuestras esperanzas en soluciones tecnológicas que podrían en el largo plazo, vulnerar los derechos de las personas y nuestros sistemas democráticos. La vigilancia masiva de nuestros movimientos y de nuestras actividades cotidianas no puede convertirse en la nueva normalidad. Por eso, al implementar este tipo de medidas, deben prevalecer los principios establecidos en acuerdos internacionales, nuestra Constitución y legislaciones, y se deben de diseñar mecanismos claros y transparentes de control y evaluación de los impactos de estas decisiones.