La Trampa de los Algoritmos

Con el paso del tiempo se ha empezado a desvanecer la frontera entre el mundo digital y el mundo material . Es como si se hubiera agregado una capa más de actividades, presencias y gustos a nuestra vida que está interconectada con nuestra rutina diaria.


En la sección de ética de inteligencia artificial (IA) del MIT Technology Review, recientemente se compartió un tema controversial; existen grupos de abogados que investigan y desenmascaran algoritmos y sistemas automatizados que excluyen a personas con menos recursos de la oportunidad de tener un hogar, trabajo y servicios básicos.


En otros países, algunos algoritmos también pueden determinar qué niños pueden ser enviados a orfanatos, qué pacientes reciben servicio médico y quiénes pueden solicitar un crédito para comprar vivienda. Y en todos los casos, los algoritmos pueden afectar directa, permanente y gravemente la vida de las personas. Además, quienes los adquieren por lo general lo hacen a empresas que los realizan de forma generalizada, y quienes los implementan y toman decisiones con base en esta información, no necesariamente entienden su funcionamiento. Y aunque este tipo de algoritmos no son nuevos, en definitiva son mucho más amplios, ya que ahora, es más fácil recopilar y compartir información, y esta se puede recolectar mediante diversas fuentes como datos públicos, redes sociales, utilización de aplicaciones móviles, etc.


Por lo general, ese tipo de algoritmos no son publicados, ni compartidos con los usuarios y es ahí en donde tenemos mucho por hacer, pues esta omisión muchas veces dificulta su uso correcto y la determinación de errores. En 2003, en Michigan, Estados Unidos, el sistema de otorgamiento de beneficios para los desempleados, por error calificó a 34,000 personas como fraudulentas. Múltiples personas quedaron en bancarrota, perdieron los beneficios y hasta hubo casos de suicidio.


Sin darnos cuenta de las repercusiones, seguimos y seguiremos utilizando herramientas tecnológicas para procesos que aunque antes tomaban más tiempo, eran analizados de forma individual por instituciones. Como he mencionado en otras ocasiones, es necesario que nuestra regulación, y en este caso, la implementación de prácticas éticas, vaya de la mano con los avances tecnológicos para evitar dejar vacíos en las determinaciones de los sistemas de decisión automatizada.


También es importante que como usuarios siempre estemos al pendiente de nuestras actividades en línea y busquemos tener un mayor entendimiento sobre cómo la tecnología no solo nos facilita ciertos aspectos de la vida sino también cómo puede llegar a determinar nuestras acciones y decisiones.


29 vistas0 comentarios