Un nuevo estudio publicado recientemente alerta sobre el interés del gobierno de Canadá en el uso de la inteligencia artificial para tramitar y filtrar los archivos de las personas en sus procesos migratorios, remarcando que esta práctica puede generar discriminación, así como suponer una violación a los derechos humanos y la privacidad.
La investigación, realizada por el Laboratorio Ciudadano de la Universidad de Toronto subraya el impacto de la toma de decisiones por mecanismos automatizados que impliquen trámites migratorios. También destaca que los errores y lo que se asume dentro de estas técnicas tecnológicas pueden tener “ramificaciones de vida o muerte” para los inmigrantes y refugiados.
"La naturaleza matizada y compleja de muchas solicitudes de refugiados e inmigrantes puede perderse en este tipo de tecnologías, lo que conlleva a graves violaciones de los derechos humanos protegidos internacional y nacionalmente, en forma de sesgo, discriminación, violaciones de la privacidad, debido proceso y problemas de imparcialidad procesal", de acuerdo al informe publicado en Canadá, líder en inteligencia artificial. "Estos sistemas tendrán ramificaciones de vida o muerte para la gente común, muchos de los cuales están huyendo por sus vidas", indica el informe en el que se consultó a expertos, entre ellos científicos informáticos, técnicos, abogados, académicos y activistas de Estados Unidos, Hong Kong, Brasil, Australia y Corea del Sur.
Molnar, que escribió el informe con Lex Gill, indicó que el Gobierno de Canadá está desarrollando en la actualidad sistemas automatizados para filtar las solicitudes de inmigrantes y turistas, especialmente de aquellos que son considerados de alto riesgo o fraudulentos, según un estudio de la Universidad de Toronto.
“Pero mucho de lo que se habla no tiene definiciones”, comentó Molnar al preguntar ¿”Qué significa alto riesgo?. Todos nos podemos imaginar que grupo de viajeros quedarán atrapados bajo este concepto. ¿O qué es fraudulento…cómo se va a determinar si un matrimonio es fraudulento o si un niño es realmente tu hijo?. No hay parámetros”.
Los autores del informe enfatizan siete recomendaciones en las que se pide mayor transparencia y divulgación pública, además de la vigilancia del uso de la inteligencia artificial y análisis predictivos para automatizar ciertas actividades que impliquen a inmigrantes y visitantes.
“Sabemos que el gobierno está experimentando con el uso de la tecnología…pero está claro que sin las salvaguardas apropiadas y mecanismos de vigilancia, el uso de la inteligencia artificial en las decisiones de inmigración y de los refugiados es demasiado riesgosa porque el impacto en la vida de las personas es muy real”, alertó Petra Molnar, una de las autoras del informe.
“La inteligencia artificial no es neutral. Es una especie de receta y si la receta es tendenciosa, la decisión que tome el algoritmo también será tendencioso y será difícil de rebatir”, precisó.
A principios de año, los funcionarios canadienses implementaron dos programas pilotos con sistemas de inteligencia artificial para gestionar las solicitudes de residencia temporal de China e India.
Mathieu Genest, portavoz del ministro de Inmigración, Ahmed Hussen, comentó que este programa analítico ayuda a los funcionarios a tramitar los visados por internet de una forma “más eficiente” y aclaró que la tecnología se usa como un “mecanismo de selección” frente al incremento de solicitudes de visados de esos países identificando rápidamente las solicitudes estándar y alertando de otras más complejas.
Genest aclaró que la decisión final la toma un funcionario, según The Canadian Press.
SBS Radio App
Download the FREE SBS Radio App on your device for a better listening experience
