Desde el servicio religioso al que una persona puede acudir hasta la hora en que esta puede acostarse, la inteligencia artificial vigila cada vez más nuestros comportamientos e incluso toma decisiones, como por ejemplo quien puede acceder a un empleo o quién no.
De esta forma, la inteligencia artificial está poniendo en riesgo en muchas ocasiones la materialización de nuestros derechos.
Un informe de la ONU publicado este miércoles revela “las innegables y crecientes repercusiones de las tecnologías de inteligencia artificial en el ejercicio del derecho a la intimidad y otros derechos humanos”.
Ante la amenaza que esto supone, la Alta Comisionada de las Naciones Unidas para los Derechos Humanos ha pedido establecer urgentemente una moratoria en la venta y el uso de los sistemas de inteligencia artificial. E, incluso, ha pedido la prohibición directa cuando esta tecnología no cumpla con las normas internacionales.
“La inteligencia artificial puede ser una fuerza para el bien, que ayude a las sociedades a superar algunos de los mayores retos de nuestro tiempo. Pero (…) también puede tener efectos nocivos e incluso catastróficos, cuando se emplea sin prestar la debida atención a su capacidad de vulnerar los derechos humanos”, declaró Michelle Bachelet con motivo de la publicación del informe.
“Cuanto mayor sea el riesgo para los derechos humanos, más estrictos deben ser los requisitos legales para el uso de la inteligencia artificial, añadió la Alta Comisionada, quién observó que “dado que la evaluación de los peligros y cómo superarlos puede llevar todavía algún tiempo, los Estados deberían implementar desde ahora moratorias sobre el uso de las tecnologías que presentan un alto potencial de riesgo”.
Precipitación en el uso de la inteligencia artificial
En el informe se examina cómo a menudo los Estados y las empresas se han precipitado a incorporar los programas informáticos de inteligencia artificial sin ejercer la diligencia debida.
Ha habido muchos casos de personas que han sido injustamente tratadas por esta tecnología, ya sea porque se les ha denegado prestaciones del seguro social o porque han sido arrestadas como consecuencia de errores en los sistemas de reconocimiento facial.
La inteligencia artificial se basa en el uso de grandes bancos de datos. El documento revela que, además de exponer la vida privada de las personas a las empresas y los Estados, estos conjuntos de datos hacen que los individuos sean vulnerables de otras maneras. Por ejemplo, el acceso indebido por terceros a esos datos personales ha expuesto repetidamente información sensible de millones de personas.
Derecho a la intimidad y otros derechos afectados
Muchas de las inferencias y predicciones que hacen estos sistemas afectan profundamente al disfrute del derecho a la intimidad, incluida la autonomía de las personas y su derecho a establecer detalles de su identidad o plantean muchas cuestiones relativas a otros derechos, como el derecho a la libertad de pensamiento y de opinión, el derecho a la libertad de expresión y el derecho a un juicio justo y otros derechos conexos.
También observa que los acuerdos que permiten a los organismos gubernamentales tener acceso directo a estos conjuntos de datos en poder de las empresas, por ejemplo, aumentan la probabilidad de que se produzcan injerencias arbitrarias o ilegales en el derecho a la intimidad de las personas afectadas.
En el campo de la seguridad y el orden público, los avances en el campo de la tecnología de reconocimiento biométrico han llevado a su uso creciente por parte de la policía y otros organismos de seguridad nacional.
El reconocimiento biométrico se basa en la comparación de la representación digital de ciertos rasgos de un individuo, como el rostro, la huella dactilar, el iris, la voz o la forma de andar, con otras representaciones de este tipo en una base de datos.
De la comparación se deduce una mayor o menor probabilidad de que la persona sea efectivamente la que se quiere identificar. Estos procesos se realizan cada vez más en tiempo real y a distancia. En particular, las autoridades de todo el mundo utilizan cada vez más el reconocimiento facial a distancia en tiempo real.
“Este reconocimiento biométrico a distancia está relacionado con una profunda injerencia en el derecho a la intimidad”, destaca el informe que añade que la información biométrica de una persona constituye uno de los atributos clave de su personalidad, ya que revela características únicas que la distinguen de otras personas.
“Además, el reconocimiento biométrico a distancia aumenta drásticamente la capacidad de las autoridades estatales para identificar y rastrear sistemáticamente a las personas en los espacios públicos, lo que socava la capacidad de las personas para llevar a cabo su vida sin ser observadas y tiene un efecto negativo directo en el ejercicio de los derechos a la libertad de expresión, de reunión pacífica y de asociación, así como a la libertad de circulación”, asegura el documento.
Adopción urgente de medidas
“No podemos seguir reaccionando tardíamente a los efectos de la inteligencia artificial, ni permitir que se use de manera ilimitada, sin fronteras ni supervisión, para enfrentarnos luego a sus casi inevitables consecuencias sobre los derechos humanos”, dice Bachelet.
La Alta Comisionada insiste en que la capacidad de la inteligencia para servir a la población es innegable, pero también lo es su capacidad de contribuir a violaciones de derechos humanos en gran escala, de manera casi indetectable, por lo que pide “adoptar urgentemente medidas para imponer límites basados en los derechos humanos por el bien de todos”.
Recomendaciones a los Estados
El informe hace una serie de recomendaciones dirigidas a los Estados, entre ellas:
Reconocer plenamente la necesidad de proteger y reforzar todos los derechos humanos en el desarrollo, el uso y la gobernanza de la inteligencia artificial como objetivo central, y garantizar el mismo respeto y aplicación de todos los derechos humanos en línea y fuera de ella
Garantizar que el uso de la inteligencia artificial cumple con todos los derechos humanos y que cualquier interferencia con el derecho a la privacidad y otros derechos humanos está prevista por la ley, persigue un objetivo legítimo, cumple con los principios de necesidad y proporcionalidad y no perjudica la esencia de los derechos en cuestión
Prohibir expresamente las aplicaciones de inteligencia artificial que no puedan funcionar de conformidad con el derecho internacional de los derechos humanos e imponer moratorias a la venta y el uso de sistemas que entrañen un alto riesgo para el disfrute de los derechos humanos, a menos y hasta que se establezcan salvaguardias adecuadas para proteger los derechos humanos
Imponer una moratoria sobre el uso de tecnologías de reconocimiento biométrico a distancia en espacios públicos, al menos hasta que las autoridades responsables puedan demostrar que se cumplen las normas de protección de la intimidad y de los datos, y la ausencia de problemas significativos de exactitud y de efectos discriminatorios
Adoptar y aplicar efectivamente, a través de autoridades independientes e imparciales, una legislación sobre la privacidad de los datos para los sectores público y privado como requisito previo esencial para la protección del derecho a la privacidad en el contexto de la inteligencia artificial
Garantizar que las víctimas de violaciones y abusos de los derechos humanos relacionados con el uso de sistemas de inteligencia artificial tengan acceso a recursos efectivo
Recomendaciones a Estados y empresas
La Alta Comisionada también hace otras recomendaciones a las empresas, entre ellas:
Hacer todo lo posible para cumplir con su responsabilidad de respetar todos los derechos humanos, incluso mediante la plena aplicación de los Principios Rectores sobre las Empresas y los Derechos Humanos
Intensificar sus esfuerzos para luchar contra la discriminación vinculada a su desarrollo, venta o funcionamiento de sistemas de inteligencia artificial, entre otras cosas realizando evaluaciones sistemáticas y supervisando los resultados de los sistemas y los efectos de su despliegue
Tomar medidas decisivas para garantizar la diversidad de la mano de obra responsable del desarrollo de la inteligencia artificial
