El pasado 7 de marzo se realizó la audiencia regional convocada por la Comisión Interamericana de Derechos Humanos (CIDH) sobre inteligencia artificial (IA) y derechos humanos. Las organizaciones de la sociedad civil participantes analizaron los riesgos que la inteligencia artificial (IA) plantea para el ejercicio y garantía de los derechos humanos, y ofrecieron recomendaciones para la prevenirlos y mitigarlos. Entre ellas, la adopción de marcos legales basados en estándares de derechos humanos.
En las intervenciones se reiteró que si bien la inteligencia artificial puede ser una herramienta poderosa para el desarrollo y la innovación, sin un enfoque para su uso basado en derechos humanos, se corre el riesgo de profundizar desigualdades, ampliar la brecha digital, afectar a comunidades vulnerables y menoscabar gravemente las libertades fundamentales.
Pros y contras de la IA
Priscilla Ruiz Guillén de Article 19, señaló que si bien la IA promete avances tecnológicos, también tiene profundas implicaciones para los derechos humanos, la democracia, la justicia y la dignidad humana. Afirmó que los algoritmos son neutrales, pues reproducen sesgos estructurales y amplifican la exclusión y el control social, sobre todo cuando son utilizados, entre otras cosas para asignar beneficios sociales, filtrar contenidos en redes sociales o vigilar espacios públicos. Alertó sobre la moderación automatizada de contenidos en diversas plataformas que invisibilizan denuncias sobre violencia basada en género y replican sesgos contra comunidades indígenas, afrodescendientes y personas LGBTIQ+.
Por su parte, Salvador Millaleo, profesor e investigador del Centro de Derechos Humanos de la Universidad de Chile, afirmó que la IA tiene una enorme capacidad de generar contenidos, pero tiene también dificultades para representar historias e imágenes relativas a grupos vulnerables, mezclando información de diversos contextos, y reforzando estereotipos existentes, enraizados en perspectivas discriminatorias y racistas.
En su intervención, Alberto Cerda, director del Centro de Estudios en Derecho, Tecnología y Sociedad de la Universidad de Chile, aseveró que la IA tiene posibilidades de aplicación muy positivas, como los sistemas que permiten la detección temprana de enfermedades. Desafortunadamente, en el desarrollo y uso de estos sistemas se ha evidenciado también un enorme riesgo de vulneración de otros derechos, como a la vida privada, o a no ser discriminado arbitrariamente. En Chile, por ejemplo, la asignación de recintos de votaciones mediante decisiones automatizadas por parte de la autoridad electoral privó a miles de personas del derecho a voto. Recalcó que los sistemas de IA usados para propaganda y desinformación están prácticamente socavando las bases del sistema democrático.
Beatriz Busaniche, en representación del Centro de Estudios Legales y Sociales, el Observatorio de Derecho Informático Argentino y la Fundación Vía Libre, llamó la atención sobre la creciente incorporación por parte de los Estados de la IA para realizar tareas de vigilancia y control social, un hecho que está sucediendo sin discusión pública, naturalizando la idea de que la incorporación de estas herramientas es algo intrínsecamente positivo, cuando realmente su uso sin transparencia ni regulaciones pone en riesgo derechos esenciales como la privacidad, la protección de datos, la libertad de expresión y la autodeterminación informativa.
Para Luci Camacho, de la ONG Derechos Digitales, en la adopción creciente de los sistemas de Inteligencia artificial en Estados de la región se han detectado al menos tres patrones que impactan en el ejercicio de derechos humanos . El primer patrón apunta a la deficiencia o desactualización de los marcos de regulación de protección de datos y acceso a la información para responder a la opacidad que trae consigo la automatización. El segundo patrón tiene que ver con la centralidad que adquieren los actores del sector privado, entre los que se encuentran las grandes empresas tecnológicas transnacionales, agentes de cooperación y desarrollo, empresas nacionales, y universidades privadas, entre otros. El último patrón persistente tiene que ver con la ausencia de análisis de impacto en derechos humanos para sopesar riesgos y beneficios de estos sistemas de IA.
Federico Varías, asesor legal para la región del Centro Internacional para el Derecho del Sector sin Fines de Lucro, afirmó que hay beneficios prácticos al involucrar a la sociedad civil y otras partes interesadas en la formulación de políticas públicas sobre los riesgos tecnológicos emergentes. Agregó que esta participación aumenta la legitimidad y la confianza en las instituciones gubernamentales, pues mejora la calidad y el conocimiento de la legislación, especialmente en el caso de cuestiones novedosas y complejas como lo es la IA, lo que mejora su aplicación efectiva.
Para Francia Pietra Santa Baldazo, de la Red en Defensa de los Derechos Digitales, los avances tecnológicos como la IA pueden conllevar grandes oportunidades para el desarrollo humano. Sin embargo, «la narrativa tecnosolucionista», que tanto empresas como gobiernos han impulsado, invisibiliza los impactos en los derechos humanos, especialmente en un contexto de erosión democrática y avance del autoritarismo.
Finalmente, Patricia Peña, en representación de la Red Feminista de Investigación en Inteligencia Artificial de América Latina, insistió en la incorporación de un marco de derechos humanos que permitan a los Estados adoptar estándares vinculantes, que garanticen que la IA efectivamente respete y ponga al centro los derechos humanos y la justicia de género, y que se generen mecanismos que permitan monitorear sistemáticamente los impactos que la IA tiene, con particular atención en las mujeres.
Solicitudes a la CIDH
Las ONG participantes solicitaron a la CIDH que haga un llamado a los Estados a implementar la transparencia con auditorias de los sistemas de IA usados por los gobiernos y a garantizar la participación de comunidades marginadas en el diseño de dichos sistemas. También recalcaron la necesidad de crear marcos normativos y realizar recomendaciones alineadas con los estándares interamericanos. Destacaron que si bien la IA puede ser una herramienta poderosa para el desarrollo y la innovación, su uso sin regulaciones adecuadas y sin un enfoque basado en derechos humanos puede profundizar desigualdades y afectar gravemente las libertades fundamentales. Se deben adoptar marcos legales que no solo reparen la infracción a los derechos fundamentales, sino que también la prevengan y minimicen los riesgos. Solicitaron además a la CIDH incorporar esta discusión en su agenda de problemas urgentes.
