La inteligencia artificial (IA) ha ganado rápidamente importancia en los últimos años y está impregnando cada vez más ámbitos de nuestra vida. Ya utilizamos la IA en diversas aplicaciones, como el reconocimiento de voz en nuestros celulares, las recomendaciones personalizadas en plataformas de música o video, o la traducción automática de textos. Últimamente se han vuelto popular los chatbots, es decir, los sistemas de diálogo basados en texto como «ChatGPT» de OpenAI o «Bard» de Google, que permiten mantener una conversación en lenguaje natural a través de texto.
Su uso parece cómodo y práctico. Sin embargo, también conlleva desafíos y peligros: es clave contar con leyes claras y exhaustivas para garantizar estándares éticos y la protección de la privacidad y de nuestros datos. La IA nos puede ayudar en muchas situaciones, pero también controla armas, vigila espacios públicos e influye en los debates políticos. Debemos establecer reglas para el uso de la tecnología, de modo que ésta sea beneficiosa y no perjudicial.
Además, la inteligencia artificial no es infalible. Los denominados modelos grandes de lenguaje (inglés: «large language models»), en que los chatbots y otros programas se basan, son entrenados con enormes cantidades de información que se recopilan de Internet; por eso aprenden patrones y conexiones en estos datos y los utilizan para generar nuevos textos.
Así, algoritmos de IA pueden contener sesgos o discriminaciones contra ciertos grupos, y es que la mayoría de los datos a menudo proceden del Norte global y fueron creados por hombres. Esto se debe a la desigualdad de género histórica y aún existente en ámbitos como la ciencia, el periodismo y la literatura. Y una base importante de la información para entrenar los algoritmos son artículos de Wikipedia, que tienen menos del 15 por ciento de mujeres y niñas como autoras.
Esto conduce a la discriminación y tiene graves consecuencias. Los programas de reconocimiento facial, por ejemplo, pueden reproducir prejuicios contra personas de piel oscura, mujeres y personas trans, porque los datos de entrenamiento no son suficientemente diversos: la precisión del reconocimiento facial es menor al identificar a personas de piel oscura, especialmente mujeres, esto puede llevar a la identificación errónea de manifestantes y ha causado detenciones injustas por parte de la policía. Otro ejemplo es la reproducción de estereotipos de género por IA.
Es decisivo reconocer, comprender y combatir estos sesgos para garantizar que los modelos de IA sean justos y equitativos. Las iniciativas para una mayor diversidad en los datos de entrenamiento y unas prácticas de desarrollo más éticas son fundamentales para abordar estos desafíos.
En el ámbito tecnológico, América del Norte, Europa y Asia siguen siendo dominantes y, actualmente el avance de la inteligencia artificial está siendo liderado principalmente por grandes corporaciones de tecnología en los Estados Unidos, como Microsoft, Google o Meta. Con el surgimiento de la inteligencia artificial, la brecha entre el llamado Sur global -grandes zonas de África, el Sudeste Asiático, América Latina y el Caribe-, y las regiones mencionadas anteriormente puede ampliarse aún más, reforzando los desequilibrios existentes y agudizando las desigualdades tecnológicas, lo que a su vez tendrá consecuencias culturales, científicas y económicas.
Es por eso que es importante crear sistemas transparentes, abiertos y democráticos que sean iniciados por personas y organizaciones del Sur global. Estas iniciativas pueden impulsar de manera crítica el desarrollo y la implementación de la inteligencia artificial en sus regiones, asegurando que garanticen la participación de la sociedad y que la tecnología tenga en cuenta las necesidades, conocimientos, experiencias y perspectivas de las comunidades.
A lo largo de la última década, en el Sur global se han utilizado herramientas de IA para afrontar diferentes retos, especialmente en los ámbitos de la agricultura, la sanidad y la educación. Algunos ejemplos son los proyectos de inteligencia artificial para identificar enfermedades de plantas, sistemas de alerta temprana de inundaciones, las herramientas de traducción de lenguas originarias y la interpretación de ecografías fetales.
La inteligencia artificial y los modelos de aprendizaje automático se están convirtiendo en código abierto, lo que significa que se pueden democratizar. Las Naciones Unidas ya está trabajando en la creación de estándares universales para una inteligencia artificial ética; en América Latina y El Caribe, a finales de octubre 20 países firmaron la Declaración de Santiago para promover una IA ética.
Sería importante que las iniciativas sobre inteligencia artificial del Sur tuvieran en cuenta las perspectivas culturales y requisitos especiales, así como considerar de manera crítica cuestiones como la protección de datos o el consumo de energía y agua por el uso de la IA, y que entrenaran los modelos con datos alternativos para reducir los sesgos y crear soluciones pertinentes a nivel local y mundial
Por Steffen Heinzelmann
