InsightsEl riesgo de crear IA sin considerar a las minorías

El riesgo de crear IA sin considerar a las minorías

Gracias a los sesgos inconscientes, los humanos podemos tomar decisiones rápidamente, de manera casi automática y sin utilizar grandes cantidades de energía.

Foto: El riesgo de crear IA sin considerar a las minorías. Crédito: Unplash

El problema aparece cuando algunos sesgos tienen base en prejuicios como el racismo, sexismo o clasismo, y nos llevan a discriminar y estereotipar a las personas a nuestro alrededor. ¿Qué pasará entonces si llevamos esos sesgos inconscientes a las bases de un “pensamiento inteligente” que le permite a una máquina tomar decisiones? Pues que esos prejuicios y encasillamientos escalarán a proporciones enormes, con un potencial impacto desafortunado para la sociedad de iguales proporciones.

Beena Ammanath, experta en Inteligencia Artificial (IA) y dueña de una larga trayectoria resolviendo complejos asuntos del mundo de la tecnología, asegura que una forma de evitar ese futuro indeseado es incorporar la mayor cantidad de perspectivas académicas, raciales y de género en el diseño y creación de las bases para una IA que garantice un mundo más sano y justo.

Fundadora y CEO de Humans For AI, una organización sin fines de lucro centrada en aumentar la diversidad en tecnología, Beena entiende que la variedad de pensamiento y opinión construyen mejores productos. “Aunque muchas empresas multinacionales son conscientes de la importancia de tener distintos perfiles, muchas no saben cómo lograr esa inclusión. Y por eso es que creamos Humans For AI, para formar a más personas de distintas minorías y distintos entornos sociales en las áreas de conocimiento de IA para que se conviertan en los futuros líderes, diseñadores y validadores de productos basados en IA.”

Cuando hablamos del rol de los gobiernos, Beena comenta que “éste es un ángulo totalmente distinto. En su gran mayoría, los responsables de diseñar y crear políticas públicas no son expertos en conceptos de AI. Y aquí es donde hay que reforzar la formación de esos funcionarios para que puedan construir leyes que garanticen un uso ético de la IA.” Y continúa diciendo, “No necesitas un PhD en Machine Learning, pero sí es necesario conocer las bases y pilares de la IA porque sin ellos, no tendrán las herramientas para unirse a la conversación sobre temas más sensibles como la privacidad y el uso adecuado de los datos.”

Optimista y entusiasta, Beena no duda en afirmar que la IA nos llevará a un nuevo renacimiento de la humanidad liberándonos de las tareas repetitivas que no aportan valor a nuestras vidas. Y por eso es tan importante que todos nos involucremos, que conozcamos los conceptos básicos y podamos ser parte de la conversación sobre cómo diseñar las bases para una IA responsable.

Entrevista completa a Beena Ammanath a continuación: