“La inteligencia artificial generativa va a cambiar lo que significa ser humano”

Foto: Nina Schick, consultora experta en IA generativa. Crédito: Cortesía de Nina Schick.

Por Elena Astorga

Desde que OpenAI desató la locura de la IA generativa con el lanzamiento de ChatGPT, cada vez más empresas tecnológicas se han unido a la carrera. OpenAI ya ha lanzado un sistema de IA conversacional más avanzado, GPT-4, y su herramienta de generación de imágenes DALL-E 2 ya está dejando su huella en la industria cinematográfica. Google se lanzó temprano a la pista con Bard, aunque solo llegó a Europa la semana pasada. Ernie Bot, del gigante chino Baidu, tropezó gravemente. El último en entrar en la competición ha sido Meta con LLaMA 2, aunque hay señales de que Apple no se quedará atrás. Además de los principales actores, startups como Stability AI o Midjourney también están ganando terreno.

Mientras las grandes tecnológicas compiten por una jugosa cuota de mercado, otros sectores públicos y privados ven la IA generativa con más recelo. Desde que se popularizó a través de los deepfakes, ha estado a la vanguardia de una serie de preocupaciones que van desde la desinformación hasta la violencia sexual. Recientemente, la IA generativa fue al menos en parte culpable de la ruptura de las negociaciones entre el gremio de actores SAG-AFTRA y la Alianza de Productores de Cine y Televisión (AMTPT), después de la propuesta al estilo Black Mirror de los estudios de Hollywood para crear dobles de IA de los actores, cuya imagen poseerían y controlarían "por toda la eternidad".

Las capacidades de esta tecnología son tan vastas que parece que ninguna industria quedará sin impacto, ningún flujo de información ileso, ninguna supuesta capacidad estrictamente humana sin ser desafiada. Para la experta en IA generativa, autora y fundadora de la firma de asesoría Tamang Ventures, Nina Schick, la pregunta va más allá de las aplicaciones prácticas y se adentra en el existencialismo: "Es una tecnología que va a cambiar, creo, lo que significa ser humano", reflexiona.

La inteligencia artificial generativa (específicamente, los generadores de imágenes de IA) fue una de las 10 Tecnologías Innovadoras de MIT Technology Review para 2023. ¿Qué hace que esta tecnología sea tan relevante y qué avance ha supuesto sobre otras aplicaciones de la IA?

La IA tradicional se centra más en etiquetar o categorizar datos, pero la IA generativa puede crear nuevos datos. Al principio, la gente lo veía como una nueva forma de generar medios visuales, pero en los últimos años ha quedado muy claro que es mucho más que eso. Puede verse como casi un motor de combustión, un superpoder, para la creación de todo aquello que habíamos asumido que era exclusivo de la creatividad y la inteligencia humanas.

Es una tecnología innovadora en 2023 porque ahora está lo suficientemente madura como para ser aplicada en la empresa para la eficiencia, la creación, la obtención de conocimientos... Tradicionalmente, nos han enseñado a pensar que la inteligencia y la creatividad humanas son algo que la tecnología no puede automatizar ni aumentar, como una especie de bastión solo para los humanos. Pero lo que estamos empezando a ver es que la IA definitivamente puede usarse como una herramienta de mejora en todo tipo de aspectos, desde la creación de contenido visual personalizado generado por IA para el entretenimiento hasta la asistencia en industrias que tradicionalmente han requerido muchas habilidades y años de formación, como el derecho, la contabilidad o la programación.

En mi opinión, esta es probablemente una de las revoluciones tecnológicas más profundas que han ocurrido en la historia de la humanidad, y creo que se desarrollará muy rápidamente. Una razón de ello es que las grandes empresas tecnológicas han comprendido que esta es una tecnología clave, y en los últimos seis meses desde que salió ChatGPT han girado para hacer de la IA generativa una parte central de su estrategia. Cuando una empresa como Microsoft integra la IA abierta como una herramienta generativa en su suite de software, el sistema operativo más popular del mundo, utilizado por cientos de millones de personas, se produce una aceleración en la adopción de la tecnología, porque se está implantando en la infraestructura digital y física existente de Internet.

Recientemente, en el Digital Enterprise Show 2023 en Málaga, usted afirmó que en unos años el empleo de la IA generativa en la creación de contenido digital será algo habitual. En este escenario, ¿cómo será necesario replantear el concepto de autoría o autenticidad? ¿Qué herramientas podrían implementarse para verificarlo?

He dicho que el 90% del contenido en línea será generado por IA para 2025. Esta cifra representa mi punto de vista de que esta es la última era de Internet donde la mayor parte del contenido y la información que vemos en línea no tiene alguna capa de creación de IA. Ya hemos empezado a ver eso en los últimos años con cosas como los filtros de Instagram o TikTok, pero ahora, con estas capacidades de IA generativa alcanzando la madurez y siendo desplegadas en casi todos los casos de uso empresarial en todas las industrias, mi opinión es que la mayoría absoluta del contenido de información que vemos en línea tendrá alguna naturaleza sintética.

Así que determinar la autenticidad y el origen del contenido es probablemente una cuestión existencial en lo que respecta a la integridad de la información. Inicialmente, con la aparición de los deepfakes, que yo llamo la primera forma viral de IA generativa, el foco estaba en detectar el contenido creado por IA. Sin embargo, es un enfoque bastante problemático, porque no existe un detector universal y los generadores de IA siempre evolucionarán para superarlos. Y quizás más importante aún, si estás de acuerdo con mi afirmación de que la mayoría del contenido y la información tendrá algún grado de IA involucrado en su creación, la detección no será suficiente. Otro enfoque que creo más prometedor es la idea de la transparencia y la procedencia del contenido. En lugar de detectar, se trata de revelar, de incrustar en el ADN de cualquier información o contenido los orígenes de donde provino. Y es más que una marca de agua: una de las empresas a las que asesoro utiliza PKI [infraestructura de clave pública], que es una especie de hash criptográfico, para que siempre puedas verificar si fue hecho por IA o quién lo posee.

Pero la gente realmente necesitará ver esas credenciales de contenido, así que debemos construir en la arquitectura de Internet la infraestructura para hacerlo. Se está desarrollando ahora como un estándar abierto por un organismo público sin fines de lucro conocido como la C2PA, de la cual forman parte empresas enormemente influyentes como Microsoft y Adobe. Y también es necesario educar a la sociedad sobre la IA y la alfabetización digital, de modo que se tengan soluciones tanto técnicas como sociales, y todo debe trabajar en conjunto.

En ese mismo evento, usted señaló que la IA generativa pudo despegar en 2022 al utilizar todo Internet para su entrenamiento. Sin embargo, esto ha dado lugar a críticas y preocupaciones con respecto a los derechos de autor de los creadores del contenido original alimentado a la IA. ¿Dónde quedan estos derechos en la era de ChatGPT y DALL-E? ¿Tendremos que cambiar o expandir nuestra noción de lo que son el arte y la creatividad para incluir la IA generativa?

Creo que sí, porque hay que concebirla como un medio completamente nuevo. Al igual que cuando se inventó la fotografía y los pintores de paisajes se preocuparon de que la gente ya no compraría sus cuadros ahora que la gente podía "simplemente pulsar un botón" y crear una imagen de un paisaje. Pero eso no significa que todo el mundo que usa la IA generativa pueda ser creativo o artístico, es solo una nueva herramienta. Creo que tenemos que cambiar nuestra concepción de la IA como un agente autónomo que roba la creatividad humana, porque la realidad es que muchas personas creativas ya están utilizando la IA generativa como una forma de potenciar su genio creativo.

En cuanto a los artistas que legítimamente sienten que su trabajo ha sido robado, ya estamos viendo las primeras demandas colectivas contra algunas de las empresas de IA generativa a las que acusan de tomar su trabajo sin consentimiento y ponerlo en los datos de entrenamiento, por lo tanto, todo lo que Dall-E o Stable Diffusion han hecho es una infracción de derechos de autor. En realidad, no creo que prosperen, porque no es así como funcionan los modelos de difusión, no se puede rastrear qué imágenes específicas se utilizaron para crear contenido de IA. Así que hay un punto más importante aquí: ¿cuál es el nuevo modelo de compensación para artistas y creadores cuyo trabajo, cuya inspiración, se utiliza en los conjuntos de datos de entrenamiento de IA?

Hace años, ya señaló en su artículo de opinión No subestimes el cheapfake en MIT Technology Review que la manipulación y la desinformación no necesitaban la perfección técnica de la IA generativa y los deepfakes para causar estragos en el panorama político. ¿Qué está en riesgo si nos volvemos incapaces de distinguir lo verdadero de lo falso? ¿Qué medidas pueden tomarse para combatir la desinformación visual?

Es una preocupación filosófica seria y profunda. Mi formación es en geopolítica, y el hilo conductor constante en mi carrera fue cómo la tecnología está emergiendo como esta fuerza que moldea la macrogeopolítica e influye en las vidas de miles de millones de ciudadanos individuales. Durante la última década, ya había visto la corrosión del ecosistema de información en línea, incluso antes de que el contenido generado por IA realmente entrara en juego. Y estaba teniendo consecuencias atroces, por ejemplo, la desinformación que se difundió en Facebook en Myanmar fue parte de la razón por la que vimos esta campaña de limpieza étnica contra los rohingya.

La desinformación y la mala información son un fenómeno milenario, pero debido a la tecnología, la velocidad y el alcance con los que la información puede viajar y el impacto que puede tener han cambiado profundamente en los últimos 30 años. Y ahora, inyectamos en esa tendencia la capacidad de las personas para crear cualquier contenido con inteligencia artificial y escalarlo. ¿Qué tan profundo podría ser el impacto de la capacidad de la IA para clonar los datos biométricos de las personas en la política o para estafar a la gente? Porque a medida que la tecnología mejora, se necesitan cada vez menos datos de entrenamiento. Ya hay empresas que dicen que pueden sintetizar voces con tres segundos de audio, lo que significa que cualquiera puede ser sintetizado.

Pero no es solo eso: ahora sabemos que la IA puede sintetizar y crear cualquier cosa, lo que facilita negar que algo sea real. La corrosión de la integridad de la información misma es el punto realmente peligroso.

¿Podemos evitar el mal uso de esta tecnología sin renunciar a sus beneficios potenciales?

Lo he analizado desde ambos lados: inicialmente me acerqué desde la perspectiva del riesgo, dado mi trasfondo en guerra de información y desinformación. Y luego, a lo largo de los años, cambié para trabajar con algunas de las startups que están construyendo la tecnología y comprendiendo que la desinformación es solo una parte de la historia. La gente armará y usará esta tecnología de malas maneras, pero también hay tanta posibilidad para la generación de conocimiento para la humanidad. ¿Qué desbloqueará la IA generativa en términos de descubrimientos que podrían cambiar la trayectoria de la humanidad? ¿Cómo podría aplicarse en ciencia y medicina? Ya estamos empezando a ver que puede descubrir nuevas proteínas para impulsar el descubrimiento de fármacos o ayudar a combatir el cambio climático, por ejemplo, desarrollando enzimas para descomponer plásticos en los océanos.

No se puede volver a meter al genio en la botella. Así que necesitamos adoptar este enfoque de toda la sociedad porque ninguna institución, ningún estado o ninguna sociedad civil por sí sola puede lidiar con la escala y el ritmo del cambio que se avecina. Va a ser un ajuste para toda la sociedad y los gobiernos deben trabajar muy de cerca con la industria, que es donde se está desarrollando la tecnología, porque necesita ser regulada, transparente y desarrollada con una IA responsable y ética en su núcleo. Aunque hay mucho trabajo por hacer, porque es una pregunta enorme —¿cómo se mitigan los riesgos mientras se aprovechan las oportunidades?—, ha sido alentador ver que desde el mismo inicio de la revolución, este fue uno de los problemas centrales identificados y esta colaboración entre gobiernos e industria privada está ocurriendo.

¡Nos encantaría conocerte y ayudarte a innovar!

Déjanos tus datos de contacto y nos pondremos en contacto contigo lo antes posible: