Vemos y habitamos el mundo a la luz de la inteligencia artificial, “una de las tecnologías más trascendentales de nuestra era”, que ha modificado funciones cruciales de la sociedad, desde la economía y la asistencia sanitaria, pasando por la cultura y la política, hasta muchas formas de Gobierno. En El imperio de la IA: Sam Altman y su carrera por dominar al mundo (Ariel), la periodista Karen Hao nos lleva por el discurso oficial que domina los pasillos de OpenAI y también por los rumores que circulan en la prensa, en la calle, en los pequeños pueblos olvidados del sur global: la compañía “se convirtió en todo lo que había dicho que no sería: una organización sin ánimo de lucro solo de nombre, comercializando agresivamente productos como ChatGPT”, impidiendo el escrutinio público, cediendo ante los intereses económicos y desconociendo los efectos perjudiciales o las formas peligrosas que la IA podía tomar.
Hoy es casi imposible determinar el costo que tiene esta tecnología sobre numerosas comunidades vulneradas alrededor del mundo, pocas veces beneficiadas por los residuos de esta “revolución tecnológica”. Hao nos cuenta de casos a lo largo y ancho del planeta con total impunidad: apropiación y extracción de recursos humanos, materiales y simbólicos, la explotación laboral, la invasión de la privacidad… La lista crece mientras observamos, casi impávidos, un “moderno orden colonial mundial”.
Lee también: Bajo La Potosina: Lowry y Zapata
En su “Nota del autor” usted habla de comprender, entre otras cosas, el impacto emocional de la IA, un aspecto del que rara vez se habla. ¿Dónde nació ese interés particular al escribir este libro?
Pienso que uno de los mayores mitos que perpetúan estas empresas es la idea de que la tecnología que crean es neutral, que no tiene nada que ver con las personas que la crean, ni con las personas que se ven afectadas por ella. Por eso, una parte fundamental de lo que quería hacer con el libro era destacar que las personas sí están en el centro de esta tecnología. Jamás deberíamos verla simplemente como un artefacto que existe en el mundo; deberíamos pensar en las personas que la diseñaron, las que le infundieron sus valores, cuál era su estado emocional al hacerlo, así como en las personas que luego se ven afectadas, de maneras muy diferentes a como las empresas comercializan sus tecnologías. Por eso busqué, intencionalmente, dedicar el mayor tiempo posible a la compleja naturaleza humana que hay detrás, para que la gente pueda interiorizar ese mensaje.
Lee también: Hurgando en las entrañas de la humanidad: reseña de El corazón habitante, de Daniela Tarazona
Usted nos presenta casos en Chile, Kenia, Colombia, entre otros, y es abrumador leer esas historias de pseudoesclavitud, personas trabajando por centavos, comunidades afectadas por la escasez de recursos naturales que se destinan al funcionamiento de esta tecnología. ¿Cómo ve la presencia y el impacto de la IA en América Latina, que uno supondría es diferente de lo que sucede en el norte global?
Sin duda, la situación es peor en los países pobres, porque el nivel de explotación y extracción es mayor. Latinoamérica tiene una larga historia de extractivismo y, debido a su gran riqueza en recursos y a la fertilidad de sus tierras, ha sido el objetivo de explotación de numerosas industrias, no solo la de la IA. Sin embargo, resulta difícil cuando los gobiernos mismos están dispuestos a acoger esas empresas en su territorio. Esto no es exclusivo de la región, pero sin duda se exacerba cuando existen dinámicas de poder tan fuertes entre países. Dicho esto, es claro que todo esto también ocurre en el norte global.
Nos cuenta, precisamente, que Estados Unidos alberga la mayoría de los centros de datos del mundo.
Y esos centros están siendo instalados en comunidades pobres, territorios olvidados que no le importan a nadie, donde además se extraen minerales y petróleo. La ventaja de estas comunidades es que, por lo general, les resulta más fácil captar la atención de los líderes estadounidenses porque son ciudadanos de ese país, mientras que a las personas que viven en Latinoamérica, África o cualquier otro lugar les resulta mucho más difícil llamar la atención de las empresas estadounidenses o de los medios internacionales.
Ahí resultan muy llamativos los movimientos de resistencia.
En mi libro hablo de esos movimientos en Chile y Uruguay, que resultan muy inspiradores porque, aunque tienen todo en su contra y se enfrentan mucho más a la extracción, a terribles impactos y a muchas barreras para comunicar sus problemas, han logrado hacerlo. Por eso siempre he creído que Latinoamérica, como región, será fundamental para liderar la resistencia contra el imperio, porque ya ha enseñado a muchos otros movimientos en todo el mundo cómo pararse frente ante desequilibrios de poder tan grandes.
También hay una reflexión sobre los responsables de las políticas públicas, que en 2021 “estaban aprendiendo a comprender la tecnología”. ¿Lo habrán logrado para 2026?, ¿cree que se ha reducido o acortado la brecha entre las políticas y la realidad de la IA en estos años?
Creo que los responsables políticos han avanzado rápidamente en su comprensión de la tecnología porque se han ido dando cuenta de que es un asunto fundamental. Además, muchos investigadores se han puesto activamente en contacto con los responsables políticos para facilitarles esa comprensión. Al mismo tiempo, muchos de ellos ven que la IA está presente en todas partes; la ven impactando a sus hijos, sus hogares, en sus oficinas, durante sus citas médicas. Existe una comprensión inherente que surge de la omnipresencia de observar su funcionamiento en la sociedad. Sin embargo, todavía existe una brecha, parte de la cual se debe a que no hay suficientes expertos independientes a los que los legisladores puedan consultar para comprender los detalles técnicos de estos modelos. Es que las empresas aprovechan la brecha que hay respecto a esa comprensión para intentar ocultar la realidad de sus tecnologías e intentar difundir información errónea sobre lo que realmente están haciendo, lo que sus modelos pueden hacer, etc.
Ahí aparece el asunto de la muy compleja relación de la ciencia y la investigación con los asuntos políticos y económicos.
Porque parte del problema es que las empresas son tan ricas que pueden financiar a la mayoría de los investigadores de IA en el mundo. Por lo tanto, una de las cosas clave que creo que los gobiernos deben hacer para ayudar con este desequilibrio de poder y ayudar a facilitar su propia comprensión es, de hecho, dedicar más tiempo a financiar a expertos independientes que trabajan por el interés público, que crean conocimiento en el dominio público para verificar lo que estas empresas dicen y hacen, y luego ayudar a asesorar a los legisladores, de manera que no estén alineados con el lucro como su único objetivo. Muchos investigadores que trabajaban en la academia y en los laboratorios de investigación con el conocimiento como objetivo, han ido migrando hacia este tipo de compañías, solamente para hacer dinero.
Alguien dice que la historia de la IA se suele explicar como un triunfo del mérito científico sobre la política; ¿lo cree así?
La ciencia es política y siempre lo ha sido, así que la idea de que la ciencia existe al margen de la política —una narrativa que muchos científicos perpetúan—, simplemente no es cierta. Sin embargo, la ciencia, por imperfecta que sea, sigue siendo el mejor mecanismo que tenemos para intentar descubrir la verdad con la menor influencia política posible. En este preciso momento gran parte del mundo ha decidido que no le importa la ciencia y que deberíamos dejar de escuchar a los científicos, y creo que esa tampoco es la respuesta correcta. Necesitamos volver a tener procesos sólidos para comprender y aprender sobre el mundo y la verdad de cómo funciona, por terrible que sea para esas empresas el hecho de que nuestras fuentes de información no se basen únicamente en motivos políticos y comerciales.
Otro asunto interesante es que usted nos muestra que hay un intento de recrear la inteligencia artificialmente, cuando aún no sabemos ni entendemos qué es la inteligencia, para empezar.
El asunto por el que debemos comenzar es: ¿por qué intentamos descifrar qué es la inteligencia? A lo largo de la historia, las principales motivaciones para intentar medir y cuantificar la inteligencia han nacido por razones equivocadas: intentar demostrar que el racismo tiene una base científica y, con ello, intentar socavar y dominar a otro grupo de personas. Creo que de alguna manera esta búsqueda por intentar descifrar qué es la inteligencia y tratar de recrearla nos ha engañado, desviándonos del camino correcto. Cuando se trata de cualquier desarrollo tecnológico, creo firmemente que la pregunta más pertinente es: ¿qué tipo de problemas tenemos y qué tipo de tecnologías necesitamos para resolverlos?
Luchar contra la idea crear por crear y para lucrarse.
Hay algo intrínsecamente extraño en intentar crear una tecnología simplemente por el hecho mismo de que exista, en lugar de hacerlo en función de lo que necesitamos como sociedad. Creo que ese ha sido un gran problema filosófico en la base de toda esta disciplina y en esta industria: las empresas simplemente se centran en avanzar en la dirección del artefacto técnico, que son los modelos que están creando, en lugar de reflexionar profundamente sobre qué tipos de IA deberían crear para ser más específicos y dirigidos, y para ayudarnos a superar los desafíos realmente importantes de nuestro tiempo.
Precisamente, sobre la filosofía, usted cita a Nick Bostrom. ¿Cuál es la pregunta filosófica más interesante que se planteó sobre la IA en esta investigación?
Para mí la pregunta más interesante es: ¿qué es el progreso? Porque ahora mismo la narrativa dominante sobre el progreso presupone un avance técnico; la gente lo asocia con modelos más complejos, capaces de generar más palabras, pero creo que hemos perdido el significado original de la palabra. Se supone que ese progreso significa progreso social, progreso moral, y tener modelos más grandes que generen más palabras, definitivamente no nos lleva hacia allá. ¿Por qué asociamos tan fuertemente el avance tecnológico con la palabra progreso? Tengo la esperanza de que podamos ampliar su definición y volver a los fundamentos de lo que realmente intentamos lograr.
Como periodista, ¿cómo ve el papel de los profesionales de este oficio en tiempos políticos tan complejos, donde hay una nueva forma de relacionarnos con la información y sumados a las noticias falsas, las redes sociales y todo lo que se deriva de la omnipresente IA?
Hay muchas maneras de responder a esta pregunta. Creo que todas las industrias, incluido el periodismo, se enfrentan a una verdadera crisis existencial, pues se preguntan cuál es su papel y si todavía lo tienen en la era de la IA. Creo que muchas empresas, especialmente los medios de comunicación, están a punto de tomar una decisión equivocada, que es la de adoptar estas herramientas a toda costa y asumir que pueden generar eficiencia en su personal, e intentar obligar a todos sus periodistas a usar esta tecnología tanto como sea posible, sin reflexionar críticamente sobre el valor real de esas herramientas ni sus limitaciones.
Uno quisiera que esa crisis existencial y la presión lleven al periodismo a un punto de inflexión donde se vuelva a los principios éticos de la profesión.
… y que nos comprometamos nuevamente con sus ideales y su misión original, que es la de proporcionar información a la ciudadanía en aras del interés público, exigir responsabilidades al poder, conocer cuáles son las fuentes de financiación de las grandes corporaciones, y comunicar y empoderar a las personas para que tengan capacidad de decisión y puedan participar colectivamente en la gobernanza. Espero que esto impulse a los periodistas a pensar no solamente en la innovación tecnológica, sino también en innovar en el modelo de negocio, en cómo fortalecer la relación con la audiencia. Tal vez volvamos a tener más eventos basados en las comunidades en lugar de simplemente pensar en cómo vamos a construir una interfaz con ChatGPT que haga llegar nuestro periodismo a la gente.
¿Nuevos mecanismos para escuchar a las audiencias, tal vez?
Sobre todo, comprender qué historias quieren que cubramos… orientarse por la verdadera misión y propósito de la profesión en lugar del problema en el que muchas publicaciones suelen caer, que es guiarse más por los premios que quieren ganar o los elogios que desean recibir. En este momento la IA está desafiando a cada industria a tener un punto de inflexión y a preguntarse de manera genuina por qué estamos aquí en primer lugar, por qué necesitamos periodistas en el mundo. Espero que esta sea una oportunidad para que cada periodista redoble sus esfuerzos hacia el verdadero propósito de nuestra profesión.
Contenido sindicado vía RSS de El Universal Cultura. Nota original: https://www.eluniversal.com.mx/cultura/confabulario/progreso-significa-progreso-social-entrevista-con-karen-hao-sobre-el-imperio-de-la-ia/