Óscar Hernández Salgar es el actual director del Instituto Pensar, el centro de investigación interdisciplinar de la Universidad Javeriana en Bogotá. Maestro en música con énfasis en administración cultural, Magister en Estudios Culturales y Doctor en Ciencias Sociales y Humanas, conversó con Página 10 a propósito de su más reciente libro El fin de la técnica, donde reflexiona sobre los desafíos que plantea la inteligencia artificial generativa para la creatividad, la educación, la democracia y la vida colectiva.
El título de su libro puede interpretarse de dos maneras: como el fin de la técnica o como el propósito de la técnica. ¿Cómo llegó a esa idea?
Exactamente esas dos acepciones están jugando ahí. De hecho, originalmente era el título del primer ensayo y me gustó tanto que terminé poniéndoselo a todo el libro.
Cuando hablo del fin como terminación, me refiero a algo que exploro en ese primer ensayo: con la inteligencia artificial generativa se abre una especie de hiato entre la acción humana y el resultado en el mundo. Tradicionalmente entendemos la técnica como la acción humana sobre el mundo a través de herramientas. Las herramientas sirven para transformar la realidad a escala humana.
Lo que ocurre ahora es que esa transformación empieza a cederse a sistemas que funcionan como una caja negra, herramientas sobre las que no tenemos un control completo ni una posibilidad real de anticipar cómo operan. Ahí hay una cesión de la técnica y, en ese sentido, un fin.
Eso nos obliga a preguntarnos por el otro significado de la palabra: ¿para qué la técnica?, ¿para qué estas tecnologías?, ¿cómo hacer para que sigan siendo herramientas? Porque con la inteligencia artificial generativa pasa algo que no ocurría con otras tecnologías: puede dejar de ser una herramienta para convertirse en un sustituto de la acción humana, incluso en trabajos cognitivos.
Mi argumento es que debemos aprender a utilizarla de manera que siga siendo una herramienta. Pero eso depende de cómo se use, de cómo se comprenda y, sobre todo, de que no le deleguemos los propósitos finales ni los horizontes de sentido.
Usted habla de la inteligencia artificial como una “caja negra”. ¿Por qué le preocupa tanto esa idea?
Porque no es solamente un recurso poético.
Cuando hay una acción técnica (desde encender un fósforo hasta construir una hidroeléctrica) existe una cadena de responsabilidades humanas. Siempre hay alguien que responde por cada paso del proceso.
Cuando aparece una entidad capaz de tomar decisiones mediante criterios que se sustraen al control humano, esa cadena comienza a romperse. Y eso ya se está viendo en ámbitos como la salud, el derecho o la seguridad pública.
Pensemos, por ejemplo, en sistemas que ayudan a decidir prioridades médicas o influyen en decisiones judiciales. Ahí pueden existir consecuencias muy graves para la vida de las personas. El problema no es únicamente que desaparezca el criterio humano; el problema es que también desaparece la responsabilidad.
¿Quién responde cuando una decisión tomada por un algoritmo conduce a un resultado injusto o perjudicial?
Por eso hablo de una caja negra. Estamos abriendo un espacio donde se suspenden la comprensión y la responsabilidad.
En el libro también aparece una preocupación por la creatividad. ¿Qué se pierde cuando delegamos procesos creativos a la inteligencia artificial?
Yo trabajo mucho temas de arte y cultura, así que esa pregunta me interesa especialmente.
Existe una promesa muy difundida según la cual ahora cualquier persona puede crear cualquier imagen, cualquier canción o cualquier pieza artística simplemente escribiendo una instrucción. Pero uno solo puede imaginar aquello que conoce.
La creatividad no surge de la nada. Surge del contacto con materiales, sonidos, imágenes, personas y experiencias que también nos transforman a nosotros. Si yo no entro en contacto con esos materiales expresivos, difícilmente voy a imaginar posibilidades nuevas.
Las inteligencias artificiales tienen una parte importante de aquello que entendemos por creatividad: pueden combinar elementos para generar algo nuevo. Pero la imaginación es otra cosa.
Pueden combinar, pero no imaginar.
Y eso tiene consecuencias importantes porque la imaginación es como un músculo. Si no se ejercita, se atrofia. Si seguimos delegando actividades creativas a estas tecnologías, nosotros mismos podemos terminar perdiendo parte de esa capacidad.
También parece existir una tendencia creciente a sustituir ciertas relaciones humanas por relaciones con sistemas artificiales.
Sí, y eso me preocupa bastante.
Relacionarse con otras personas es difícil. Los seres humanos son complejos, incómodos, contradictorios. Nunca responden exactamente como esperamos.
Por eso mucha gente termina refugiándose en espacios más controlables: mascotas, redes sociales o inteligencias artificiales que le responden aquello que quiere escuchar.
Hoy vemos personas que les cuentan sus problemas más íntimos a sistemas conversacionales o incluso establecen relaciones afectivas con ellos.
Pero hay algo fundamental: lo que ha permitido que la especie humana evolucione es precisamente la construcción colectiva, la capacidad de formar grupos, cooperar y resolver problemas junto con otros.
Si dejamos de afrontar el desafío de relacionarnos con otros seres humanos, estamos debilitando una de las capacidades más importantes que tenemos como especie.
¿Cómo debería responder el sector cultural frente a la inteligencia artificial?
No creo que la respuesta sea rechazarla.
El arte siempre se ha apropiado de nuevas tecnologías para hacer cosas que antes eran imposibles. Me parece muy interesante que existan artistas experimentando con inteligencia artificial y explorando nuevas formas expresivas.
Eso mantiene a la herramienta en su condición de herramienta.
Mi preocupación aparece sobre todo en las industrias culturales masivas. Allí los incentivos económicos son muy fuertes y probablemente veremos una adopción creciente de estas tecnologías para reducir costos, automatizar procesos y reemplazar trabajo humano.
Creo que vamos hacia una divergencia. Por un lado, una cultura masiva cada vez más automatizada. Por otro, una producción más artesanal, experimental, local y autónoma.
El reto será evitar que esas expresiones más pequeñas desaparezcan bajo el peso de las grandes plataformas y de las lógicas de rentabilidad.
En educación usted insiste en la importancia del esfuerzo cognitivo. ¿Por qué?
Porque hoy existe una tensión muy clara entre el esfuerzo cognitivo y la descarga cognitiva.
La descarga cognitiva ocurre cuando le cedemos todo el proceso a la máquina: el razonamiento, la elaboración y el resultado final.
El esfuerzo cognitivo ocurre cuando primero intentamos comprender, cuando nos enfrentamos a las dificultades, cuando nos equivocamos y construimos preguntas propias.
Los estudios que están apareciendo muestran algo interesante: cuando la inteligencia artificial se utiliza después de ese esfuerzo inicial, puede ampliar nuestras capacidades cognitivas. Pero cuando se usa desde el comienzo para reemplazar todo el proceso, aparece un empobrecimiento de esas capacidades.
La atención funciona de una manera similar. La atención, la imaginación y el pensamiento son habilidades que se entrenan. Si dejan de ejercitarse, terminan deteriorándose.
¿Qué papel debería asumir entonces la universidad?
Creo que las universidades tendrán que replantear muchas cosas.
Durante años hemos puesto el énfasis en el producto final: el ensayo, el informe, la tarea entregada. Hemos convertido esos artefactos en una especie de fetiche.
Pero la pregunta importante es otra: ¿qué procesos de pensamiento queremos ejercitar?
Probablemente habrá aprendizajes básicos que puedan apoyarse ampliamente en inteligencia artificial. Sin embargo, la discusión académica entre seres humanos, el debate, la argumentación y la construcción colectiva de conocimiento van a adquirir un valor cada vez mayor.
Hoy se habla constantemente de pensamiento crítico. ¿Qué entiende usted por ese concepto?
Creo que es una expresión de la que se ha abusado mucho.
Desde la filosofía, el pensamiento crítico consiste en preguntarse por las condiciones de posibilidad de algo. No se trata simplemente de atacar una posición o de sospechar de todo.
La crítica consiste en preguntarse qué hace posible una ley, una institución, una creencia, una emoción o una forma de conocimiento.
También implica preguntarse por uno mismo: de dónde vienen nuestras convicciones, nuestras emociones y nuestras certezas.
La crítica no es una actitud de rebeldía permanente. La crítica es, sobre todo, mantener viva la curiosidad y la capacidad de hacerse preguntas.
¿La inteligencia artificial está profundizando la polarización política?
Sin duda.
Y lo preocupante es que esto comenzó antes de la aparición de las inteligencias artificiales generativas.
El caso de Cambridge Analytica mostró con mucha claridad cómo ciertas tecnologías podían utilizarse para influir en procesos electorales mediante la manipulación emocional y la segmentación extrema de audiencias.
Lo que vemos hoy es una versión mucho más sofisticada de esos mismos fenómenos.
Las personas terminan encerradas en burbujas informativas donde solamente encuentran contenidos que refuerzan sus propias creencias. Eso dificulta enormemente la conversación democrática.
Además, estas dinámicas no apelan principalmente a la razón. Apelan a las emociones. Y cuando alguien está movilizado emocionalmente, los argumentos racionales suelen tener muy poca capacidad de persuasión.
¿La tecnología está empobreciendo nuestra manera de comunicarnos?
Tengo sentimientos encontrados frente a esa pregunta.
Por un lado, creo que sería un error romantizar formas anteriores del lenguaje. Los lenguajes cambian permanentemente. Lo hacen los lenguajes verbales, visuales y audiovisuales.
El problema no es el cambio.
Lo que me preocupa es la reducción.
Cuando una posición política termina convertida en un eslogan, unos colores o una consigna extremadamente simplificada, desaparecen enormes porciones de la realidad.
La cuestión no es que los lenguajes evolucionen. La cuestión es si siguen permitiéndonos percibir y expresar la complejidad del mundo.
Después de escribir este libro, ¿cómo entiende la idea de progreso?
Con mucha cautela.
No creo que podamos negar los beneficios que han traído la ciencia y la tecnología. Basta pensar en el aumento de la esperanza de vida o en mejoras concretas en las condiciones de vida de millones de personas.
Pero tampoco podemos aceptar sin más las promesas de progreso universal.
La historia muestra que cada avance tecnológico trae consigo nuevos riesgos. La cuestión es que el progreso nunca ocurre de manera uniforme. Lo que representa un avance en un ámbito puede significar un retroceso en otro.
Por eso desconfío de las narrativas que presentan la tecnología como una solución automática para todos los problemas humanos.
Para cerrar, ¿cómo podemos conservar nuestra agencia frente a estas tecnologías?
Creo que hay algo fundamental: no debemos delegar los propósitos finales.
Podemos delegar tareas, procesos y procedimientos. Podemos utilizar estas herramientas para ampliar nuestras capacidades. Pero los horizontes de sentido, los proyectos colectivos y las decisiones sobre el futuro deben seguir siendo construidos por seres humanos.
Y ojalá colectivamente.
Por eso insisto en algo que aparece varias veces en el libro: debemos mantener la tensión entre humanos. La incomodidad, la dificultad y el esfuerzo que implica convivir con otros son necesarios para construir lo que llamo comunes culturales.
Si queremos conservar nuestra agencia, tenemos que recuperar el valor de lo colectivo.
Estoy convencido de que la resistencia más importante pasa por volver a valorar la construcción conjunta de sentido, porque los propósitos de una sociedad no pueden ser definidos por una máquina.
