El poder de la retórica y la
inteligencia artificial
Günther Anders analizó con detalle la relación binaria
humano-máquina y presagió un futuro que parece
materializarse de forma gradual e irreversible.
Haga clic aquí para ver la traducción al alemán,
facilitada por Ramon Sensano Bayerri
La retórica es una preciada competencia estrechamente vinculada al ser humano, pero esta situación podría evolucionar. En el presente artículo se hace una descripción técnica de cómo la inteligencia artificial está desarrollando una singular alternativa retórica y se analizan las principales diferencias frente a un proceso de construcción de retórica tradicional. No obstante, antes de profundizar en la cuestión, conviene tener en cuenta la advertencia de Gerhard Oberschlick [1], en cuanto al uso y efectos de las metáforas, cuando se trasladan desde la esfera humana al ámbito tecnológico, pudiendo inducir distorsiones en el significado de las expresiones.
Günther Anders fue un filósofo adelantado a su tiempo, como se desprende de muchas de sus reflexiones. En su obra Die Antiquiertheit des Menschen (1956), profundizaba en el concepto de vergüenza prometeica [2] para describir la humillación que experimenta el ser humano al verse superado por sus propias creaciones técnicas. Anders se basaba en la idea de que, frente a la perfección, durabilidad y precisión de los artefactos que ha producido, el hombre se siente defectuoso, limitado por su origen biológico y su imperfecta naturaleza. Esta vergüenza, señalaba Anders, no es una emoción visible, como podría serlo la vergüenza en las relaciones humanas; más bien, es una sensación sutil y constante que emerge de la comparación intrapersonal entre el ser humano y la máquina.
En esta relación, el “homo faber” pierde el control sobre sus propias creaciones y, paradójicamente, comienza a otorgarles una dignidad superior a la suya propia. Se avergüenza de haber “nacido” en lugar de haber sido “fabricado”, percibiendo su propio cuerpo y mente como obsoletos frente a la perfección seriada de los productos que ha construido. En este proceso, el ser humano abdica de su condición única de ser racional para equipararse con los objetos que produce, aspirando a una perfección maquinal que, por definición, nunca podrá alcanzar.
Para Anders, este proceso refleja el vacío ontológico en la relación del ser humano con su tecnología: cuanto más avanzadas y autónomas se vuelven las máquinas, más se intensifica el sentimiento de inferioridad del hombre frente a ellas. Casualmente, también en 1956, el ingeniero John McCarthy introdujo el término Inteligencia Artificial (IA) en un congreso celebrado en Dartmouth (New Hampshire, USA), impulsando una era en que las máquinas comenzarían a emular habilidades humanas complejas [3].
La retórica es una de las habilidades más preciadas por el ser humano y ahora también parece que las máquinas son capaces de desplegarla con un nivel razonable. El propósito de la retórica ha sido persuadir o enriquecer un discurso, con especial interés en el ámbito oral o escrito, aunque también puede ampliarse a imágenes y video. El poder de una buena retórica es clave para varias disciplinas, ya sea a nivel judicial, político, publicitaria o académica, por citar algunas. La retórica ha desempeñado un papel crucial en la historia permitiendo, por ejemplo, llegar a acuerdos sustanciales para evitar guerras o inducirlas. Si Anders estaba en lo cierto, esa dosis de vergüenza prometeica tenderá a incrementarse.
La retórica cobró gran notoriedad en la antigua civilización grecorromana. Aunque no estaba limitada a los filósofos, sofistas de la talla de Protágoras [4] y Gorgias fueron algunos de los que contribuyeron a popularizarla. Posteriormente, otros filósofos la desarrollaron y la utilizaron de forma magistral, como Aristóteles [5] o Platón [6], entre otros.
Para conseguir una retórica efectiva se crearon herramientas y técnicas relativamente sofisticadas. En esencia, la elaboración de un discurso se configuraba a partir de tres elementos: inventio, dispositio y elocutio.
Inventio se refiere a la búsqueda y generación de ideas para el discurso. Dispositio tiene que ver con la organización de su estructura y, por último, elocutio se refiere a la elección de las palabras y el estilo.
Aristóteles buscaba la excelencia retórica como medio para poder expresarse de la mejor manera posible, además de conseguir deleitar, persuadir y conmover a su audiencia. Hacía hincapié en tres pilares básicos: la actitud del orador para inspirar la confianza en el auditorio (ethos), poder evocar emociones en el receptor del discurso (pathos) y, por último, la lógica y razón propia del discurso (logos).
También se prestaba especial atención a las denominadas figuras retóricas para conseguir embellecer, ilustrar o enriquecer estilísticamente el discurso. Algunas de ellas son: la metáfora, la hipérbole (exageración), la elipsis (omisión de un término) la metonimia (sustitución de términos o conceptos, por otros relacionados) y la personificación, entre otras.
Los erotemas también eran muy utilizados: consistían en formular preguntas abiertas con la expectativa de recibir una respuesta predeterminada. Además, para conseguir una oratoria efectiva, era importante poder memorizar de forma eficiente lo reflexionado.
Posteriormente, durante la Edad Media, la retórica fue una disciplina central del Trívium, junto con la gramática y la dialéctica (o lógica). Aunque la retórica medieval bebió de las fuentes clásicas grecolatinas, se adaptó a las necesidades intelectuales y religiosas de la época. Las obras más importantes de este periodo incluyen tratados y manuales que influyeron en la educación, el pensamiento filosófico y la oratoria, especialmente dentro del contexto eclesiástico. Las obras sobre retórica en la Edad Media fueron tanto adaptaciones de textos clásicos como nuevas creaciones que respondían a las necesidades del contexto religioso y político del momento. Obras clásicas de autores célebres como Cicerón, Quintiliano y Boecio fueron reinterpretadas, y del mismo modo, autores medievales como Godofredo de Vinsauf y san Agustín adaptaron la retórica a las necesidades cristianas y literarias de su época.
Aunque la retórica ha ido evolucionando a lo largo de los siglos, los humanos la siguen construyendo de manera parecida a sus inicios, con procesos que se aplican secuencialmente. Por contra, la IA genera su respuesta retórica con inmediatez, activando múltiples tareas a la vez; el orden de las etapas de construcción del discurso ha dejado de importar. Las GPU que ejecutan los algoritmos de la IA están diseñadas para procesar con un alto grado de paralelismo. Es como si la inteligencia artificial pudiera meter el pan en el horno y luego amasarlo.
El ChatGPT de la compañía OpenAI es el que ha conseguido llevar la IA al gran público, en forma de bot. Fue la aplicación con más descargas en la historia durante los primeros cinco días de su existencia (más de un millón de usuarios).
Su gran éxito estriba en generar textos relativamente persuasivos y coherentes, de forma que al usuario le parece estar interaccionando con una persona y no con una máquina. Incluso es capaz de explicar conceptos complejos con un lenguaje asequible. En ocasiones, el ethos y el pathos parecen cobrar vida propia, guardando las distancias.
Obviamente, es su respuesta con aparente capacidad retórica uno de los factores que más fascina al interlocutor, ya que logra transmitir su mensaje de forma creíble e infundir confianza. Por supuesto, esta persuasión puede suponer un riesgo si la respuesta es errónea, siendo aconsejable una dosis de escepticismo, evaluando la calidad o falsedad de sus respuestas.
Independientemente de cómo la máquina genera su retórica, lo importante es que la IA puede proporcionar una “funcionalidad” similar a la retórica tradicional. En muchos casos, el resultado que se obtiene parece razonable, aunque no se puede generalizar. Obviamente, hay aspectos en que el ser humano le lleva ventaja a la máquina.
Los modelos de IA están basados en redes neuronales interconectadas que imitan en cierta medida a las biológicas: No se programan con reglas explícitas, sino que aprenden mediante millones de ejemplos. Durante su aprendizaje, la intensidad o peso de cada una de las múltiples conexiones interneuronales se ajusta repetidamente hasta obtener una calibración satisfactoria en la generación de respuestas. Esta fase de aprendizaje es clave para, posteriormente, poder desplegar su funcionalidad con éxito.
Gracias a que se implementan muchas capas de neuronas es posible aumentar su número hasta alcanzar millones. Estas múltiples capas hacen posible intensificar el denominado aprendizaje profundo o DL (Deep Learning). Esto supone tener que ajustar millones de parámetros.
Al inicio, para entrenar a los modelos de IA, se recurría a bases de datos con textos o imágenes etiquetados por humanos. Ahora, los modelos basados en los denominados transformers refuerzan la “atención” de la máquina en ciertas fases del proceso, proporcionando más contexto a los algoritmos y posibilitando que los datos no requieran intervención humana. Esto da gran escalabilidad y permite entrenar a los modelos con millones de palabras y textos existentes, extraídos directamente desde grandes bases de datos, como por ejemplo Wikipedia o Common Crawl, entre otras.
Con la utilización de modelos de lenguaje de gran tamaño o LLM (Large Language Model), la IA también es capaz de generar (además de reconocer). Los LLM son utilizados en la aplicación de ChatGPT y pueden ofrecer ensayos, diagnósticos o programas informáticos, por ejemplo.
Básicamente, un LLM calcula las probabilidades de que cierta palabra siga a la cadena de palabras que le preceden. Así se generan frases y párrafos. Cuantos más datos se utilizan en el entrenamiento, mejor son las respuestas.
Para mejorar respuestas en determinados ámbitos se puede introducir una capa extra denominada refuerzo del aprendizaje con comentario humano o RLHF (Reinforcement Learning from Human Feedback), que contempla la intervención humana en ciertas acciones del aprendizaje.
Independientemente de cómo la IA genere su retórica, es importante que logra una funcionalidad parecida a la del individuo, con un flujo acelerado.
En cualquier caso, la IA se beneficia de disponer de una base ingente de datos privilegiada y poder capitalizar ese conocimiento en sus respuestas. En síntesis, accede a buena parte de todo conocimiento acumulado en la historia de la humanidad. La magia del proceso está en que muchos de esos textos ya tienen su retórica implícita al haber sido generados por humanos. La IA importa parte de su retórica de forma indirecta, a través de ingentes cantidades de patrones existentes. No tiene limitaciones de memoria comparada con los humanos.
Además, si nos referimos a la retórica aplicada a un campo o dominio especifico, en que se requeriría la figura de un experto, la IA tiene la ventaja de ser un actor multidominio con capacidad retórica, algo así como un multi-ethos en términos aristotélicos. Para mejorar este aspecto, ya existen modelos de IA que se centran en campos de conocimiento específicos.
Gracias a ese entrenamiento previo, la IA produce respuestas estadísticas, aunque sin comprender los conceptos, intenciones o implicaciones del mensaje que genera. En consonancia con los humanos que generaron esos textos, la IA también puede ofrecer respuestas con sesgos pronunciados, que pueden ocasionar conflictos si no son corregidos.
Una limitación al progreso de la IA es el denominado muro de datos (Data Wall). Según la consultora Epoch AI, el gran aumento en la velocidad y proceso de las GPUs propiciará que en el año 2028 se hayan utilizado la mayoría de los recursos disponibles en internet. El reto será conseguir nuevas fuentes para continuar con el aprendizaje de la IA. La respuesta podría venir con nuevos datos sintéticos que crearía la propia IA (con los riesgos obvios) o bien en poder aumentar la calidad frente a la cantidad, pasando por mejorar distintos aspectos técnicos y la propia tecnología, entre otras posibilidades.
Otra limitación son los derechos para acceder a los datos con propiedad intelectual, aunque esto podría aliviarse a través de licencias o pagos por uso a sus propietarios, algo que actualmente ya se está produciendo.
La IA es muy poco eficiente en energía si se compara con el cerebro humano. Se estima que un centro de datos para procesar ChatGPT-4 puede consumir el 21% de la energía de la ciudad de Viena. En esta línea, Noam Chomsky afirma que la mente humana no es como ChatGPT, una máquina estadística que devora cientos de terabytes de datos para obtener la respuesta más plausible a una pregunta. Por contra, la mente humana es un sistema sorprendentemente, eficiente y elegante, que trabaja con una cantidad limitada de información. No trata de sacar correlaciones de los datos, sino de crear explicaciones [7].
Hay múltiples propuestas para la mejora de la IA generativa como, por ejemplo, utilizar modelos híbridos, basados en LLM u otras opciones, así como incorporar capas extra que aporten ciertas ventajas, como los denominados “modelos de razonamiento”. En este caso, el sistema es más lento a cambio de obtener más precisión en su respuesta, como ocurre con el modelo O3 de OpenAI o el Gemini 2.0 Flash Thinking. El contrapunto es que consumen aún más energía, especialmente en la fase de inferencia del proceso. Otras posibilidades pasan por utilizar menos capacidad de proceso y energía para conseguir resultados suficientemente válidos. Esto cobra especial sentido para modelos menos generalistas, más especializados en un tema determinado.
Una posibilidad interesante sería acceder con la IA a lo que podríamos denominar “retórica inversa”, es decir, poder deconstruir los pasos que la máquina utilizó para componer un texto específico. Esta es una opción que por el momento no es posible, pero que sería interesante, ya que proporcionaría un potencial de mejora, tanto para la máquina como para los descendientes de los sofistas.
Otra posibilidad atractiva es que en un futuro pudiera hablarse de una especie de servicio de retórica a la carta o RaaS (Rhetoric as a Service) para el individuo, con una integración mejor de la capacidad de la máquina y el humano. Actualmente, ya puede realizarse una consulta para que la máquina responda como Aristóteles o Kant, por ejemplo, pero se trataría de poder hacerlo de una forma más eficiente y precisa. Desde otra perspectiva, sería como activar un determinado sesgo ponderado en la respuesta.
La inteligencia artificial incluso podría reconocer aspectos en común entre los actores y facilitar acuerdos mediante argumentos bien estructurados y empáticos, intentando reforzar de manera deliberada el ethos y el pathos. En cualquier caso, la capacidad de asignar a una respuesta la proporción óptima de ethos, pathos y logos supondría alcanzar el estado del arte en este ámbito.
La IA puede sustituir al individuo en determinadas tareas específicas. Un ejemplo es el reconocimiento facial o la verificación de si una botella se ha etiquetado correctamente, tareas en que la IA ya ha superado al ser humano.
No obstante, la evidencia apunta a que queda lejos de poder sustituirlo en multitud de actividades, aunque si de complementarlo en varias de ellas.
Desde otra perspectiva, Gerhard Oberschlick apunta directamente hacia un problema que subyace en la descripción del funcionamiento de la IA: las metáforas. Reflexiona sobre las capacidades de la IA y la
reiterada insistencia en utilizar términos tales como “aprender” o “reconocer”, entre otros. Según Oberschlick, se trata de expresiones metafóricas que corren el riesgo de ser interpretadas de forma literal y, por tanto, de malinterpretarse. La utilización de vocabulario conectado a la experiencia humana, para describir procesos puramente algorítmicos, nos puede conducir hacia un reduccionismo antropomórfico. Quizá tendría que manifestarse explícitamente que estas expresiones no son literales, sino metafóricas, con tal de evitar distorsiones sensibles que atenten a su significado (incluso puede asumirse que se trata de identidades similares a la humana).
Parece que Anders también subscribiría este argumento, cuando recuerda la facilidad con que la sociedad puede verse alienada de su propia esencia, especialmente si confunde las capacidades de las maquinas con las de los humanos [8].
Oberschlick opina que la IA no es una inteligencia artificial, propiamente dicha, sino un dispositivo informático. Chomsky llega incluso a afirmar que dejemos de llamarla inteligencia artificial; propone denominarla Software de Plagio. Afirma que la IA no crea nada, sino que copia obras existentes de múltiples autores, pudiendo alterarlas e incluso escaparse de leyes de derechos de autor [9].
De cualquier forma, aun teniendo presentes estas críticas y advertencias, la máquina continúa avanzando a medida que conquista nuevas “funcionalidades” humanas. Ahora, con la retórica, añade una nueva y atractiva funcionalidad ligada a una habilidad íntimamente asociada al individuo.
Günther Anders también se refirió al “desnivel prometeico”, [10] como una profunda asincronía entre el hombre y sus productos tecnológicos, que genera un desfase entre las capacidades humanas y las de sus creaciones. Este desnivel se manifiesta en la separación entre el actuar y el sentir, entre el hacer y el representar, o entre el conocimiento y la conciencia. Anders sostenía que, mientras el ser humano ha alcanzado niveles sin precedentes en la producción técnica, su capacidad emocional y moral queda rezagada. Este desfase empuja al individuo a una auto-cosificación, trastocando su identidad y sometiéndolo a la supremacía de las máquinas que él mismo ha creado. Así, lo que era un objeto de culto enaltecedor exclusivo de lo humano se convierte en una exaltación de lo técnico; la retórica puede ser una funcionalidad que ayude a culminar esta singular situación.
No obstante, planea la paradoja de las metáforas propuesta por Oberschlick, en cuanto a que la propia retórica descriptiva utilizada para el funcionamiento de la IA podría llegar a generar distorsiones interpretativas.
[1] Gerhard Oberschlick es un publicista austriaco. De 1985 a 1995 fue editor y propietario de la revista política y cultural FORVM. Hoy se desempeña como albacea literario de Günther Anders.
[2] Sobre el concepto de “vergüenza prometeica”, véase Günther Anders, “Über prometheische Scham”, en Die Antiquiertheit des Menschen: Über die Seele im Zeitalter der zweiten industriellen Revolution, 4. ed., vol. 1, C.H. Beck, 2018, pp. 35-114. Para la traducción al español, véase Günther Anders, “Sobre la vergüenza prometeica”, en La obsolescencia del hombre: Sobre el alma en la época de la segunda revolución industrial, traducido por Josep Monter Pérez, vol. 1, Pre-Textos, 2011, pp. 35-104.
Aunque el concepto de “vergüenza prometeica” se desarrolla formalmente en La obsolescencia del hombre (1956), sus primeras menciones pueden rastrearse hasta una entrada en los diarios de Günther Anders, escritos durante su estancia en California en 1942. Ya el 11 de marzo de ese año, Anders utiliza por primera vez este término, que él mismo denomina prometheische Scham. En dicha nota, describe cómo la alta calidad de los objetos fabricados por el ser humano le provoca una sensación de vergüenza, ya que dichas creaciones parecen superar en perfección técnica a su propio creador. Esta reflexión temprana revela que la preocupación de Anders por la desproporción entre el ser humano y sus productos tecnológicos ya formaba parte de su pensamiento más de una década antes de que lo sistematizara en su obra filosófica. Anders, Günther. Aufzeichnungen 1941–1979. Selección y posfacio de Volker Hage, Suhrkamp Verlag, 2006, pp. 22–24. Tagebucheintrag: Kalifornien, 11. März 1942. Bibliothek Suhrkamp.
[3] McCarthy, J., Minsky, M. L., Rochester, N., & Shannon, C. E. (1955). A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. Disponible en: http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html.
[4] Platon, Protagoras. Übersetzt und herausgegeben von Otto Apelt, Felix Meiner Verlag, 1922. Para la edición española, véase Platón, Protágoras, traducción de Carlos García Gual, Alianza Editorial, 2005. Protágoras, uno de los sofistas más destacados de la antigua Grecia, no dejó obras que hayan llegado hasta nosotros. La mayor parte de lo que sabemos de él proviene de los escritos de Platón, Aristóteles, Diógenes Laercio y Sexto Empírico.
[5] Sobre la retórica, véase Aristoteles, Rhetorik, Übersetzt und herausgegeben von Franz Sieveke, Felix Meiner Verlag, 2002. Para la versión en español, consúltese Aristóteles, Retórica, traducido por Valentín García Yebra, Gredos, 1982.
[6] Sobre el Gorgias, véase Platon, Gorgias. Übersetzt und herausgegeben von Otto Apelt, Felix Meiner Verlag, 1922. Para la versión en español, consúltese Platón, Gorgias. Traducido por José Manuel Pabón, Alianza Editorial, 2002.
[7] Chomsky, Noam. “The False Promise of ChatGPT”. The New York Times, 8 Mar. 2023, [https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html].
[8] Anders, Günther. “Sprache und Endzeit (I).” FORVM, no. 423–424, Mar. 1989, pp. 4–5; —. “Sprache und Endzeit (II).” FORVM, no. 426–427, June–July 1989, pp. 28–30; —. “Sprache und Endzeit (III).” FORVM, no. 428–429, Aug.–Sept. 1989, pp. 50–55; —. “Sprache und Endzeit (IV).” FORVM, no. 430–431, Oct.–Nov. 1989, pp. 40–46; —. “Sprache und Endzeit (V).” FORVM, no. 432, Dec. 1989, pp. 62–67; —. “Sprache und Endzeit (VI).” FORVM, no. 433–435, Mar. 1990, pp. 17–21; – [Incluidos como partes VII y VIII:] “Culebra ciega y Parsifal. Naturaleza y cultura en mi infancia”, FORVM, n.º 444, diciembre de 1990, pp. 23–33; — Segunda parte con el mismo título en: FORVM 445–447, marzo de 1991, pp. 46–51. En estos artículos, Anders examina la relación entre lenguaje, tecnología y experiencia histórica, poniendo de relieve la manipulación ideológica que puede ejercerse a través de la propia estructura del lenguaje.
[9] Chomsky, “The False Promise of ChatGPT.”
[10] Sobre el concepto de desnivel prometeico (“das prometheische Gefälle”), véase Günther Anders, ’Einleitung’, en Die Antiquiertheit des Menschen: Über die Seele im Zeitalter der zweiten industriellen Revolution, 4. ed., vol. 1, C.H. Beck, 2018, pp. 13-34. Para la versión en español, consúltese Günther Anders, ’Introducción’, en La obsolescencia del hombre: Sobre el alma en la época de la segunda revolución industrial, traducido por Josep Monter Pérez, vol. 1, Pre-Textos, 2011, pp. 17-35.