Incluso antes de que ChatGPT se convirtiera en algo importante, un cliente de muchos años me reemplazó por una IA generadora de texto con la que había estado trabajando. No pagaban muy bien, pero ofrecían trabajo constante.

Me dijo: “Espero que esto no te ofenda, pero estamos cambiando a un escritor de IA“. y querían que editara (con una gran reducción del pago) el contenido generado por la IA. Pasando de una redactora a un simple papel de “control de calidad”. Todo lo que tenía que hacer era asegurarme de que la IA produjera cosas útiles.

Por un tiempo pensé que esto sería el fin de los ingresos freelance por redacción, me di cuenta de que los únicos trabajos que me reemplazaron eran los trabajos de escritura rutinaria, excepto por algunos trabajos mal remunerados, los trabajos de marketing basados en escritura creativa permanecieron.

Y aunque surjan tecnologías más nuevas e impresionantes como ChatGPT, la idea subyacente sigue siendo la misma. Estos grandes modelos de lenguaje se entrenan en enormes conjuntos de datos de lenguaje humano. Y debido a que estos conjuntos de datos deben contener palabras existentes, los modelos son inherentemente normativos.

Como resultado, todo lo que pueden hacer (por muy innovador que parezca) es imitar lo que ya existe en su conjunto de datos. La creatividad e ingenio requeridos para las tareas de escritura creativa no pueden ser reemplazados.

Trabajan con patrones estadísticos

En lugar de comprender verdaderamente las entradas de texto, estos grandes modelos de lenguaje funcionan detectando patrones de lenguaje y asignando probabilidades a las palabras que “estudian”.

Incluso para los modelos de transformadores (los utilizados en ChatGPT, donde GPT es un acrónimo de Transformador Generativo Preentrenado) que pretenden comprender el contexto al observar la ubicación de una palabra en una oración (por ejemplo, un modelo de transformador analizará la oración “es un mono” y asociará ‘mono’ con ‘es’, lo que permite que el modelo aprenda que ‘es’ es un pronombre utilizado para ‘mono’), los modelos no comprenden verdaderamente.

“Imagina a un hablante nativo de inglés que no sabe nada de chino encerrado en una habitación llena de cajas con símbolos chinos (una base de datos) junto con un libro de instrucciones para manipular los símbolos (el programa). Imagina que las personas fuera de la habitación envían otros símbolos chinos que, desconocidos para la persona en la habitación, son preguntas en chino (la entrada). Y imagina que siguiendo las instrucciones del programa, el hombre en la habitación puede sacar símbolos chinos que son respuestas correctas a las preguntas (la salida). El programa permite a la persona en la habitación pasar la Prueba de Turing para entender el chino, pero no entiende ni una palabra de chino”. (Searle 1999)

Así como John Searle argumenta en su Argumento de la Habitación China, no importa cuán completo sea la red neuronal creada para el gran modelo de lenguaje, el modelo no comprende en realidad.

En cambio, sigue una serie de instrucciones preprogramadas y reacciona sin un sentido de intencionalidad. El modelo predice las palabras y frases más probables basándose en los patrones que ha aprendido sin comprender el significado, las ideas o las conexiones conceptuales entre las palabras.

No poseen las posibilidades ilimitadas de la creatividad humana

Además del hecho de que los modelos están diseñados para generar texto gramaticalmente correcto que responda a una pregunta (y no la generación abierta de nuevas ideas), el potencial creativo del modelo se ve limitado.

Las combinaciones de palabras que se usan raramente no serán algo que estas IA presenten.

Por ejemplo, frases como ‘llamas mentoladas’, ‘negro brillante’ y ‘música de rock más silenciosa’ son innovadoras y probablemente no sean algo que se espere de un modelo de IA (bueno, sé que estas frases también son bastante carentes de significado, pero los oxímorones innovadores y la combinación de ideas incompatibles no son normales y no serán generados por los modelos de palabras normativas).

En la curva de campana, los diseñadores de IA optimizarán el modelo para producir resultados que se encuentren en la mediana (la flecha negra). Después de todo, quieren reducir el riesgo de generar tonterías (las flechas rojas).

Sin embargo, esto significa que el modelo también es mucho menos probable que genere un lenguaje innovador que emule la creatividad humana (las flechas verdes). Aquí es donde se crean los eslóganes de marketing y las frases creativas.

Además, a diferencia de los escritores humanos, la IA no ha vivido una vida humana y no tiene idea de cómo funciona el mundo. Estos modelos no tienen elementos como anécdotas personales y conexiones peculiares entre ideas que puedan utilizar para dar sabor a su escritura.

Todo lo que pueden hacer es repetir contenido que ya se ha publicado innumerables veces en Internet.

Palabras Finales

Por supuesto, me preocupa la velocidad a la que avanza la tecnología.

Al igual que todos los escritores, temo ser reemplazado por una IA algún día. Me preocupa que todo lo que lea sea generado por una IA sin alma que solo requiere unos minutos para escribir una novela.

Pero la realidad es que, sin importar qué tan brillante se vuelva la IA, un escritor normativo nunca te superará a ti, el escritor creativo.