viernes, 9 de junio de 2023

El autoengaño del GPT

Vi una entrevista a un escritor hace unos días, que decía, -como la gran cosa-, que estaba totalmente atrapado por el ChatGPT. Que este programa de inteligencia artificial se había convertido en su mejor interlocutor académico, y que pasaba horas filosofando con la aplicación, porque veía que era el más inteligente de los pensadores. ¡Ya no quería hablar con sus colegas! No le interesaba la gente...

¡Claro! Su GPT estaba siendo alimentado con sus propias ideas... y en consecuencia, el señor estaba feliz, porque nadie lo contradecía ni lo rebatía, sino que en cambio, apoyaba decididamente sus mismas tesis. 

Es como Narciso: el escritor se mira en el espejo y se admira de lo inteligente que es, pensando que la confirmación del GPT es real. 


Hasta que el programa, manejado por sus creadores, empiece a orientarlo en algún otro sentido, sin que se de cuenta siquiera, por la confianza que habrá depositado en la App. Dice un blog:

El Chat GPT es capaz de producir textos que simulan la redacción humana. Para llevar a cabo esta tarea, la herramienta emplea un sistema autorregresivo de aprendizaje profundo, utilizando algoritmos que fueron entrenados previamente. Así, Chat GPT es capaz de responder lo que sea que se le pregunte, manteniendo conversaciones de manera fluida, de la misma manera que lo haría un humano. En este punto es importante mencionar que al igual que otros modelos, la herramienta desarrollada por la empresa californiana OpenAI, mejora su funcionamiento conforme se le hacen preguntas y se le añade información; es decir, mientras más lo usas, mejor trabaja.
 

Y no se diga lo que podrá suceder con los adolescentes y los niños, ¡Que habrán nacido con programas como Chat GPT en su cuna!

Increíblemente, !Qué suerte tener la edad que tenemos! Porque podemos ver claro lo que otras generaciones ni siquiera sospecharán.