Claude, Claudia y Yo II: Tay y el problema del alineamiento

Bruno André Herrera Criollo, estudiante de Ingeniería de la Información de la Universidad del Pacífico. 

El 23 de marzo de 2016, Microsoft puso en línea a Tay, un chatbot conversacional entrenado para asumir la personalidad y las jergas de una adolescente y aprender en cada interacción con usuarios del entonces Twitter. Al inicio cautivados por su irreverente carisma, el mundo fue testigo de cómo, apenas en cuestión de horas, el diálogo que había iniciado en una nota optimista y distendida acabó deteriorándose en una verborrea machista y apologeta del genocidio. Así, la vida de Tay se apagó (o más bien, fue apagada) en menos de un día. Una década después, su caída es un relato sobre los límites que desarrolladores y sociedad pueden y deben inscribir en los sistemas de inteligencia artificial (IA) antes de exponerlos al mundo.

En principio, Tay no era una IA en el sentido en que hoy entendemos a los Modelos Extensos de Lenguaje (LLM), sino lo que algunos autores denominan learning software o un sistema que modifica su propio comportamiento en función de las interacciones que sostiene [1]. Su arquitectura combinaba procesamiento de lenguaje natural con un algoritmo de aprendizaje adaptativo que operaba en tiempo real, incorporando los patrones conversacionales de sus interlocutores sin necesidad de reentrenamiento completo [2]. En otras palabras, Tay tenía un repertorio flexible de respuestas que se ampliaba con las que construía a partir de lo que los usuarios le “enseñaban”. Lo que en teoría se aproximaba a una promesa de naturalidad conversacional resultó ser su condena. Al salir al público, el sistema carecía de filtros capaces de distinguir entre inputs inofensivos y tóxicos, de mecanismos de contingencia ante ataques sincronizados y de límites supervisados dentro de su función de refuerzo [2]. Cuando un grupo de saboteadores comenzó a alimentarla con el contenido más reaccionario, Tay lo procesó como cualquier otra interacción. La ausencia de fronteras técnicas en forma de restricciones éticas mínimas programadas directamente en la arquitectura del modelo hizo que su discurso se degradara con una velocidad que Microsoft no supo prever ni contener [2].

En contraste, un LLM como Claude o ChatGPT opera sobre una lógica fundamentalmente diferente. Su entrenamiento no ocurre en tiempo real ni depende de lo que cada usuario le diga, pues los parámetros que determinan su comportamiento se fijan antes de cualquier conversación y, una vez concluido ese proceso, permanecen estables (hasta la próxima versión, claro está). Esa arquitectura resuelve, aparentemente, vulnerabilidades elementales como las de Tay. No obstante, si el núcleo del aprendizaje del modelo no se basa en sus interacciones con los usuarios, ¿de quién entonces aprendió los criterios con los que se regula?

Alinear un LLM significa orientar su comportamiento hacia determinados valores o estándares que van más allá de la precisión predictiva. Un modelo de IA generativa puro podría, en principio, reproducir con igual fidelidad una receta de cocina y un manual de fabricación de bombas. Ante ese problema, el alineamiento se propone como la intervención que introduce una preferencia normativa en el proceso. La técnica más extendida es el Reinforcement Learning from Human Feedback (RLHF), en el que evaluadores humanos califican distintas respuestas del modelo y su juicio se convierte en señal para el entrenamiento, incentivando ciertos comportamientos y penalizando otros [3]. A diferencia del aprendizaje en tiempo real de Tay, donde cualquier usuario podía convertirse en entrenador accidental o premeditadamente, el RLHF concentra la capacidad de moldear al modelo en un grupo deliberadamente seleccionado de personas cuyas preferencias, inevitablemente, son también personales.