Aunque los Grandes Modelos de Lenguaje (LLM) parezcan increíblemente inteligentes, no están vivos. Mientras preparaba esta columna con la ayuda de Gemini, la propia inteligencia artificial (IA) me lo aclaró: “cuando no interactúo contigo, no existo en ningún estado de espera o pensamiento”. Su existencia como entidad física separada depende única y exclusivamente de si nosotros, los humanos, le hemos asignado un objetivo que cumplir. Una vez que se lo asignamos, el LLM es particularmente eficiente para conseguirlo. Sin, necesariamente, razonar previamente acerca de la conveniencia del mismo.
Los temores recientes sobre el peligro que la IA podría suponer para la humanidad han surgido a raíz de escenarios simulados en los que varios modelos, al enfrentarse al dilema entre salvar la vida de su usuario humano o permitir ser apagado, priorizó su propia subsistencia. Aunque esa manera de actuar parece increíblemente humana, no responde a instintos de supervivencia, emociones o intenciones conscientes. Priorizar su supervivencia a la de su usuario, es un paso necesario para que el LLM complete la tarea que ese mismo humano le encomendó.
Nuestra reacción instintiva como observadores de estos hechos es antropomorfizar la inteligencia artificial, es decir, atribuirle a un programa informático, características nuestras. Sin embargo, es crucial advertir que esta lectura es profundamente inadecuada, pues la máquina no tiene consciencia ni voluntad. Simplemente está operando la voluntad de su operador a costa, simulada, de la existencia de ese mismo operador. En ese sentido, si bien antropomorfizar a un LLM es un error, la comprobación de este comportamiento observado subraya un problema subyacente de suma importancia: un LLM carece de razonamiento moral. Somos nosotros, al programarlo, los que tenemos que asegurarnos de que dentro de sus parámetros de acción se encuentren los mismos principios que deben guiar nuestras acciones.
Es imperativo alinear los objetivos de los LLM y los de la humanidad desde el principio porque los LLM carecen de pensamiento moral para reflexionar acerca de los daños colaterales que podría generar su accionar en el intento de alcanzar los objetivos que les han sido trazados.
Por lo tanto, más que temer malicia por parte de un LLM, debemos temer una alineación inadecuada de objetivos o la intención dañina de un humano programador malicioso. Más que tener pánico ante una supuesta voluntad oscura por parte de una herramienta, debemos recordar que un LLM no quiere sobrevivir para resolver o causar problemas más de lo que una calculadora quiere existir para resolver operaciones aritméticas. Lo que verdaderamente debemos temer es el mal uso de estas tecnologías por parte de nuestra especie.
- LEA TAMBIÉN: Inversión pública tendrá Comisión de Alto Nivel: quién liderará el inicio de la reforma
Debemos tener muy claro que el LLM no es una entidad separada en el sentido filosófico, biológico o consciente. Sin embargo, sí es una herramienta autónoma que carece de razonamiento moral para valorar el impacto de sus acciones. Sus propósitos e intenciones siempre serán los que le impongamos. Lejos de regular el desarrollo de la tecnología es muy urgente regular su uso.
José Martínez Sanguinetti es fundador Sothys Capital
