Facebook elegía qué veías. ¿Qué está eligiendo hoy la IA por ti?

Pasamos años preguntándonos si lo que veíamos en redes era cierto. Con la IA necesitamos preguntar también qué queda fuera de la respuesta.

Hay dos cifras que me quedaron dando vueltas a partir de The Social Reckoning, la película sobre los documentos internos de Facebook. En una escala que la empresa utilizó en 2018 para medir interacciones, un «me gusta» valía un punto, mientras ciertos comentarios, mensajes y publicaciones compartidas consideradas significativas podían valer treinta. La segunda es más inquietante: una presentación interna de 2016 señalaba que, en los grupos extremistas estudiados en Alemania, el 64% de las incorporaciones provenía de las propias herramientas de recomendación de la plataforma.

Me cuesta dejar de pensar en ese recorrido. Alguien entraba a Facebook, encontraba una sugerencia y se incorporaba a un grupo. Desde su lado de la pantalla, había tomado una decisión. Del otro lado, una herramienta había intervenido en las opciones entre las que podía decidir. La recomendación parecía un servicio menor, una ayuda para encontrar personas con intereses parecidos.

La película es una dramatización, y las cifras pertenecen a análisis específicos. Facebook cuestionó el alcance del estudio sobre extremismo y afirmó haber cambiado sus sistemas. Aun con esas reservas, queda una incomodidad: mientras discutíamos si las publicaciones eran ciertas, sabíamos mucho menos de las decisiones que las llevaban hasta nosotros. La aparición tenía dueño, metas y un modelo de negocio.

Ahora podemos mirar esa historia con la ventaja de conocer lo que vino después. Hubo documentos y personas que hicieron visible parte de lo que ocurría detrás de la pantalla. Resulta fácil reconocer las preguntas que debimos hacer, mientras empezamos a confiar en otra herramienta para que nos ahorre el trabajo de buscar, comparar y sacar conclusiones.

A la inteligencia artificial le entregamos un informe de cien páginas y le pedimos cinco párrafos. Le damos una lista de proveedores y le pedimos una recomendación. La respuesta llega ordenada, con una claridad que se agradece después de un día de reuniones. Podemos comprobar que sus afirmaciones son correctas y seguir sin saber si dejó fuera la advertencia que habría cambiado nuestra decisión.

En selección de personal, esa inquietud tiene un antecedente concreto. En octubre de 2018, Reuters reveló que Amazon había desarrollado una IA experimental que puntuaba currículos de una a cinco estrellas. Según una fuente del proyecto, aspiraban a reducir cien postulaciones a las cinco mejores. Pero el sistema penalizaba currículos con la palabra «women’s», incluso en una referencia a una capitana de un club de ajedrez femenino.

Los modelos habían aprendido de diez años de currículos, mayoritariamente masculinos. En 2015 detectaron sesgos en la evaluación de puestos técnicos. Amazon corrigió términos concretos, pero no podía garantizar que no aparecieran otros criterios discriminatorios. Terminó abandonando el proyecto, que también presentaba problemas de calidad. Según Reuters, los reclutadores consultaban sus recomendaciones, pero nunca dependieron exclusivamente de ellas.

Una palabra que podía describir liderazgo se había convertido en una desventaja. La revisión permitió reconocer ese problema y detener el proyecto. Esa parte de la historia importa: hubo quien examinó lo que las puntuaciones estaban premiando antes de confiarles más decisiones.

El sistema de Amazon era anterior a los asistentes generativos que hoy utilizamos, y su historia no permite atribuirles el mismo comportamiento. Pero deja una pregunta que vale la pena llevar a la próxima demostración comercial: ¿cómo sabremos si la selección es buena? Los cinco primeros pueden parecer excelentes. El problema puede estar entre los que nunca lleguemos a leer.

Para una empresa que compra tiempo, esa comprobación resulta incómoda. El ahorro aparece de inmediato: menos páginas, menos perfiles, una reunión más corta. Revisar descartes obliga a devolver parte de ese tiempo y puede abrir una discusión que parecía resuelta. Si el candidato contratado trabaja bien, habrá una historia de éxito; quien quedó fuera no tendrá ocasión de mostrar lo que habría aportado.

Los treinta puntos y el 64% quedaron en documentos internos que alguien terminó haciendo públicos. Hoy podemos sentarnos frente a una película y preguntarnos cómo tardamos tanto en advertir lo que ocurría. Mientras tanto, en una oficina, una IA acaba de reducir doscientos currículos a diez nombres. Los perfiles parecen adecuados, la reunión termina antes de lo previsto y nadie pide abrir los descartes. El informe llevará la firma de alguien que podrá explicar por qué eligió a esos diez, pero no por qué los otros ciento noventa nunca tuvieron una oportunidad.

Soy Jorge Lazo Arias y aquí encontrarás aquí información sobre marketing, a partir de analizar tendencias y campañas (buenas y también las no tan buenas) porque todo nos suma para conocer las novedades en el mundo del marketing y contar con aprendizajes que podemos aprovechar y aplicar en nuestro día a día.