Algoritmos de las redes sociales: ¿cuáles son sus peligros?

La tarea principal de estos algoritmos es mejorar la experiencia del usuario en las redes sociales.

Como, por ejemplo, recopilando la mayor información posible sobre ese usuario y proporcionándole contenido que se adapte a sus preferencias para que permanezcan conectados por más tiempo.

Stuart Russell, profesor de la Universidad de California en Berkeley, se ha dedicado al estudio de la ingeniería artificial (IA) durante décadas.

Rusell, en entrevista con BBC News Brasil, ha advertido que el modelo predominante de IA es, en su opinión, una amenaza para la supervivencia de los seres humanos.

“Si construimos la IA para optimizar un objetivo fijo dado por nosotros, ellas (las máquinas) serán como psicópatas, persiguiendo ese objetivo y siendo completamente ajenas a todo lo demás, incluso si les pedimos que se detengan”. Incluso si esto se produce a expensas del bienestar del usuario o la ciudadanía global, continúa el investigador.

Un ejemplo cotidiano de esto, dice Russell, son los algoritmos que rigen a las redes sociales, que se han vuelto tan evidentes en los últimos días con el colapso global que afectó a Facebook, Instagram y WhatsApp durante unas seis horas.

“Si construimos la Inteligencia Artificial para optimizar un objetivo fijo dado por nosotros, ellas (las máquinas) serán casi como psicópatas, persiguiendo ese objetivo y siendo completamente ajenos a todo lo demás, incluso si les pedimos que se detengan”.

“Las redes sociales crean adicción, depresión, disfunción social, tal vez extremismo, polarización de la sociedad y, tal vez contribuyen a difundir desinformación”, señala Russell para BBC News Brasil.

“Y está claro que sus algoritmos están diseñados para optimizar un objetivo: que las personas hagan clic, que pasen más tiempo enganchadas con el contenido”, continúa.

“Y, al optimizar estas cantidades, podemos estar causando enormes problemas a la sociedad”.

No obstante, prosigue Russel, esos algoritmos no se someten a un escrutinio lo suficiente como para ser verificados o “arreglados”, por lo que siguen trabajando para optimizar su objetivo, indistintamente del daño colateral.

“(Las redes sociales) no solo están optimizando lo incorrecto, sino que también están manipulando a las personas, porque al manipularlas consigue aumentar su compromiso. Y si puedo hacerte más predecible, por ejemplo, transformándote en un ecoterrorista extremo, puedo enviarte contenido ecoterrorista y asegurarme de que hagas clic para optimizar mis clics”, dijo a ese medio.

Estas críticas fueron reforzadas la semana pasada por la ex trabajadora de Facebook (y actual informante) Frances Haugen, quien testificó ante una audiencia del Congreso de Estados Unidos.

Haugen dijo que las redes sociales “dañan a los niños, provocan divisiones y socavan la democracia”.

Facebook ha reaccionado diciendo que Haugen no tiene suficiente conocimiento para hacer tales afirmaciones.

(Fuente: BBC News Brasil)