Hace un par de semanas una corte judicial en Los Ángeles, EE.UU., declaró culpables a Instagram y YouTube de generar adicción y agravar la salud mental de una mujer que usaba estas plataformas desde niña y llegó a pasar hasta 16 horas diarias en Instagram. Esto sucedió apenas un día después de que otra corte en Nuevo México encontrara culpable a Meta de no impedir lo suficiente que menores de edad usaran sus productos y fueran expuestos a contenido sexual o depredadores sexuales.
LEA TAMBIÉN: Creadores de contenido: 1.5 millones de peruanos quieren ser influencers ¿cuánto pueden ganar?
Esto marca un gran precedente. Hay más de 1,500 casos similares esperando ser atendidos en cortes de EE.UU. y, más allá de las personas que llevan estas empresas a juicio, veo mucho más conciencia a mi alrededor. Pero la realidad es que estas exigencias legales y esta conciencia social tardaron demasiado en llegar y aún no se han propagado por igual en toda la sociedad. Los daños fueron muchos y siguen ocurriendo.
En el uso sin criterio de la IA generativa estamos perdiendo nuestra capacidad de pensar, de cuestionar e incluso nuestra propia identidad. (Foto: Kenneth Cheung/iStock)
Los abogados de la demandante usaron la analogía entre Meta y las empresas tabacaleras para convencer al jurado. Tanto en el caso del tabaco, como en el de Meta, hay evidencia contundente de que los líderes empresariales sabían, desde hace muchos años, de los efectos dañinos de sus productos, pero las acciones que tomaron fueron muy pocas.
LEA TAMBIÉN: Matriz de TikTok se está apoderando de Internet en China y otros países
Por ejemplo, los llamados Facebook Papers, filtrados en el 2021 por Frances Haugen, científica de datos que trabajó en la empresa, revelaron que Facebook hizo investigaciones internas que concluyeron que sus plataformas agravaban los problemas de imagen corporal en 1 de cada 3 adolescentes. En la misma línea, el libro Careless People, de Sarah Wynn-Williams, exdirectora global de Políticas Públicas de Facebook, documenta varios casos relacionados a la influencia de Facebook en elecciones electorales, en el extremismo social y en la desestabilización democrática. También la autora relata una anécdota que me marcó. Contó que Instagram vendía a empresas de belleza un algoritmo capaz de detectar cuándo una mujer sube y borra rápidamente una foto, pues es señal de su inconformidad con su aspecto y un momento idóneo para venderle productos de belleza. Espero que las marcas de belleza en las que yo trabajé en mi vida corporativa no lo hayan usado nunca.
La gran pregunta que me hago es: ¿por qué tardamos tanto en reaccionar al efecto dañino de las redes sociales y cómo evitamos que esto nos vuelva a pasar con la IA generativa? Es una pregunta que da para mucho, pero por ahora les dejo tres reflexiones:
LEA TAMBIÉN: Por qué es difícil para los seres humanos ejercer autoridad final sobre la IA
Principios antes que crecimiento. Empresas como Meta no hacen lo suficiente para prevenir estos problemas porque priorizan su crecimiento económico por encima del control de estas consecuencias. En los Facebook Papers se demostró que ciertos ejecutivos veían a los adolescentes, e incluso a los preadolescentes, como un segmento de mercado muy atractivo, a captar desde temprano y retener en el tiempo. Hoy, con el boom de la IA, están surgiendo nuevas empresas y nos toca exigirles principios claros que canalicen su crecimiento. Una de las razones por las que me cambié de Chat GPT a Claude es precisamente por esto. En febrero, el Pentágono exigió a Anthropic acciones que implicaban eliminar dos restricciones que la empresa tenía en su contrato y consideraba innegociables: no usar Claude para vigilancia masiva de ciudadanos y no usarlo para armas autónomas. Anthropic rechazó la oferta y perdió el contrato de más de 200 millones de dólares que tenía con el Gobierno de los EE.UU. OpenAI lo tomó horas después. No solo yo reaccioné. La semana siguiente Claude superó a Chat GPT por primera vez en descargas diarias.
Más allá de la familia. Muchas personas creen que es responsabilidad de madres y padres, limitar el uso de las redes sociales y de otras tecnologías en sus hijos. Pero si salimos un poco de nuestra situación acomodada, nos damos cuenta de que eso es un privilegio de pocos. ¿Cómo limita fácilmente una madre soltera que trabaja que su hija no esté pegada todo el día a Instagram o un padre que no comprende a su hijo que este encuentre refugio en la manosfera? Para muchas familias, tal vez la mayoría, es difícil limitar el uso de la tecnología en sus hijos. Por eso, es fundamental que las instituciones gubernamentales y educativas tomen un rol más contundente en guíar y prevenir a la sociedad. Hace poco me voluntarié para revisar los principios de inclusión de la IA en las escuelas del distrito donde vivo y me dio gusto ver que el mantra principal es que la IA nunca reemplace la relación con los profesores y los estudiantes, que son la base del aprendizaje y el desarrollo humano.
LEA TAMBIÉN: IA en el sector automotriz: empresas reducen hasta 25% sus costos operativos
Placer con criterio. Finalmente, a nosotros mismos nos toca limitarnos. Sí, es muy rico hacer scroll en Instagram o YouTube, o preguntarle todo a una IA, pero en el uso sin criterio de las redes sociales estamos perdiendo tiempo, autoconfianza y atención al mundo que nos rodea; y en el uso sin criterio de la IA generativa estamos perdiendo nuestra capacidad de pensar, de cuestionar e incluso nuestra propia identidad. Yo procuro siempre partir de mis propias ideas y asistirme en la IA sin perder mi punto de vista. Fue mi idea escribir esta columna y la escribí completa antes de pedirle a Claude verificar y mejorar ciertos detalles.
Con el tabaco pasaron décadas antes de limitar los daños. Con las redes, muchos años. Con la IA generativa, no podemos esperar tanto para reaccionar.
Ana María Martínez es cofundadora de Kaudal.
