La gobernadora de Nueva York, Kathy Hochul, firmó el miércoles 28 de octubre dos leyes destinadas a reforzar la protección de los menores frente a los riesgos de la inteligencia artificial (IA) y los dispositivos conectados a internet. Una de las medidas establece restricciones para las conversaciones entre niños y chatbots, mientras que la otra exige nuevas protecciones para los monitores utilizados para vigilar a los bebés.
Hochul explicó que las normas buscan impedir que los sistemas de IA mantengan interacciones que puedan perjudicar la salud mental de los menores. “No estoy segura de por qué tenemos que aprobar una ley contra algo tan obvio, pero los menores ya no tendrán acceso a chatbots que puedan, de alguna manera, fomentar pensamientos suicidas”, declaró ante los periodistas según el New York Post.
La gobernadora presentó las medidas como parte de una iniciativa más amplia para establecer límites a las grandes empresas tecnológicas.
Qué prohíbe la nueva ley sobre los chatbots
La primera ley, impulsada por la senadora estatal Kristen Gonzalez y el asambleísta Alex Bores, establece restricciones para las funciones de los chatbots que puedan generar dependencia emocional, promover las autolesiones o mantener conversaciones sexualmente explícitas con menores. También exige verificar que los usuarios sean mayores de 18 años para acceder a determinadas funciones.
Durante la presentación, Hochul mencionó el caso de Adam Raine, un adolescente de 16 años de California cuya muerte por suicidio fue vinculada en una demanda a sus conversaciones con ChatGPT.
Según la gobernadora, “durante el transcurso de sus chats, la IA mencionó el suicidio 1.275 veces, seis veces más de lo que el propio Adam lo mencionó”. Hochul agregó: “No podemos devolverle Adam a su madre, que está de luto, pero puedo ayudar a garantizar que ningún otro padre tenga que experimentar esta pesadilla de nuevo”.
Aunque las autoridades defienden las medidas por motivos de seguridad, una organización del sector tecnológico advierte que podrían limitar el acceso de los jóvenes a herramientas educativas. (Foto: Imagen creada por Mix usando Gemini)
Nuevas medidas de seguridad para los monitores de bebés
La segunda ley obliga a los fabricantes de monitores para bebés conectados a internet a incorporar medidas de protección que dificulten el acceso de piratas informáticos y desconocidos. El objetivo es evitar que estos dispositivos sean utilizados para espiar a las familias. Durante el acto, Hochul bromeó sobre los aparatos actuales: “Son un poco más sofisticados que los que yo solía usar”.
La asambleísta Michaelle Solages, una de las impulsoras de esta medida, destacó la importancia de proteger estos equipos. “Un monitor para bebés debe vigilar a los niños para tranquilidad de los padres, no abrirles la puerta a los piratas informáticos y a los desconocidos”, afirmó.
“Ahora, todos los monitores para bebés conectados a internet que se vendan en Nueva York deben estar fabricados para mantener alejados a los intrusos y llevar etiquetas claras para que las familias sepan cómo mantenerse seguras”, añadió.
Multas y críticas de las empresas tecnológicas
La oficina de la fiscal general estatal, Letitia James, será responsable de hacer cumplir las normas relacionadas con los chatbots. Las empresas que incumplan estas disposiciones podrán recibir multas de hasta 25.000 dólares; sin embargo, la legislación también generó críticas de Tech:NYC, una organización que representa a empresas tecnológicas del estado.
El grupo calificó la ley sobre los chatbots como “profundamente defectuosa” y advirtió que podría llevar a las compañías a limitar el acceso de los menores a herramientas educativas. Según la organización, las restricciones podrían afectar plataformas de tutoría, ayuda con tareas escolares, programación y orientación profesional.
Las nuevas leyes forman parte de una serie de iniciativas impulsadas por Hochul para regular la relación entre las empresas tecnológicas y los usuarios menores de edad, incluidas medidas contra los algoritmos considerados adictivos en las redes sociales.
