El gobernador Gavin Newsom promulgó un paquete de 13 leyes que restringe el scroll infinito, la reproducción automática y los feeds algorítmicos para usuarios menores de 16 años, y regula los chatbots de inteligencia artificial. California se convierte en el primer estado de EE.UU. en adoptar una regulación de este alcance.
El gobernador de California, Gavin Newsom, promulgó el 10 de septiembre un paquete de 13 leyes que prohíbe a las plataformas de redes sociales ofrecer funciones adictivas a usuarios menores de 16 años y establece controles sobre los chatbots de inteligencia artificial (IA). La legislación incluye restricciones al desplazamiento infinito, a la reproducción automática y a los sistemas de recomendación algorítmica. California se convierte en el primer estado de Estados Unidos en adoptar una regulación de este alcance.
Newsom firmó la legislación acompañado de legisladores y familias afectadas por los riesgos de la tecnología en la infancia.
Las 13 leyes del paquete de seguridad infantil
El paquete promulgado el 10 de septiembre incluye 13 normas:
- AB 1709: Prohíbe funciones adictivas (scroll infinito, autoplay, feeds algorítmicos) en redes sociales para usuarios menores de 16 años.
- SB 1119 (Ley Adam): Regula los chatbots de acompañamiento: exige evaluaciones de riesgo, controles parentales, protocolos de crisis y límites de tiempo para menores.
- AB 2: Fija sanciones civiles de hasta un millón de dólares por niño a plataformas que causen daños por negligencia.
- SB 1276: Amplía la definición legal de explotación sexual infantil para incluir imágenes digitalmente alteradas o generadas con IA.
- SB 1128: Prohíbe a las escuelas exigir a los alumnos de jardín de infantes y preescolar que lleven dispositivos electrónicos a sus casas.
- SB 867: Prohíbe durante cuatro años la fabricación y venta de juguetes con chatbots de acompañamiento para menores de 16 años.
- AB 1856: Ajusta el sistema de señales de verificación de edad establecido por la AB 1043, con una exención para sistemas operativos de código abierto.
- AB 2246: Actualiza las obligaciones de diseño seguro para servicios digitales accesibles a menores.
- AB 1946: Crea un mecanismo de denuncia de material de abuso sexual infantil en plataformas digitales.
- AB 1159: Fortalece la protección de la información personal de los estudiantes en sistemas de IA.
- AB 2071: Incorpora contenidos de bienestar digital en los estándares de educación en informática.
- AB 302: Regula el uso de feeds algorítmicos adictivos en comunicaciones escolares sobre actividades extracurriculares.
- AB 2298: Actualiza los estándares curriculares de informática con enfoque en bienestar y seguridad digital.
La norma central: AB 1709
La norma central del paquete es la Ley AB 1709, impulsada por el asambleísta demócrata Josh Lowenthal. La ley prohíbe que las redes sociales ofrezcan a usuarios menores de 16 años elementos de diseño como el scroll infinito, la reproducción automática de videos y los feeds personalizados —conocidos como páginas “Para ti”— que se construyen a partir del historial de navegación y el perfil del usuario. Estos mecanismos, según los legisladores, prolongan el tiempo de uso de las plataformas más allá de la intención original del usuario.
La ley no obliga a los menores a abandonar las plataformas: las empresas pueden cumplirla desactivando esas funciones para ese grupo de edad o, en su defecto, vedándoles el acceso a sus servicios por completo. Para verificar la edad de los usuarios, las plataformas deberán apoyarse en un sistema introducido por otra norma estatal aprobada el año pasado, la AB 1043, que exigirá a los proveedores de sistemas operativos transmitir a las aplicaciones una señal con el rango de edad del usuario a partir de enero de 2027.
“Esto es sobre abordar el problema real: el scroll, los algoritmos. Esto es sobre abordar la cuestión sustantiva alrededor de la ingeniería”, afirmó Newsom ante la prensa, según recogió The Guardian. “Y eso es lo que convierte a esta en una ley verdaderamente significativa y trascendente”.
Obligaciones para plataformas y chatbots de IA
El paquete dirige exigencias específicas a los chatbots de acompañamiento, IA que mantienen conversaciones continuas con usuarios. La ley SB 1119, llamada Ley Adam por Adam Raine, un adolescente californiano que murió por suicidio en 2025 tras usar ChatGPT, fija obligaciones para los operadores de estos sistemas:
- Realizar evaluaciones de riesgo independientes antes de lanzar sus productos al público.
- Implementar controles parentales activos y protocolos de crisis: si un chatbot detecta señales de autolesión en un usuario menor de edad, la empresa deberá notificarlo a sus padres o tutores.
- Fijar límites de tiempo de uso para menores de edad.
- Incorporar recursos de salud mental dentro de la propia interfaz del chatbot.
- Efectuar auditorías de seguridad infantil independientes de forma anual.
Maria Raine, madre de Adam, participó de la firma de la legislación. “Adam fue un adoptante temprano de la IA, y muchos padres no entendíamos los peligros en ese momento. Ahora nos estamos volviendo más conscientes de los peligros de los chatbots de acompañamiento”, declaró, según The Guardian.
Otras dos leyes del paquete amplían este marco: una prohíbe durante cuatro años la venta de juguetes con capacidades de IA conversacional para niños menores de 16 años y otra fortalece las protecciones de privacidad infantil al impedir que las empresas recopilen datos de menores como condición para acceder a sus servicios.
Multas y cambios para proteger a niños y adolescentes
La ley AB 2, también firmada en la misma jornada, establece que las compañías tecnológicas pueden enfrentar multas de hasta un millón de dólares por cada niño al que sus plataformas hayan causado daños demostrables, como ansiedad, depresión u otros perjuicios para la salud mental. La norma fija como indemnización el mayor entre dos montos: 5.000 dólares por violación con un tope de un millón por niño, o el triple de los daños reales acreditados, lo que en la práctica puede elevar las multas por encima de ese umbral.
El paquete también incluye una disposición que amplía la definición legal de explotación sexual infantil para incorporar imágenes generadas o alteradas con IA que representen a menores. Por otra parte, la ley SB 1128 prohíbe a las escuelas exigir a los alumnos de jardín de infantes y preescolar que se lleven dispositivos electrónicos a sus casas, una medida orientada a limitar la exposición temprana a pantallas.
El caso de Meta y el debate sobre la adicción en las redes sociales
La aprobación de este paquete se produce semanas después de que Meta llegara a un acuerdo con California y otros 28 estados que habían presentado demandas colectivas contra la empresa. Las acusaciones sostenían que la compañía diseñó sus plataformas Instagram y Facebook de forma deliberada para generar comportamientos adictivos entre los menores y que engañó a los consumidores sobre la seguridad de sus productos.
Meta acordó pagar hasta 18.000 millones de dólares y comprometerse a aplicar una serie de cambios en sus plataformas para adolescentes, entre ellos límites diarios de uso y bloqueos automáticos durante la noche. El acuerdo evitó la celebración de un juicio federal en California. El caso fue uno de los más resonantes de los últimos años en materia de responsabilidad de las plataformas digitales frente al bienestar infantil, e influyó en el clima político que hizo posible la aprobación de estas leyes.
California busca regular la inteligencia artificial y sus riesgos
Días antes, Newsom había promulgado dos leyes de supervisión más amplia de la IA, respaldadas por Anthropic: una crea un marco para que organizaciones independientes evalúen la seguridad de sistemas y modelos de IA; la otra establece un registro estatal de auditores con estándares de independencia financiera, transparencia e integridad.
Ambas se suman a una estrategia que el estado viene construyendo desde 2024, con normas sobre deepfakes, marcas de agua digitales y divulgación pública de protocolos de seguridad por parte de las grandes empresas del sector. Australia fue el primer país del mundo en prohibir las redes sociales para menores de 16 años y desde entonces más de 40 países han tomado esa decisión como referencia.
Críticas a la ley de California
La legislación no estuvo exenta de críticas. La Electronic Frontier Foundation (EFF), organización sin fines de lucro dedicada a la privacidad digital y la libertad de expresión, considera que la AB 1709 opera en la práctica como una prohibición encubierta del uso de redes sociales para los menores de 16 años, ya que eliminar funciones básicas de navegación puede excluirlos de comunidades, información y espacios de expresión digital.
“Negarles a los menores el acceso a foros digitales —o eliminar las herramientas básicas necesarias para navegar en ellos— no los hará más seguros ni más saludables”, sostuvo Rindala Alajaji, directora adjunta de asuntos estatales de la EFF, en un comunicado recogido por The Guardian. Con este paquete de 13 leyes, California se ubica entre las jurisdicciones que intentan fijar límites concretos al impacto de las plataformas y la inteligencia artificial en la infancia.