“La evidencia es clara: los peligros en línea se están intensificando. Los niños son especialmente vulnerables a los riesgos digitales, desde la explotación sexual infantil y el ciberacoso hasta las autolesiones y los problemas de salud mental”, señaló el gobierno canadiense en un comunicado.
documento explica que la ley C-34 establece una serie de obligaciones legales que exigirán a las plataformas y servicios digitales implementar mecanismos para identificar y prevenir estos riesgos. La propuesta se basa en “amplias consultas sobre seguridad en línea” en las que participaron víctimas, sobrevivientes, organizaciones de la sociedad civil, comunidades indígenas, especialistas, empresas tecnológicas y ciudadanos. Además, incorpora recomendaciones emitidas por el Grupo Asesor de Expertos en Seguridad en Línea.La normativa contempla una restricción que impediría a los menores de 16 años abrir cuentas en redes sociales. Sin embargo, las plataformas podrían solicitar una exención si demuestran que cuentan con medidas eficaces para garantizar la seguridad de los usuarios más jóvenes.
En este contexto, las compañías deberán considerar la protección infantil como uno de los pilares centrales en el diseño de sus productos y funciones. Esto incluye la incorporación de mecanismos destinados a reducir la exposición de niños y adolescentes a contenidos o interacciones considerados de alto riesgo.
La iniciativa también propone la creación de una nueva Ley de Seguridad Digital a la que estarán sujetos los servicios de streaming, las redes sociales, las plataformas de contenido para adultos y determinados chatbots de IA. Este marco regulatorio establecerá que todos los servicios cubiertos por la legislación tienen la responsabilidad de proteger a las infancias.
Además, la propuesta fija obligaciones específicas para redes sociales, servicios de streaming y sitios que distribuyen contenido sensible. Estas plataformas estarán obligadas a evaluar, identificar y reducir los riesgos asociados con siete categorías de contenido dañino. Entre ellas se encuentran el material que victimiza sexualmente a menores o revictimiza a sobrevivientes, la difusión de contenido íntimo sin consentimiento, las publicaciones que inducen a niños a autolesionarse, los mensajes que fomentan relaciones sexuales con menores, el discurso de odio, el material que promueve la violencia y el contenido relacionado con terrorismo o extremismo violento.
De igual manera, los servicios regulados deberán etiquetar los contenidos generados sintéticamente mediante inteligencia artificial, y ofrecer herramientas claras y accesibles para denunciar publicaciones problemáticas y bloquear usuarios.
La normativa también establece que las plataformas deberán hacer inaccesible el contenido perjudicial, incluyendo material que victimice sexualmente a un menor o revictimice a un sobreviviente, contenido íntimo difundido sin consentimiento e imágenes sexuales manipuladas mediante tecnología deepfake.
Chatbots regulados y nuevos organismos de vigilancia
En lo que respecta a los chatbots, la propuesta indica que los desarrolladores deberán mitigar el riesgo de generar o difundir contenido dañino, implementar salvaguardas para evitar conductas perjudiciales y comunicar de forma transparente los protocolos diseñados para atender situaciones de crisis. Esto incluye casos en los que un usuario manifieste intenciones de autolesionarse o solicite información para causar daño a otras personas.
La iniciativa legislativa también contempla la creación de la Comisión de Seguridad Digital, un organismo independiente encargado de supervisar el cumplimiento de la normativa. Esta entidad podrá solicitar informes de seguimiento a las plataformas, realizar auditorías, emitir órdenes de cumplimiento e imponer sanciones a quienes incumplan las obligaciones establecidas.
en el primer país en prohibir las cuentas de redes sociales para menores de 16 años. Posteriormente, naciones como Francia, España, Dinamarca, Malasia, Noruega, India y Egipto presentaron iniciativas similares que aún se encuentran en distintas etapas de discusión y aprobación. Al mismo tiempo, algunos gobiernos estatales de México y Estados Unidos analizan restricciones en la misma dirección.eficacia de las medidas restrictivas para abordar el problema.Josep Maria Suelves, investigador del Behavioural Design Lab en el UOC eHealth Center, recordó en SMC España que existen evidencias de que el tiempo dedicado a las redes sociales reduce el destinado a la actividad física, el descanso nocturno y la interacción presencial. Asimismo, señaló que diversos estudios han documentado que estas plataformas exponen a los menores a contenidos que promueven comportamientos de riesgo.
“Sin embargo, plantear la prohibición del acceso de los menores a las redes sociales puede ser una medida difícil de implementar y pasa por alto la necesidad de impulsar otras acciones más efectivas, necesarias y éticas, como la limitación de contenidos dañinos —por ejemplo, la difusión de información falsa o la promoción de la violencia, el consumo de sustancias adictivas y las dietas no saludables—, así como restringir las estrategias de diseño adictivas utilizadas por las plataformas, cuyos beneficios dependen del tiempo de conexión de sus usuarios”, concluyó el especialista.