“Los derechos de los menores no pueden desaparecer en el mundo digital. Cada día, niños y adolescentes de todo el mundo acceden a sitios donde les pueden hacer daño. Es nuestro deber protegerles. Algunos multimillonarios han estado haciendo mucho dinero con los datos de nuestros niños. Esto debe terminarse. Es hora de que sean responsables”, subrayó.
La generación algoritmo: ¿Debemos prohibir las redes para las infancias?En esta entrega especial, WIRED en Español reúne evidencia científica, experiencias de familias, debates sobre regulación y perspectivas de especialistas para entender cómo las plataformas digitales están transformando la infancia y qué alternativas existen para protegerla sin perder de vista sus derechos.
ArrowLa iniciativa cuenta con el respaldo de Francia, Kenia y la Unión Europea. También se han sumado Austria, Brasil, Bulgaria, Canadá, República Checa, República de Corea, El Salvador, Estonia, Indonesia, Italia, Japón, Luxemburgo, Marruecos y Países Bajos, además del Fondo de las Naciones Unidas para la Infancia (UNICEF), la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos, la Unión Internacional de Telecomunicaciones, la Oficina de las Naciones Unidas para las Tecnologías Digitales y Emergentes, así como la Comisión Europea.
De acuerdo con el gobierno español, los integrantes de la coalición reconocen que los sistemas de IA tienen el potencial de generar nuevas oportunidades para la infancia en los entornos digitales donde aprende, interactúa y se comunica. Sin embargo, también advierten que estas herramientas amplifican riesgos como la manipulación, la exposición a contenido perjudicial, la generación de pornografía y material de abuso sexual infantil mediante deepfakes, así como la segmentación algorítmica dirigida a menores de edad.
La alianza sostiene que garantizar la seguridad de la niñez frente a las herramientas de inteligencia artificial exige incorporar medidas de protección desde el diseño de estos sistemas. Para ello, considera indispensable una coordinación estrecha entre gobiernos, empresas tecnológicas, especialistas en bienestar infantil, profesionales de la educación, organizaciones de la sociedad civil y organismos internacionales.
Asimismo, impulsarán la cooperación entre todos los actores involucrados en la protección de los derechos de niñas, niños y adolescentes, además de promover el intercambio de buenas prácticas, incluidas las recomendaciones emitidas por el Panel Científico Independiente de Inteligencia Artificial de la ONU.
Finalmente, acordaron reconocer y considerar las opiniones de los menores para que “contribuyan de forma significativa al diseño, el despliegue y la gobernanza de los sistemas de Inteligencia Artificial que les afectan, en consonancia con su derecho a ser escuchados”.
integridad de los usuarios más jóvenes.A principios de este año, Pedro Sánchez, presidente de España, presentó un paquete de cinco medidas destinadas a reforzar la seguridad en el entorno digital y frenar los efectos nocivos de estas plataformas, especialmente entre niñas, niños y adolescentes.
La estrategia contempla asignar responsabilidades legales directas a los altos ejecutivos de las plataformas digitales por las posibles infracciones a la ley que se cometan dentro de estos espacios. Asimismo, incluye una propuesta para prohibir el acceso a redes sociales a menores de 16 años y tipificar como delitos la manipulación algorítmica y la amplificación deliberada de contenidos ilegales o falsos.
Además, prevé la implementación de un sistema para medir la denominada huella de odio, con el objetivo de rastrear, cuantificar y evidenciar el papel que desempeñan las plataformas digitales en la difusión de discursos violentos o discriminatorios. También contempla la apertura de investigaciones para identificar y perseguir presuntas infracciones cometidas por empresas como X, Instagram y TikTok.
En mayo pasado se concretó oficialmente la primera medida de este paquete. El Consejo de Ministros aprobó el proyecto de Ley Orgánica para el Buen Uso y Gobernanza de la Inteligencia Artificial, una iniciativa que busca establecer obligaciones de transparencia para los algoritmos, responsabilizar a los directivos de las empresas por el uso de herramientas prohibidas y fijar sanciones millonarias para quienes incumplan la normativa.
A juicio de Óscar López, esta legislación responde al creciente debate internacional sobre la regulación de la inteligencia artificial y representa un avance significativo en la materia.
“Esta ley es un ejemplo claro de la tercera vía europea: la que combina innovación, competitividad y derechos. Es una respuesta a una inquietud social evidente; el 77% de la población española pide mayor protección de sus derechos digitales frente a la IA”, concluyó el ministro.
No te pierdas nada de nuestra cobertura: añádenos a tus Fuentes Preferidas en GoogleArrow