Un protocolo específico para detectar usos problemáticos de la tecnología dentro de las revisiones periódicas que realizan los pediatras; una orden de alejamiento virtual “de redes sociales, foros, plataformas de comunicación o cualquier otro lugar en el espacio virtual” para quienes cometan delitos en esos espacios, y nuevas penas para quienes creen o difundan imágenes o voces de alguien falsas con herramientas de inteligencia artificial “simulando situaciones de contenido sexual o gravemente vejatorias” sin el consentimiento de la persona afectada. Esas son tres de las cuestiones que incorpora el borrador del anteproyecto de ley orgánica para la protección de los menores en los entornos digitales al que ha tenido acceso EL PAÍS y sobre el que se está trabajando. La norma, con cuatro ministerios implicados —Presidencia, Justicia y Relaciones con las Cortes, Juventud e Infancia, Transformación Digital y Derechos Sociales, Consumo y Agenda 2030—, irá previsiblemente este martes a Consejo de Ministros.

El documento, de 28 páginas y aún en proceso de redacción, sobre todo en aquellas cuestiones con competencias cedidas a las Comunidades Autónomas —como todas las referidas a Sanidad y Educación—, expone que el acceso de los menores a contenido inapropiado puede producir “múltiples consecuencias”, y describe siete: daños psicológicos y emocionales (“el menor posee una madurez y una autoestima en desarrollo, por lo que es más vulnerable a nivel emocional si tropieza con información que no es capaz de asumir”, como por ejemplo contenido pornográfico o violento); desinformación, manipulación y construcción de falsas creencias; conductas peligrosas o socialmente inapropiadas; daños para la salud física; inclusión en grupos y colectivos dañinos; adicciones, y gastos económicos. Por ello, el objetivo de la ley es “garantizar el respeto” de los menores en el entorno digital, “especialmente los derechos a la intimidad, al honor y a la propia imagen, al secreto de las comunicaciones y a la protección de los datos personales y el acceso a contenidos adecuados a la edad”.

Medidas en el ámbito sanitario

El borrador contempla cuestiones en el ámbito sanitario que aún están debatiéndose ya que son las autonomías quienes ostentan las competencias en esta materia. El texto al que ha tenido acceso este diario incluye el programa de revisión del niño sano —que incluye visitas desde el nacimiento hasta los 14 años y en el que participan matronas, enfermeras y pediatras de los equipos de atención primaria— y que “se utilizará para identificar usos problemáticos” de las tecnologías “de forma simultánea a la detección que se realiza de otras conductas perjudiciales como el aislamiento, la falta de juego o la carencia de estimulación del lenguaje”, entre otras.

“Se pondrá especial atención en identificar las situaciones en que niños y adolescentes recurran de forma prioritaria al entorno digital para entablar relaciones de pares, comprobando si tienen a su disposición recursos de ocio saludable, espacios de encuentro y oferta lúdica gratuita”, señala el documento.

Además, el texto establece que el Gobierno en colaboración con las consejerías de sanidad a través del Consejo Interterritorial del Sistema Nacional de Salud, “promoverá el desarrollo de estudios de uso por franjas de edad, con el fin de elaborar guías de recomendación de exposición progresiva, limitada y acompañada”.

Contempla también que las administraciones autonómicas promoverán la creación de procedimientos de atención sanitaria específicos para menores con conductas adictivas sin sustancia —consumo abusivo de dispositivos digitales— en la red especializada de atención a la salud mental, tanto en las Unidades de Atención a la Conducta Adictiva, como en los centros de salud mental infantojuveniles. Y la creación de centros de atención a las conductas adictivas de menores de edad, que incluirán la especial consideración a las conductas adictivas sin sustancia. En la actualidad, este tipo de centros ya están funcionando en algunas comunidades como es el caso de Madrid, que fue pionera en el lanzamiento de este servicio público en 2018.

Cambios en el Código Penal

Entre los riesgos y perjuicios asociados con un uso inadecuado de medios y dispositivos digitales, señala el borrador, “cabe destacar la aparición de problemas de salud, tanto físicos, psicológicos como emocionales, dificultades de interacción social o problemas en el desarrollo cognitivo”. Además, existen otros “relacionados con el uso de datos y privacidad de las personas menores de edad, la progresiva insensibilización ante actos de violencia, el ciberacoso y el aumento de casos de explotación y abusos de menores”, continúa el texto. Por esos y otros motivos, señala que es “necesario” introducir algunos cambios en el Código Penal “que permitan ejercer una protección eficaz frente a los nuevos delitos tecnológicos”.

Orden de alejamiento virtual. El primero de esos cambios es la incorporación de “la pena de alejamiento de los entornos virtuales”, para lo que se modifican los artículos 33, 39, 40, 45, 48, 56, 70 y 83 del Código Penal “para incorporar la pena de prohibición de acceso o de comunicación a través de redes sociales, foros, plataformas de comunicación o cualquier otro lugar en el espacio virtual, cuando el delito se comete en su seno”. Ante “el gran incremento de la delincuencia virtual, las redes sociales son un lugar donde frecuentemente se cometen delitos o donde se prolonga la ejecución de hechos iniciados o ejecutados parcialmente” y esta nueva pena, según el borrador, “da una respuesta eficaz a la creciente criminalidad informática, al evitar la reiteración de la conducta punible en los espacios virtuales y mejorar la protección de las víctimas impidiendo su victimización secundaria”.

Las ultrafalsificaciones. Conocidas en inglés como deepfakes, son imágenes o voces manipuladas tecnológicamente y extremadamente realistas. Entrarán también en el Código Penal a través de un nuevo artículo, el 173 bis, que se incorpora de esta forma: “Se impondrá la pena de prisión de uno a dos años a quienes, sin autorización de la persona afectada y con ánimo de menoscabar su integridad moral, difundan, exhiban o cedan su imagen corporal o audio de voz generada, modificada o recreada mediante sistemas automatizados, software, algoritmos, inteligencia artificial o cualquier otra tecnología, de modo que parezca real, simulando situaciones de contenido sexual o gravemente vejatorias”. Y, dice, “se aplicará la pena en su mitad superior si dicho material ultrafalsificado se difunde a través de un medio de comunicación social, por medio de internet o mediante el uso de tecnologías, de modo que aquel se hiciera accesible a un elevado número de personas en el espacio virtual”.

El documento explica que “además de que las ultrafalsificaciones generalmente se difunden en el ciberespacio, con la potencialidad de permanencia que ello implica”, esto genera un daño más profundo que otros ataques en la red “por la enorme dificultad de distinguir entre el contenido falso y el real debido a la precisión de las nuevas tecnologías y por el mayor grado de veracidad que mantenemos respecto de materiales audiovisuales sobre materiales escritos”.

Y ahonda en las razones por las que se ha optado por sancionar los contenidos especialmente vejatorios y las ultrafalsificaciones sexuales —”las llamadas deepfakes pornográficas”, matiza el borrador—: por “la afectación a la autoestima y la heteroestima” —la valoración externa de las personas importantes en la vida de una persona—, y también por la “cosificación e instrumentalización que se produce sobre el sujeto pasivo, generalmente mujeres y niñas, niños y jóvenes que son tratados como objetos de consumo”.

El uso de identidades falsas. Se contempla el agravamiento en los delitos recogidos en los artículos 181, 182, 183, 185, 186, 188 y 189, de forma que cuando el infractor, para “facilitar la ejecución de la conducta” delictiva, hubiera utilizado una identidad falsa, ficticia o imaginaria, o se hubiera atribuido una edad, sexo, género u otras condiciones personales diferentes de las propias, la pena se impondrá en su mitad superior.

El daño de un like en una red social. El documento también prevé tipos agravados en los artículos 197.3 y 199.3 para que, “en los casos de revelación de secretos o de difusión, exhibición o cesión de material íntimo, se incremente la pena hasta la mitad superior si el hecho genera un mayor impacto por su difusión a través de un medio de comunicación social, por medio de internet o mediante el uso de tecnologías, de modo que aquel se hiciera accesible a un elevado número de personas en el espacio virtual”.

Medidas en los centros educativos

El anteproyecto contempla que las administraciones públicas “competentes” fomentarán en los centros educativos, independientemente de su titularidad, “el desarrollo de actividades encaminadas a la educación en ciudadanía digital y alfabetización mediática con el fin de garantizar la plena inserción del alumnado en la sociedad digital y el aprendizaje de un uso de los medios digitales seguro y respetuoso que favorezca el ejercicio efectivo de sus derechos en el entorno digital”.

Para ello, se definirán “objetivos claros y diferenciados del desarrollo de la competencia digital” para cada etapa educativa. Para la detección de este tipo de conductas y situaciones problemáticas se llevarán a cabo periódicamente planes de formación específica y actualizada dirigida al personal de los centros, especialmente a orientadores, educadores y equipos de psicología y mediación, expone el borrador.

Una nueva estrategia nacional

El Gobierno en colaboración con las comunidades autónomas, las ciudades de Ceuta y Melilla, y las entidades locales elaborará, con carácter plurianual, una estrategia nacional en la que se establecerán “actividades encaminadas a la educación en ciudadanía digital y alfabetización mediática”, o “la difusión de información a las madres, padres o tutores legales, equipo docente y sanitario, sobre la utilización adecuada de los dispositivos digitales y su incidencia en el desarrollo de los niños”, con problemáticas como el ciberacoso o las ciberagresiones, así como las medidas de control parental. Este plan nacional también promoverá nuevas investigaciones neurobiológicas, “especialmente en relación con la infancia y adolescencia y los efectos de la tecnología en el desarrollo cognitivo”, así como investigación sobre el consumo de la pornografía y su impacto en los menores. De forma bianual, se publicará un informe de evaluación acerca del grado de cumplimiento y eficacia.

Verificación de la edad

Sobre los mecanismos para la verificación de la edad, el anteproyecto establece que el Ministerio para la Transformación Digital y de la Función Pública elaborará “guías técnicas que faciliten el desarrollo de herramientas” por parte de los proveedores de contenidos en internet. No se concreta ningún otro aspecto. El pasado diciembre, la Agencia Española de Protección de Datos (AEPD) anunció que, junto a la Fábrica Nacional de Moneda y Timbre, están trabajando en el diseño de una nueva herramienta “efectiva” de verificación de edad para el bloqueo del acceso a contenidos inapropiados por parte de menores, que estaría lista en el verano de 2024.

Los sistemas de verificación de edad que emplean actualmente las plataformas presentes en internet son muy laxos y en muchos de los casos se basan en espacios que el usuario rellena al registrarse o, en el caso de las redes sociales, al abrirse una cuenta, en los que solo tienen que marcar una casilla en la que afirma superar una determinada edad (en el caso de TikTok, la edad mínima para registrarse son 13 años, 16 en el de Whatsapp), sin ningún tipo de mecanismo que corrobore la autenticidad de esa información.

En uno de los apartados del documento, se mencionan las “obligaciones de los fabricantes de dispositivos digitales”, una cuestión que está pendiente de desarrollar. Según fuentes del Gobierno, una posibilidad sería obligar a los fabricantes de dispositivos electrónicos —móviles, tabletas, ordenadores y televisores inteligentes— a incorporar por defecto un sistema de control parental.