Los algoritmos de las redes sociales están diseñados para promover contenido “indeseado” entre menores de edad al exponerlos a material sexual, comentarios sexistas, retos peligrosos y videos de peleas, además de favorecer un uso excesivo de las plataformas, alertó Ravi Iyer, director general del Instituto de Psicología de Tecnología y del Centro Neely de la Universidad del Sur de California y extrabajador de Meta.

Durante la conferencia matutina presidencial, el especialista presentó datos sobre los efectos de estas plataformas en niños y adolescentes. Al respecto, detalló que 70 por ciento de los jóvenes dice sentirse “manipulado” por ellas.

Además, citó una encuesta de Pew entre adolescentes estadunidenses, según la cual 45 por ciento considera que pasa demasiado tiempo en redes sociales, otro 45 por ciento dijo que éstas afectan su sueño y 40 por ciento señaló que “perjudican su productividad”.

Iyer agregó que una investigación interna de Meta, presentada como parte de un litigio en Nuevo México, reveló que 13 por ciento de los usuarios de Instagram de entre 13 y 15 años recibió alguna insinuación sexual no deseada durante los siete días previos al estudio, mientras que 19.2 por ciento de ese mismo grupo reportó haber visto desnudos o contenido sexual no solicitado en una sola semana.

El problema, señaló, también se observa fuera de Estados Unidos. Como ejemplo, mencionó la encuesta de la Comisión de Seguridad Digital de Australia, realizada entre más de 3 mil niños de 10 a 17 años, la cual encontró que 47 por ciento había visto comentarios ofensivos o sexistas sobre niñas y mujeres, otro 47 por ciento había visto videos de peleas y 46 por ciento había sido expuesto a retos peligrosos en internet.

El especialista explicó que estos contenidos no necesariamente son buscados por los menores, sino que son colocados frente a ellos por los sistemas de recomendación de las plataformas. “La palabra clave aquí es ‘indeseado’; estos niños no están buscando el material, se les ofrece a través de un sistema de recomendaciones diseñado para captar su atención, porque el contenido sexual logra captar la atención extremadamente bien”.

Iyer explicó que “los algoritmos actuales suelen diseñarse para optimizar el comportamiento observado, comúnmente llamado ‘interacción’ o engagement”; sin embargo, indicó que las plataformas podrían funcionar de otra manera y ser diseñadas para atender las aspiraciones de los usuarios en lugar de únicamente sus conductas inmediatas.

Entre las características que favorecen el uso excesivo y la exposición a contenido dañino mencionó los sistemas de recomendación que optimizan la interacción, el desplazamiento infinito y la reproducción automática, mecanismos que eliminan puntos naturales de interrupción.

También señaló la “gamificación” mediante el conteo de likes, o las rachas de aplicaciones como Snapchat, las notificaciones que pueden llegar durante la noche, la obligación de crear una cuenta para acceder a determinados contenidos y las configuraciones de privacidad demasiado laxas. “Cada una de esas es una decisión, cada una de ellas puede tomarse de otra manera”, sostuvo.

El también psicólogo señaló que estas decisiones de diseño ya han comenzado a ser cuestionadas por los tribunales. Como ejemplo, expuso la sentencia definitiva dictada por un Tribunal de Nuevo México en el caso Estado de Nuevo México contra Meta Platforms.

De acuerdo con el especialista, se trata de la segunda sentencia de este año en la que un tribunal determina que una empresa de redes sociales es legalmente responsable por los daños relacionados con el diseño de su plataforma. “El problema no son los usuarios malos que publican contenido negativo; es un sistema diseñado para fomentar el uso excesivo, el contacto indeseado y la exposición a contenido no deseado y dañino”.

Destacó que la resolución de Nuevo México constituye además un precedente porque, por primera vez, un tribunal exigió a una plataforma modificar decisiones específicas de diseño. “El Tribunal concluyó que Meta está obligada a eliminar esa afección pública en la medida en que haya contribuido a ella”.

Entre las medidas ordenadas se encuentra reforzar la verificación de edad para evitar la presencia de un número elevado de niños de entre 10 y 12 años en las plataformas; ocultar de manera predeterminada el conteo público de likes en las cuentas de menores de 18 años y desactivar las notificaciones emergentes durante la noche y el horario escolar.

También deberá establecer un límite máximo al tiempo de uso combinado de Facebook e Instagram para menores de 18 años, y mantener las cuentas de adolescentes en modo privado por defecto.

La resolución establece además que Meta deberá dejar de recomendar cuentas de niños a adultos con quienes no tengan relación y evitar que estos adultos puedan enviarles mensajes.

Otro de los cambios contempla impedir que menores de 18 años tengan intercambios románticos o sexualizados con los chatbots de Meta, lo que incluye cualquier tipo de apego que un niño pueda desarrollar con un producto de inteligencia artificial.

El experto señaló que los conocimientos sobre diseño apropiado para la edad ya se han incorporado a legislaciones y políticas en más de una docena de estados de Estados Unidos, así como en la Unión Europea, Reino Unido, Indonesia, Emiratos Árabes Unidos, Brasil y otras jurisdicciones.

Añadió que, aproximadamente un mes antes de su participación en la conferencia, la Comisión Europea determinó que el diseño adictivo de Instagram y Facebook viola la Ley de Servicios Digitales, al señalar mecanismos como el desplazamiento infinito, la reproducción automática, las notificaciones emergentes y los sistemas de recomendación personalizados.

También destacó que Indonesia restringió las cuentas de usuarios menores de 16 años en servicios que presentan características consideradas dañinas, mientras que Canadá adoptó medidas similares.

Iyer sostuvo que el objetivo no es impedir el uso de la tecnología, sino modificar las decisiones de diseño para que las plataformas no exploten las conductas de los usuarios en detrimento de sus aspiraciones: “No estamos en contra de la tecnología, solo queremos que los productos tecnológicos estén diseñados para ayudar a las personas a alcanzar sus aspiraciones, no para obstaculizarlas, especialmente en el caso de nuestros hijos”.