Necesitamos tu ayuda para seguir informando
Colabora con Nuevatribuna
Las recientes condenas judiciales en Estados Unidos contra Meta y YouTube, por fomentar la adicción en menores y por no proteger adecuadamente su seguridad, han abierto un debate jurídico mundial que ya no se centra en el contenido que circula en las redes, sino en el diseño mismo de las plataformas y en su capacidad para manipular la conducta humana.
Durante años el debate sobre las redes sociales se centró en el contenido. Se discutía si las plataformas debían responder por los mensajes publicados por los usuarios, si debían censurar determinadas opiniones o si eran responsables de la desinformación. El problema jurídico parecía girar alrededor de la libertad de expresión.
La atención se ha convertido en el recurso más valioso de la economía digital. Las plataformas compiten por capturar tiempo de vida humana
Sin embargo, las recientes decisiones judiciales están cambiando por completo el enfoque del problema, porque la vieja discusión sobre los contenidos se está trasladando ahora al diseño mismo del sistema.
Este cambio es histórico. Durante mucho tiempo las plataformas tecnológicas se defendieron afirmando que no eran responsables de lo que los usuarios publicaban. Pero los procesos judiciales recientes han introducido una idea distinta y mucho más profunda, y es que el problema no está en lo que las personas publican, sino en la forma en que la plataforma está diseñada para influir en el comportamiento de quienes la usan.
Los tribunales han empezado a considerar que elementos como la reproducción automática de videos, el desplazamiento infinito de la pantalla, las notificaciones constantes o los sistemas de recomendación no son simples herramientas técnicas, sino decisiones de diseño orientadas a mantener al usuario el mayor tiempo posible dentro de la plataforma. Y mantener al usuario significa captar su atención, y así poder influir en su conducta.
Si el sistema está diseñado para producir determinados comportamientos, entonces ya no estamos simplemente frente a un medio de comunicación, sino frente a un sistema de intervención sobre la conducta humana.
Lo que empieza a aparecer en los procesos judiciales es la idea de que las plataformas perfilan nuestros deseos, refuerzan emociones y crean patrones de consumo, opinión y decisión. Cuando un sistema tiene la capacidad de influir de manera permanente en la conducta de millones de personas, el problema deja de ser un asunto privado y se convierte en un asunto público.
Por eso la comparación que algunos juristas han empezado a hacer con la industria del tabaco no es exagerada. Durante décadas las empresas tabacaleras afirmaron que solo vendían un producto y que cada persona era libre de consumirlo o no. El problema jurídico apareció cuando se demostró que el producto estaba diseñado para generar dependencia y que las empresas conocían esos efectos. En ese momento el debate dejó de ser un debate sobre la libertad individual y se convirtió en un debate sobre la responsabilidad por el diseño del producto.
Algo similar está empezando a ocurrir ahora con las plataformas digitales. La discusión ya no gira alrededor de la libertad de publicar contenidos, sino alrededor de la responsabilidad pública por diseñar sistemas que pueden generar dependencia, ansiedad, depresión o alteraciones en la conducta, especialmente en menores de edad.
Hoy un menor de edad pasa varias horas al día frente a una pantalla. La escena se repite en todo el mundo. Nos despertamos y lo primero que hacemos es mirar el celular. Desayunamos con el teléfono al lado, almorzamos respondiendo mensajes y, antes de dormir, la última imagen que vemos vuelve a ser una pantalla. Sin darnos cuenta, la tecnología dejó de ser una herramienta y se convirtió en el lugar donde transcurre buena parte de nuestra vida.
Si el sistema está diseñado para producir determinados comportamientos, entonces ya no estamos simplemente frente a un medio de comunicación, sino frente a un sistema de intervención sobre la conducta humana
Durante años miramos lo que aparecía en la pantalla, pero no miramos la arquitectura invisible que decide lo que aparece en esa pantalla, diseñada para seleccionar, priorizar, repetir y amplificar determinados contenidos sobre otros. Está diseñada, en otras palabras, para dirigir nuestra atención.
La atención se ha convertido en el recurso más valioso de la economía digital. Las plataformas compiten por capturar tiempo de vida humana. Cada minuto que una persona permanece en la plataforma puede convertirse en datos, en publicidad, en dinero. El verdadero producto, lo sabemos, es nuestra atención.
Por eso las decisiones judiciales que están empezando a aparecer son el inicio de una discusión pública sobre los límites del diseño tecnológico cuando ese diseño tiene la capacidad de intervenir en la vida de las personas.
Durante años se pensó que el antecedente más claro de este problema había sido el escándalo de Cambridge Analytica y la manipulación electoral mediante el uso de datos personales. Se creía que el peligro estaba únicamente en la influencia política sobre los votantes. Sin embargo, hoy estamos descubriendo que el mismo sistema de influencia estaba operando de manera silenciosa y permanente sobre niños y jóvenes, moldeando su autoestima y su conducta cotidiana.
Cambridge Analytica nos hizo pensar que el problema era la manipulación política. Pero los tribunales están empezando a mostrar que el problema es la manipulación permanente de la vida cotidiana.
El gran debate digital del siglo XXI ya no es cómo regular lo que las personas dicen en internet. Es cómo regular los sistemas que influyen en lo que pensamos, sentimos, evaluamos, creemos y hacemos.
Porque al final, el verdadero problema no era el contenido. El problema siempre fue el diseño del sistema.
