Cuando lanzó su adquisición de Twitter a principios de este año, Elon Musk causó consternación al decir que relajaría las políticas de moderación de contenido de la plataforma de redes sociales, una medida que podría poner a Twitter en una trayectoria de colisión con los reguladores digitales de la UE. En un mundo en línea lleno de contenido ofensivo y potencialmente peligroso (discurso de odio, acoso, desinformación, incitación a la violencia, cuentas que promueven las autolesiones y trastornos alimentarios), el problema de la moderación del contenido se vuelve cada vez más espinoso. ¿Qué se considera contenido dañino? ¿Quién decide y por qué?
Tuvimos que eliminar esta publicación, la séptima novela de la autora holandesa Hanna Bervoets y la primera en ser traducida al inglés, no es más que oportuna. Su joven narradora, Kayleigh, acaba de dejar su trabajo como moderadora de contenido en una gran subsidiaria de tecnología ficticia llamada Hexa. Su función era revisar cientos de publicaciones problemáticas en las redes sociales y decidir, contra un conjunto complejo de criterios, cuáles eliminar. Este trabajo ha afectado la salud mental de sus antiguos colegas, varios de los cuales están presentando una demanda conjunta contra la empresa: uno es tan paranoico que guarda una pistola paralizante junto a la cama por la noche; otro «no puede manejar ruidos fuertes, luces brillantes o movimientos repentinos en su visión periférica». La novela toma la forma de una carta a su abogado, quien invitó a Kayleigh a unirse a la demanda.
Suscríbase a nuestro boletín Inside Saturday para obtener una mirada exclusiva entre bastidores a la realización de las historias más importantes de la revista, además de una lista seleccionada de nuestros aspectos más destacados semanales.
El narrador de Bervoets lamenta las condiciones de trabajo opresivas en Hexa y la falta de apoyo de salud mental para una fuerza laboral expuesta regularmente a material perturbador. Ella nos da una idea de los problemas de definición que enfrentan los moderadores de contenido: por ejemplo, ¿un video que muestra a dos gatitos muertos cuenta como crueldad animal, si ya están muertos al comienzo del clip? Kayleigh y sus compañeros de trabajo se cansan y se ponen cada vez más nerviosos a medida que sus nervios se debilitan al ver contenido tan violento: los efectos de sonido de los disparos en el juego de consola de su amiga «me dieron una sensación de opresión en el pecho»; la vista de un trabajador de la construcción en el techo de un edificio adyacente causa pánico entre el personal de Hexa, quienes asumen erróneamente que está a punto de saltar.
La presunción central, de ver las relaciones a través del mismo prisma que los villanos de los videos en línea, es verdaderamente intrigante.
Esta historia está entrelazada con un relato algo pulposo de la vida romántica de Kayleigh. La primera es Bárbara, a quien se le rompe el corazón al invitar unilateralmente a una tercera mujer a su relación. Luego está Yena, emocionalmente contenida y manipuladora, cuya inseguridad sobre su apariencia física provoca una epifanía banal: “Empecé a darme cuenta de que el problema no era yo. Eran los estándares de belleza que la sociedad nos impuso, el desprecio por uno mismo y el abandono que se remontan a la infancia…” Luego viene Sigrid, una colega mayor que “se veía especialmente genial con su chaqueta de cuero ajustada”; Kayleigh le confía la culpa que aún siente por la muerte de su hámster cuando tenía 10 años: «fue como si la hubiera dejado entrar al sótano de mi alma». Un edicto en el lugar de trabajo que prohíbe «actos sexuales dentro y alrededor del edificio» le da un breve impulso a su aventura (comienzan a hacerlo en un armario de papelería) antes de que las cosas se vayan cuesta abajo.
El tema que conecta estas narrativas paralelas es la falta de fiabilidad de la interpretación subjetiva: en dinámicas relacionales inciertas, como ocurre con el contenido en línea cuestionable, el contexto y la perspectiva son clave, y las cosas no siempre son lo que parecen. El punto queda muy claro en el impactante desenlace de la novela, pero en este punto el gancho tópico se ha vuelto laborioso hasta el punto del agotamiento: uno de los amigos de Kayleigh resulta ser un terrícola plano, y un personaje judío discutió con los antisemitas sobre Jorge Soros. El diálogo en estos pasajes es particularmente suave y telegrafiado.
Otros autores han explorado un terreno similar con más sutileza. Las memorias románticas de 2018 de Heike Geissler, Seasonal Associate, escritas desde la perspectiva de un empleado de Amazon, profundizaron en la psique de su narradora para diseccionar las implicaciones éticas y políticas de su posición dentro de la industria tecnológica. Tuvimos que borrar este mensaje que, por su parte, ofrece poca agudeza psicológica. Es una pena porque el concepto central de la novela, la idea de ver las relaciones interpersonales a través del mismo prisma que los villanos de los videos en línea, es genuinamente intrigante.
We Had to Remove This Post de Hanna Bervoets, traducido por Emma Rault, es una publicación de Picador (£12,99). Para apoyar a libromundo y The Observer, solicite su copia en guardianbookshop.com. Se pueden aplicar cargos de envío.
