Laila Lalami, escritora: “Se utilizan eufemismos para hacer que el control parezca una forma de protección”

¿A quiénes sentarías en las primeras filas de un cine donde solo hay una proyección: tus sueños? Sara, la protagonista de El hotel de los sueños (Sexto Piso), te recomendaría que no cedas la que parece ser la última parcela de intimidad en un mundo de algoritmos y cookies.

La pesadilla de Sara Hussein no comienza entre sábanas, sino en el frío despacho de un funcionario de aeropuerto que le comunica que es un peligro para la sociedad. No ha hecho nada, es la madre ejemplar de un par de gemelos, una abnegada historiadora que se dedica a clasificar fotos del Marruecos colonial y una esposa fiel.

No desentonaría en el sistema de no ser porque un software ha detectado en su fase REM su potencial delictivo. Tiene su puntuación de riesgo por encima de lo legal y debe ser encerrada 21 días en un centro de internamiento.

Laila Lalami (Rabat, 1968), ganadora del American Book Award y finalista del Booker Prize y del Pulitzer de ficción, describe una sociedad donde la hipervigilancia lleva a personas inocentes a ser retenidas para evitar que cometan un crimen.

Un sistema que pone la tirita antes de la herida, es decir, un mundo que lleva el ‘más vale prevenir que curar’ a sus últimas consecuencias, aunque eso implique la privación de libertad. Las detenciones preventivas evitan un problema que quizás nunca se hubiera dado.

Una IA, aparentemente neutral, analiza todos los datos cedidos de forma inconsciente hasta llegar a lo más íntimo. Su conclusión es que si sueñas, como Sara, con servirle una sopa con veneno a tu marido, inevitablemente lo acabarás haciendo. No hay medias tintas ni interpretaciones oníricas donde el subconsciente te salve.

Pregunta. Más que un futuro distópico, parece que hable de la deriva inevitable de un acto tan aparentemente trivial como aceptar unas políticas de privacidad. ¿Cómo imagina el futuro?

Respuesta. No creo necesariamente que la novela sea una profecía. Es más bien una advertencia sobre lo que podría ocurrir. Espero que el futuro no sea como el de la novela. Una de las cosas que más me preocupan personalmente es que prácticamente todas las interacciones humanas que se nos ocurran están siendo intervenidas por una empresa.

En lo que dura nuestro encuentro, la autora marroquí-estadounidense señala que hay dos cámaras que nos apuntan y que entre nosotros media el móvil con el que grabamos sus palabras. Así ocurre con el resto de ámbitos, señala, desde lo educativo a lo amoroso, todo pasa por una app: “Deberíamos poder comunicarnos sin necesidad de ellas. Pero nos hemos acostumbrado a hacerlo así”.

En su caso, intenta descargar solo las aplicaciones esenciales y desinstalarlas cuando no las necesita. Lo que no logró evitar que su móvil le aconsejara salir de casa para llegar a su clase de yoga a tiempo. No había agendado la sesión, pero su teléfono sabía a dónde iría y a qué hora. Ese fue su disparador narrativo: un futuro donde ni la mente sea un refugio.

P. ¿Estamos cediendo cada vez más intimidad?

R. Creo que hay una especie de higiene digital que no practicamos. Deberíamos aprender a no coger el móvil nada más despertarnos ni justo antes de acostarnos. Eso supone una pérdida de intimidad, porque estás introduciendo un oído y un ojo en medio de cada interacción. Creo que eso supone, sin duda, una pérdida de intimidad entre los humanos.

Lalami cree que la solución está en las acciones colectivas: “Podemos reunirnos con un grupo de amigos y decidir dejar todos los dispositivos en la entrada de casa para sentarnos a charlar y pasar el rato sin tener que mirar constantemente el móvil. O podemos votar a determinados candidatos en lugar de a otros o apoyar unas leyes frente a otras”.

Un ejemplo de esto son los resultados electorales de las elecciones de medio mandato del tantas veces convertido en distopía Estados Unidos, afirma la autora. “La gente votó en contra [de las políticas condicionadas por intereses empresariales]. Así que siempre hay más poder cuando todos nos unimos”.

P. El lenguaje alrededor del centro de internamiento Madison minimiza su naturaleza. “Esto no es una cárcel”, se afanan en repetir los funcionarios y alguna interna, pero nadie sabe explicar en qué se diferencia aquel encierro del de las presas. ¿En qué medida los gobiernos están intentando colar medidas que vulneran nuestra intimidad bajo una promesa biensonante de seguridad?

R. Una de las razones por las que utilicé ese tipo de lenguaje en el libro es que intentaba imaginar cómo una futura alianza entre una empresa y un gobierno podría convencernos de que está bien utilizar los datos de nuestros sueños. Se utilizan eufemismos para hacer que el control parezca una forma de protección. Las empresas, cuando intentan vendernos sus productos, utilizan términos que pretenden sonar muy positivos y sugerentes.

Lalami cuenta que visitó el Museo de la Stasi en Berlín. Allí, le explicaron que el muro que dividió la ciudad entre 1961 y 1989 se conocía como “el muro de la protección” en Alemania Oriental. Lo que le llevó a pensar el poder que daba tener la capacidad de deformar el lenguaje.

P. También te inspiró cómo se señaló a los ciudadanos japoneses de Estados Unidos durante la Segunda Guerra Mundial, llegándolos a internar en centros. ¿Cree que la inteligencia artificial ha heredado esos prejuicios?

R. Los está heredando. Es una de las cosas más preocupantes: depende muchísimo del tipo de información con la que la alimentamos. Imaginemos que, en Estados Unidos, la alimentamos con informes policiales. Supongamos que incluyen mayor número de detenidos de una raza. Llegará a la conclusión de que las personas de esa raza tienen más probabilidades de ser detenidas. Y orientará sus resultados en una dirección determinada.

P. De hecho, hay una especie de comunión entre gobiernos y empresas tecnológicas, sobre todo en Estados Unidos, ¿no?

R. Los empresarios tecnológicos están haciendo donaciones muy cuantiosas al partido en el poder. No se trata de que los republicanos son malos y los demócratas son buenos. Aunque los demócratas estuvieran en el poder, estos empresarios simplemente les darían dinero para conseguir, por ejemplo, que se eliminaran los límites a determinados desarrollos de inteligencia artificial. El problema es que disponen de muchísimo dinero para influir en el rumbo de las políticas públicas. Esa es la verdadera amenaza.

Nos cuenta que en el país la concesión de créditos depende desde los años setenta del software FICO que valora, junto a las cuestiones económicas, el historial delictivo del solicitante. Este credit score fue inspiración para el sistema de evaluación que lleva a Sara Hussein a su reclusión en Madison.

P. En el libro hay una idea muy interesante: Sara dice que las mujeres no solo tienen que mirarse con sus propios ojos, sino también con los de los demás. ¿Cómo se refleja esa mirada en la integración de una mujer migrante?

R. Creo que esa capacidad de mirarte a ti misma desde fuera es algo que aprende cualquier persona que está sometida a un gran control y que pertenece a una minoría. Aprendes a verte como eres, pero también a observar cómo te ve la sociedad. Como inmigrante eres consciente de que tu acento no es igual que el de los demás. Ni tu cuerpo, rasgos faciales y todo lo demás. El peligro está en interiorizar esa mirada y acabar aceptándola como algo normal.

P. Parece que la aceptación de esa hipervigilancia empieza desde que somos niños.

R. Si pensamos en la religión como un sistema, una de las primeras ideas que se enseña a los niños es la existencia de un ser omnipresente y omnipotente que todo lo ve. Sabe si te has portado bien o mal. No hay nada que puedas ocultarle. Y eso está en el corazón mismo del poder. No puedes ejercer el poder sin esa sensación de que todo lo que haces es visible para la persona que tiene el poder.

P. Entonces, ¿cree que los sueños son la última frontera, el último refugio de libertad en el que podemos protegernos?

R. Están intentando conseguir que los sueños puedan reproducirse en una pantalla, pero todavía queda mucho. Aunque consiguiéramos obtener esas imágenes y grabarlas, interpretarlos correctamente sería otra cuestión. Faltan bastantes años. Así que no me preocuparía demasiado. Pero sí creo que los sueños son una fascinante última frontera de la privacidad.

Para la escritora, que no haya teléfonos grabando y empresas pugnando por nuestros datos vuelve los sueños un espacio de “privacidad absoluta, una libertad completa y una ausencia total de juicios” único.

P. ¿A quién dejaría ver sus sueños?

R. (Ríe) A nadie. Quiero mucho a mi marido, pero tampoco quiero que él vea mis sueños. Porque es una parte verdaderamente íntima y quieres conservar para ti. Y mantener esa parte privada es lo que te permite seguir siendo un ser humano independiente, distinto de cualquier otra persona. ¿Por qué ibas a renunciar a esa parte de ti que te pertenece exclusivamente y entregársela voluntariamente a otra persona?

Lalami asegura que lo mejor de los sueños es que los compartes únicamente si lo deseas e, incluso cuando decides narrarlos a otras personas, puedes “editar y dejar fuera las partes que quieras”.

P. Y a la inversa, ¿de quién vería los sueños?

Entre risas afirma que no le resultarían interesantes los sueños de los demás, pero que si alguien voluntariamente se los enseñara, miraría.

Finalista del National Book Award con su anterior novela, The Other Americans, Lalami ha explorado en todos sus títulos la migración y la exclusión por parte de un sistema como el estadounidense hacia las personas provenientes de fuera.

En su sexto libro, traducido al español por Esther Cruz Santaella y editado por Sexto Piso, vuelve a indagar en los sesgos que existen en la administración y lo asfixiante que puede ser la burocracia.

Source – Elespanol