Carmen Anisa
«Trazar el mapa de un territorio inexplorado», este es uno de los objetivos que Shoshana Zuboff pretende conseguir con su libro The Age of Surveillance Capitalism, publicado en Estados Unidos, en enero de 2019. Combinando los métodos de una científica social con los de una ensayista, Zuboff lleva a cabo un exhaustivo trabajo de investigación, a la vez que elabora un ensayo personal en el que aporta su propia experiencia como ser humano que analiza una nueva realidad y reflexiona acerca de ella.
Casi dos años después, en septiembre de 2020, la editorial Paidós ha publicado la traducción al español: La era del capitalismo de la vigilancia. La lucha por un futuro humano frente a las nuevas fronteras del poder. En este lapso han sucedido demasiadas cosas que no tenían precedentes y que han cambiado nuestra forma de relacionarnos. Eric Schmidt, presidente ejecutivo de Google, escribió en una ocasión que «casi nada, a excepción de un virus biológico, puede aumentar de escala con la rapidez, la eficiencia o la agresividad con la que pueden hacerlo estas plataformas de tecnología, y eso hace que las personas que las construyen, las controlan y las usan sean poderosas también».
Y llegó un virus biológico, un coronavirus que nos confinó en nuestras casas. Las plataformas digitales se convirtieron en hogares donde conversar con nuestros seres queridos, en lugares de trabajo, en aulas donde millones de niños, adolescentes y jóvenes recibían clases; aunque nada podía compararse al contacto directo con otros seres humanos.
La literatura es también nuestro hogar. El capitalismo de la vigilancia comienza con un poema de Auden, el «Soneto XVIII» de los Sonnets from China, incluidos originariamente en Journey to a War (1939), de W. H. Auden y C. Isherwood; un diario de un viaje a China en 1938, durante la guerra chino-japonesa. At night in our huts we dream of a part / In the balls of the Future («De noche, en nuestros refugios, soñamos tener un hueco / en los bailes del Futuro»), escribe Auden. La mayoría de los capítulos del libro de Zuboff comienzan con citas de estos poemas hacia los que ella siente «un especial afecto», pues son «una emotiva exploración de la historia mítica de la humanidad, de la lucha eterna contra la violencia y la dominación, y del poder trascedente del espíritu humano y su incansable reivindicación de un futuro».
NO SOMOS EL PRODUCTO. SOMOS LA MATERIA PRIMA
A partir de un artículo publicado en 2013, Zuboff popularizó el concepto de surveillance capitalism, «capitalismo de la vigilancia», un nuevo orden económico que utiliza la experiencia humana como materia prima para generar datos de comportamiento. Algunos datos sirven para mejorar productos o servicios, pero el resto es considerado como «un excedente conductual propiedad de las propias empresas capitalistas de la vigilancia». Estos productos se comercializan en lo que Shoshana Zuboff denomina «mercados de futuros conductuales».
«Cuando el producto es gratis, el producto eres tú», dice el tópico. Pero lo cierto es que no somos el producto, somos «los objetos de los que se extrae una materia prima que Google expropia para su uso en sus fábricas de predicciones». Las predicciones sobre nuestros comportamientos son los productos. «Ustedes son el cadáver abandonado. El producto es lo que se fabrica con el excedente que han arrancado de sus vidas», nos advierte Shoshana Zuboff.
Somos «unos exiliados de nuestra propia conducta», pues no tenemos acceso ni control sobre esos conocimientos de los que se nos ha desposeído; nadie nos ha incluido en las preguntas acerca de la división del conocimiento: «¿Quién sabe?, ¿quién decide?, ¿quién decide quién decide?».
LO HIZO EL MONSTRUO, NO VICTOR FRANKENSTEIN
El capitalismo de la vigilancia fue inventado por seres humanos en un momento de la historia. Google, pionera de un nuevo capitalismo —como lo fueron en su día las empresas Ford y General Motors—, se convirtió en la esperanza de que «el capitalismo informacional actuara como una fuerza social liberadora y democrática». Pero en el 2000, la recesión de las tecnológicas puntocom sirvió de justificación para que Google se lanzara al negocio publicitario.
A partir de ahí, el capitalismo de la vigilancia erigió fortalezas: el neoliberalismo, que apelaba a los derechos de la libertad de expresión; «el excepcionalismo de la vigilancia», tras los atentados del 11S; las «afinidades electivas» con el poder político, que descubrió la utilidad de estas empresas en los procesos electorales; las «puertas giratorias de políticos y directivos entre Washington y Silicon Valley»; la financianción de grupos de presión; y el mantenimiento de «una sistemática campaña de poder blando en forma de influencia y captación culturales».
Cuando algo no tiene precedentes, resulta más fácil normalizar lo anómalo, sucumbir ante la «dictadura» del «no hay alternativa». Zuboff llama a este fenómeno «la ideología del inevitabilismo», que genera resignación y sensación de impotencia. Pero la inevitabilidad tecnológica —el determinismo tecnológico— no existe. El capitalismo de la vigilancia no es una tecnología, sino una forma de mercado que «impregna la tecnología» y «la pone en acción». El monstruo de Frankenstein cometió atrocidades, pero fue el joven científico Victor Frankenstein el que lo creó y el que después no se responsabilizó de su criatura, abandonándola a su suerte.
Quizás una de las más precisas analogías que podemos encontrar en la literatura sea el comienzo de Las uvas de la ira, de John Steinbeck, donde un empleado de un banco le dice al granjero al que van a desahuciar: «El banco es algo más que hombres. Fíjate que todos los hombres del banco detestan lo que el banco hace, pero aun así el banco lo hace. El banco es algo más que hombres, créeme. Es el monstruo. Los hombres lo crearon, pero no lo pueden controlar».
LAS DECLARACIONES Y EL PATRÓN DE CONQUISTA
El 1492 Colón puso en práctica un «patrón de conquista», que consta de tres fases. Para justificar una invasión, primero se inventan unas medidas con un lenguaje legal. Después «se formula una declaración que reclama unos derechos territoriales» y, por último, «se funda un asentamiento humano para legitimar e institucionalizar la conquista». Conforme a las teorías del filósofo John Searle, una declaración es un «acto de habla» con el que creamos una nueva realidad donde antes no existía nada
Para Shoshana Zuboff, en el patrón de conquista de Google intervendrían seis declaraciones. La más importante sería: «Declaramos que la experiencia humana es una materia prima que se puede tomar gratuitamente. Basándonos en esa declaración, podemos ignorar cualquier consideración sobre los derechos, los intereses de los individuos, o sobre su conocimiento o su comprensión de tal apropiación».
Como ejemplo del ciclo de la desposesión, Zuboff analiza el caso de Street View. Recuerdo el entusiasmo con el que acogimos la llegada del «coche de Google» a la calle del instituto donde trabajo. Al poco tiempo, en internet, todo el mundo podía ver a un profesor tras la verja del edificio, y a otros compañeros que salían del instituto para ir a desayunar. Nadie les había pedido permiso para utilizar su imagen. Tampoco nos indignamos; para nosotros aquello era divertido e inevitable. No sabíamos que participábamos en la primera fase de la desposesión: «la incursión en un espacio desprotegido».
Otro ejemplo que Zuboff disecciona es el juego de Pokémon GO, que nació de Google Maps. Pokémon Go «generaba fuentes continuas de excedente conductual». En el verano de 2016 veíamos a grupos de adolescentes que corrían por las calles; se detenían en algún punto y gritaban: «¡Lo tengo!». ¿Qué estaba sucediendo? Era algo tan anómalo que terminamos considerándolo normal.
La segunda fase del ciclo de la desposesión es la habituación. Las investigaciones en instituciones democráticas y la elaboración de nuevas leyes son procesos tan lentos que los capitalistas de la vigilancia continúan con sus prácticas a gran velocidad. En la tercera fase las compañías realizan modificaciones superficiales, ligeros lavados de cara que les permiten pasar, sin mayor problema, a la fase cuatro, la redirección: «la migración que hace que estas plataformas vayan siendo sucesiva y progresivamente fuentes digitales de datos, vigilantes que monitorizan el mundo real».
El concepto de rendición-conversión (rendition) abarcaría el conjunto de operaciones con las que se lleva a cabo la desposesión, la conversión de la experiencia en datos. Hablamos de «hogar inteligente», del «internet de las cosas», compramos sofisticados aparatos —como el robot de limpieza— que suministran información a través de las aplicaciones que instalamos en nuestros móviles. Nuestro cuerpo también es objeto de operaciones de rendición-conversión: desde nuestro teléfono, con los datos sobre ubicación, con las pulseras de actividad, o con inocentes aplicaciones como las destinadas al control de la diabetes. Facebook habla de que ya puede detectar rostros casi de la misma forma que lo haría un ser humano; y también detecta nuestras emociones.
EL TITIRITERO QUE MUEVE LOS HILOS: DE ORWELL A SKINNER
El capitalismo de la vigilancia es el titiritero que mueve los hilos del aparato digital, ese títere al que Zuboff llama «el Gran Otro». Y el instrumentarismo sería una especie de poder que se definiría como «la instrumentación e instrumentalización de la conducta a efectos de su modificación, predicción, monetización y control».
No hay precedentes para este fenómeno, pero sí existen precedentes sobre cómo se ha actuado ante nuevas formas de poder que no tenían precedentes, como sucedió con el totalitarismo, un proyecto político que «en convergencia con la economía» descubrió «unos medios de dominar y de aterrorizar a los seres humanos desde dentro», escribió Hannah Arendt. El instrumentarismo es un proyecto de mercado «en convergencia con lo digital», que «opera a través de los medios de la modificación conductual».
Shoshana Zuboff analiza la esencia del capitalismo de la vigilancia a partir de dos novelas: Walden Dos (1948), del conductista radical B. F. Skinner, y 1984 (1949) de George Orwell. Muchos identifican la situación actual con la novela 1984, en la que Orwell mostraba el totalitarismo como «la implacable insistencia en la posesión absoluta» del ser humano, «desde su interior mismo». Sin embargo es la «utopía» que Skinner creaba en Walden Dos la que podría materializarse si el poder «instrumentario» continúa creciendo. En Walden Dos «la ingeniería conductual», la tecnología de la conducta, generaba una sociedad igualitaria y feliz. Carecía de importancia que los habitantes de Walden Dos desconociesen los resortes que movían los hilos. Por otra parte, para Skinner la democracia era un sistema político que engañaba con una falsa ilusión de libertad, y obstaculizaba el dominio de la ciencia.
Con el poder instrumentario la experiencia humana queda reducida a «comportamientos observables medibles». Pero al instrumentarismo le resulta indiferente lo que signifique esa experiencia. Zuboff llama a esta forma de conocer la «indiferencia radical».
HACIA LA «COMUNIDAD GLOBAL»
El poder estar conectados es el «objetivo social» que enarbolan los capitalistas de la vigilancia. Y, sin embargo, la confianza social va cayendo en Estados Unidos, en Europa y en otros lugares del mundo. Paralelamente se muestran unos niveles bajos de «confianza en la autoridad legítima», y algunos estudiosos hablan de una «recesión democrática» global. Esto crea un vacío que provoca «confusión, incertidumbre y desconfianza». En Los orígenes del totalitarismo Hannah Arendt señalaba que las ideologías totalitarias se convirtieron en «el último asidero en un mundo donde nadie es fiable y en donde no puede confiarse en nada».
El Gobierno de China está impulsando el desarrollo de un sistema de «reputación social», cuyo objetivo sería aprovechar la gran cantidad de datos personales, para mejorar la conducta de los ciudadanos. Aquí es el Estado el que dirige las maniobras, como un proyecto político orientado a la perpetuación del poder. En Occidente, en cambio, el Estado debe negociar con las grandes empresas capitalistas de la vigilancia, que ajustan sus prácticas «como un guante a la noción del progreso tecnológico ilimitado que dominó el pensamiento utópico desde finales del siglo XVIII y hasta finales del XIX, y que culminó con Marx». Así, en 2017, Zuckerberg declaraba de este modo el papel histórico de Facebook al instaurar las bases de una «comunidad global»: «En el futuro, la tecnología va a (...) liberarnos para que pasemos más tiempo haciendo aquellas cosas que de verdad nos importan».
¿Y LOS USUARIOS?
Los videojuegos fueron el comienzo de la adicción a las nuevas tecnologías. Facebook y otras redes sociales tomaron el testigo de esta plaga que ha generado una nueva dependencia. La ideología de la debilidad humana, para la que nuestro pensamiento es irracional e incapaz de detectar y controlar sus fallos, contrasta con la figura de esos genios y emprendedores heroicos, que lideran las empresas del capitalismo de la vigilancia, y que pueden hablar del futuro que más nos conviene.
Ellos saben demasiado y nuestra ignorancia juega a su favor. Saben, por ejemplo, lo que genera darle al botón «me gusta» —«la innovación más trascendental de Facebook en ingeniería conductual»—, ese chute de dopamina para quien ha publicado un estado, una fotografía, un enlace… En ese instante de euforia, puede que aparezca en nuestro muro el anuncio de unas botas que hemos visto en la página web de una marca. Es el «arreo» cuyo objetivo es incitarnos a darle a otro botón, el de «comprar».
Muchos jóvenes y adolescentes sueñan con un exitoso futuro en las redes, con miles de seguidores y cientos de «me gusta». Empezaron a conformar su personalidad y a conocerse a sí mismos mirándose desde fuera. Y todo esto tiene ya consecuencias: trastornos psíquicos como el FOMO (fear of missing out), una ansiedad social producida por la sensación de que los otros viven una vida mejor que la nuestra. O lo que se ha llamado «efecto enfriador extendido»: «Censuramos y cuidamos nuestra conducta en el mundo real, teniendo en cuenta nuestras redes, e internet». En la obra de teatro A puerta cerrada de Jean-Paul Sartre, el personaje de Garcin llegaba a la conclusión de que «el infierno son los otros», en el sentido de que no podemos ser nosotros mismos si los otros están «mirando» constantemente.
LA JUSTICIA COMO NUEVA FRONTERA DE COLONIZACIÓN PARA EL PODER
«Necesitamos leyes que nieguen toda legitimidad fundamental a las declaraciones del capitalismo de la vigilancia y que interrumpan sus operaciones más básicas», señala Shoshana Zuboff. En Estados Unidos resulta más difícil por las interpretaciones jurídicas de la Cuarta Enmienda. Por ello son muchas las esperanzas puestas en el Reglamento General de Protección de Datos (RGPD), que entró en vigor en mayo de 2018.
Fue en España, en agosto de 2011, cuando por primera vez noventa ciudadanos se enfrentaron a Google, reclamándole su «derecho al olvido» ante la Agencia Española de Protección de Datos, que les dio la razón. Google recurrió ante el Tribunal Supremo español, que seleccionó uno de los noventa casos «para elevar al Tribunal de Justicia de la Unión Europea (TJUE) una petición de decisión prejudicial. El TJUE publicó en mayo de 2014 su fallo favorable para confirmar el derecho al olvido como uno de los principios fundamentales del derecho comunitario».
El capitalismo de la vigilancia es una «fuerza social profundamente antidemocrática». Recordemos el caso de Cambridge Analytica, con las campañas de desinformación política y de noticias falsas con «fines lucrativos», durante la campaña del referéndum del Brexit en Reino Unido, y la campaña electoral de las presidenciales estadounidenses en 2016. Pensemos en tantas noticias falsas que circulan por las redes sociales. ¿Acaso Facebook no tiene poder para controlarlas y eliminar los perfiles falsos que las generan? ¿Solo es capaz de detectar la fotografía artística de la portada de un libro porque en ella aparece el torso desnudo de una mujer? ¿Instagram solo puede inferir que una persona está en riesgo de suicidio porque ha subido la foto de un paisaje tomada a través de una alambrada?
LA DECLARACIÓN DE NUESTRO DERECHO AL TIEMPO FUTURO
El capitalismo de la vigilancia nos despierta indignación «porque degrada la dignidad humana»; pero, a partir de ahí, es importante abstraer este fenómeno, ponerle nombre a las cosas para así poder domesticarlas.
En La vida del espíritu Hannah Arendt analizó la voluntad como el «órgano del futuro». Para Shoshana Zuboff la voluntad de escribir El capitalismo de la vigilancia es su «declaración de su derecho al tiempo futuro», que debería considerarse como un derecho humano más porque «es ahora cuando empieza a correr peligro». Debemos corregir lo que hemos hecho mal, evitar que nuestros jóvenes sean esos fantasmas del tiempo futuro que Scrooge veía en el Cuento de Navidad de Dickens. Debemos recuperar el futuro digital como un «hogar para la humanidad». El «refugio del hogar» del que Bachelard hablaba en La poética del espacio, como nuestro modo original de vivir y como una forma de dar sentido a la experiencia.
Mi hija, Carmen Huertas, especialista en Derecho y Tecnología, me enseñó la frase: «Dios perdona y olvida, pero la web, nunca», pronunciada por Viviane Reding. Durante el año 2017, mantuvimos muchas conversaciones acerca del «Derecho al olvido digital», el tema sobre el que ella investigaba en su trabajo fin de máster. En el verano de 2020, en una casa de Tilburgo, Carmen me habló con entusiasmo de un libro que aún no se había traducido al español, The Age of Surveillance Capitalism: «Tienes que leerlo, mamá, te encantará. Trata de derecho y tecnología, pero también de filosofía y literatura. Mira, incluso menciona a Machado», dijo señalando en una página los versos del poeta. Sí, tenemos derecho a un tiempo futuro, para nosotros, para nuestros hijos, para las próximas generaciones porque, como escribía Antonio Machado: «Caminante, no hay camino, se hace camino al andar».
Carmen Anisa
Carmen Anisa es profesora de Lengua y Literatura en un instituto de Lucena, Córdoba. Ha obtenido diversos premios literarios, como el
premio a la mejor obra teatral de autor andaluz, con Foto familiar (2001), en el Concurso Nacional de textos teatrales Luis Barahona de Soto. Ha colaborado en presentaciones literarias,
jornadas culturales o catálogos de exposiciones. Desde 2011 escribe en su blog De nada puedo ver el todo, y también publica reseñas en la revista digital Tendencias
21.