Lo que en otra época podría haberse llamado «publicidad» ahora debe entenderse como modificación continua de la conducta a una escala colosal. Por favor, no te ofendas. Sí, estoy sugiriendo que podrías estar convirtiéndote, un poquito, en un perro adiestrado, o en algo menos simpático, como una rata de laboratorio o un robot. Que clientes de grandes empresas te están controlando a distancia, un poquito. Pero, si estoy en lo cierto, tomar conciencia de ello podría liberarte. Así que… ¿por qué no me das una oportunidad?
Está sucediendo algo completamente novedoso. Apenas en los últimos cinco o diez años, prácticamente todo el mundo ha empezado a llevar consigo en todo momento un pequeño dispositivo llamado «teléfono inteligente», apto para la modificación algorítmica de la conducta. Muchos de nosotros empleamos asimismo otros dispositivos similares, como los denominados «altavoces inteligentes», en la encimera de la cocina o el salpicadero del coche. Nos siguen el rastro y miden lo que hacemos constantemente, y nos devuelven reacciones prediseñadas todo el tiempo. Poco a poco, unos ingenieros a los que no vemos nos van hipnotizando con intenciones que desconocemos. Somos animales de laboratorio.
Estás perdiendo el libre albedrío. Bienvenido a la jaula que te acompaña dondequiera que vayas.
Está sucediendo algo completamente novedoso. Apenas en los últimos cinco o diez años, prácticamente todo el mundo ha empezado a llevar consigo en todo momento un pequeño dispositivo llamado «teléfono inteligente», apto para la modificación algorítmica de la conducta. Muchos de nosotros empleamos asimismo otros dispositivos similares, como los denominados «altavoces inteligentes», en la encimera de la cocina o el salpicadero del coche. Nos siguen el rastro y miden lo que hacemos constantemente, y nos devuelven reacciones prediseñadas todo el tiempo. Poco a poco, unos ingenieros a los que no vemos nos van hipnotizando con intenciones que desconocemos. Somos animales de laboratorio.
Los algoritmos se atiborran de datos sobre nosotros cada segundo. ¿En qué tipo de enlaces hacemos clic? ¿Qué vídeos vemos hasta el final? ¿Cuánto tardamos en pasar de una cosa a la siguiente? ¿Dónde estamos cuando hacemos estas cosas? ¿Con quién tenemos contacto, en persona y a través de internet? ¿Qué expresiones faciales mostramos? ¿Cómo cambia nuestro tono de piel en distintas situaciones? ¿Qué estábamos haciendo justo antes de comprar algo, o de no comprarlo? ¿Votamos o no votamos?
Todas estas mediciones, y muchas más, se comparan con otras similares sobre la vida de multitud de personas obtenidas mediante espionaje masivo. Los algoritmos establecen correlaciones de lo que hacemos con lo que hacen casi todos los demás. Los algoritmos no nos entienden realmente, pero los datos confieren poder, sobre todo en grandes cantidades. Si a muchas otras personas a las que les gustó la misma comida que a nosotros les desagrada ver imágenes de un candidato enmarcadas en color rosa en lugar de en azul, probablemente a nosotros también, y no hace falta que nadie sepa por qué es así. Las estadísticas son fiables, pero solo como autómatas idiotas.
¿Estamos tristes, nos sentimos solos o asustados? ¿Alegres, confiados? ¿Tenemos la regla? ¿Estamos experimentando un pico de ansiedad laboral?
Supuestos anunciantes pueden aprovechar el momento en que estamos perfectamente predispuestos para influir en nosotros con mensajes que han funcionado en otras personas con las que compartimos rasgos y situaciones.
Digo «supuestos» porque no está bien llamar publicidad a la manipulación directa de las personas. Antes los anunciantes tenían contadas ocasiones para intentar vender sus productos, y ese intento podía ser subrepticio o molesto, pero era pasajero. Además, muchísima gente veía el mismo anuncio en televisión o en prensa: no estaba adaptado a cada individuo. La mayor diferencia era que no se nos monitorizaba y evaluaba continuamente para poder enviarnos estímulos optimizados de forma dinámica —ya fuesen «contenidos» o anuncios— para captarnos y alterarnos. Ahora todo aquel que está presente en las redes sociales recibe estímulos que se ajustan de manera individual y continua, sin descanso, siempre que se use el teléfono móvil. Lo que en otra época podría haberse llamado «publicidad» ahora debe entenderse como modificación continua de la conducta a una escala colosal. Por favor, no te ofendas. Sí, estoy sugiriendo que podrías estar convirtiéndote, un poquito, en un perro adiestrado, o en algo menos simpático, como una rata de laboratorio o un robot. Que clientes de grandes empresas te están controlando a distancia, un poquito. Pero, si estoy en lo cierto, tomar conciencia de ello podría liberarte. Así que… ¿por qué no me das una oportunidad?
Antes de que se inventasen los ordenadores, surgió un movimiento científico llamado «conductismo». Los conductistas estudiaban maneras nuevas, más metódicas, asépticas y sesudas, de adiestrar a los animales y a los humanos. Un célebre conductista fue B. F. Skinner, quien ideó un sistema conocido como «caja de Skinner», donde encerraba animales que recibían recompensas cuando hacían algo en particular. No había nadie acariciando o susurrando al animal, sino solo una acción aislada puramente mecánica: una nueva forma de adiestramiento para la época moderna. Diversos conductistas, muchos de los cuales eran bastante siniestros, aplicaron este método en personas. Las estrategias conductistas a menudo lograban resultados, lo que hizo que todo el mundo se pusiese de los nervios, y acabaron dando lugar a numerosos guiones de películas de ciencia ficción y de terror sobre «control mental» de lo más inquietantes.
Una circunstancia desafortunada es que se puede adiestrar a alguien usando técnicas conductistas y que la persona ni siquiera sea consciente de ello. Hasta hace muy poco tiempo, esto sucedía muy rara vez: únicamente si uno aceptaba someterse a pruebas experimentales en el sótano de la facultad de Psicología de alguna universidad. En ese caso, entraba en una sala donde se le realizaban las pruebas mientras alguien lo observaba a través de un espejo unidireccional. Aunque el sujeto sabía que se estaba llevando a cabo un experimento, ignoraba cómo estaba siendo manipulado. Al menos, uno daba su consentimiento para que lo manipulasen de alguna forma. (Bueno, no siempre. Se llevó a cabo toda clase de crueles experimentos con prisioneros, pobres y, sobre todo, con gente de determinadas razas). Este libro argumenta de diez maneras que lo que de pronto se ha convertido en algo normal —la vigilancia generalizada y la manipulación sutil y constante— es inmoral, cruel, peligroso e inhumano. ¿Peligroso? Desde luego. Porque ¿quién sabe quién podría usar ese poder, y para qué?
El científico loco se preocupa por el perro enjaulado.
Quizá hayas oído las quejumbrosas confesiones de los fundadores de imperios basados en redes sociales, que yo prefiero llamar «imperios de modificación de la conducta».
Esto es lo que dice Sean Parker, el primer presidente de Facebook: Tenemos que proporcionarle como un pequeño chute de dopamina cada cierto tiempo, porque alguien le ha dado a «me gusta» o comentó una foto, una publicación o lo que sea […]. Es un bucle de retroalimentación de validación social […], exactamente una de esas cosas que inventaría un hacker como yo para explotar un punto débil en la psicología humana […]. Los inventores, los creadores —alguien como yo, Mark [Zuckerberg], Kevin Systrom de Instagram, toda esa gente—, lo entendíamos de manera consciente. Y, aun así, lo hicimos […]. Cambia literalmente la relación de la persona con la sociedad, con los demás […]. Probablemente interfiera en la productividad de formas inesperadas. A saber lo que está haciendo en los cerebros de nuestros hijos.
Y esto, lo que afirma Chamath Palihapitiya, exvicepresidente de crecimiento de usuarios en Facebook:
A corto plazo, los bucles de retroalimentación a base de dopamina que hemos creado están destruyendo la manera en que funciona la sociedad […]. Ni debate público civilizado ni cooperación: desinformación, afirmaciones engañosas. Y no se trata de un problema estadounidense, no tiene nada que ver con la publicidad rusa. Es un problema global […]. Siento una tremenda culpabilidad. Creo que, en el fondo, todos lo sabíamos, aunque fingíamos que nos creíamos la idea esta de que probablemente no habría consecuencias imprevistas negativas. Pienso que, en el fondo, en lo más profundo, sabíamos que algo malo podía ocurrir […]. Así que, en mi opinión, la situación ahora mismo es realmente nefasta. Está erosionando los cimientos de cómo se comportan las personas entre sí. Y no tengo una buena solución. Mi solución es que he dejado de usar esas herramientas. Hace ya años.
Más vale tarde que nunca. Muchos críticos como yo llevamos ya mucho tiempo avisando de que estaba sucediendo algo malo, pero el hecho de escucharlo de quienes lo hicieron supone un avance, un paso adelante.
Durante años tuve que soportar dolorosas críticas de amigos de Silicon Valley que me veían como un traidor por criticar lo que estaban haciendo. Últimamente tengo el problema contrario. Explico que, por lo general, la gente de Silicon Valley es decente, y pido que no se les convierta en villanos. Y decir eso me cuesta muchas críticas. Es difícil saber si soy demasiado duro o demasiado blando con mis colegas. La cuestión más importante es si todas estas críticas tendrán alguna repercusión. Lo que innegablemente forma parte ya del debate público es que una mala tecnología nos está haciendo daño, pero ¿seremos capaces —lo serás tú— de resistir y contribuir a conducir el mundo hacia un lugar mejor?
Compañías como Facebook, Google y Twitter están intentando por fin arreglar algunos de los enormes problemas que han creado, aunque muy poco a poco. ¿Se debe esto a la presión que se ejerce sobre ellos o a que consideran que es lo que deben hacer? Probablemente, un poco de cada.
Las empresas están cambiando sus políticas, contratando a personas para supervisar lo que sucede y a científicos de datos para desarrollar algoritmos que eviten los peores errores. El antiguo lema de Facebook era «Muévete rápido y rompe cosas» [6] , y ahora están ideando lemas mejores y recogiendo unos cuantos de los pedazos de un mundo roto para volverlos a pegar.
Este libro sostiene que lo que hagan las compañías por sí solas no bastará para recomponer el mundo.
Como la gente de Silicon Valley está mostrando remordimientos, cabría pensar que ahora solo hay que esperar a que solucionen el problema. Pero las cosas no funcionan así. Si no formas parte de la solución, no habrá solución. Esta primera razón expondrá unos cuantos conceptos clave en los que se basa el diseño de adictivos y manipuladores servicios en red. La concienciación es el primer paso hacia la libertad.
La zanahoria y la argucia
Parker afirma que Facebook favoreció deliberadamente que la gente se enganchase, mientras que Palihapitiya habla acerca de los efectos negativos sobre las relaciones y la sociedad. ¿Cuál es la conexión entre estos dos mea culpa? El proceso esencial que permite que las redes sociales ganen dinero y que, al mismo tiempo, provoca daños en la sociedad es la modificación de la conducta. Esta modificación de la conducta conlleva técnicas metódicas que alteran los patrones de comportamiento en animales y personas, y, si bien puede emplearse para tratar adicciones, también sirve para crearlas.
El daño a la sociedad se produce porque la adicción enloquece. El adicto pierde progresivamente el contacto con el mundo y las personas reales. Cuando mucha gente se vuelve adicta a mecanismos manipuladores, el mundo se desquicia y se vuelve oscuro.
La adicción es un proceso neurológico que no entendemos por completo. Un neurotransmisor, la dopamina, desempeña un papel protagonista en la obtención de placer y se cree que es esencial en el mecanismo de alteración de la conducta en respuesta a la obtención de recompensas. Esta es la razón por la que Parker lo menciona.
La modificación de la conducta, especialmente la versión moderna que se pone en marcha mediante dispositivos como los teléfonos inteligentes, es un efecto estadístico, lo cual significa que es real, pero no se da en todos y cada uno de los casos: en una población, el efecto es más o menos predecible, si bien no se puede saber si se producirá en cada individuo concreto. Hasta cierto punto, somos animales en la jaula experimental de un conductista. No obstante, el hecho de que algo sea difuso o aproximado no significa que no sea real.
Originalmente, las recompensas en forma de alimentos eran las más habituales en los experimentos conductistas, aunque esta práctica se remonta a la Antigüedad. Todo adiestrador de animales lo hace: cuando un perro realiza un truco, recibe una pequeña chuchería. También lo hacen muchos padres con sus hijos pequeños. Es famoso el caso de uno de los primeros conductistas, Iván Pávlov, quien demostró que no necesitaba usar un alimento real. Pávlov hacía sonar una campana cuando daba de comer a un perro, y con el tiempo el perro acababa salivando con solo oír la campana.
Usar símbolos en lugar de recompensas reales se ha convertido en un truco esencial de la caja de herramientas para la modificación de la conducta. Por ejemplo, para resultar adictivo, un juego para el teléfono móvil como Candy Crush usa imágenes brillantes de caramelos en lugar de caramelos auténticos. Otros videojuegos adictivos pueden utilizar imágenes de monedas resplandecientes, o algún otro tesoro. Los patrones adictivos de placer y recompensa en el cerebro —el «pequeño chute de dopamina» que menciona Sean Parker— están en la base de la adicción a las redes sociales, pero no son el único elemento que interviene, pues también emplean castigos y refuerzos negativos.
En los laboratorios conductistas se han usado varios tipos de castigo. Las descargas eléctricas fueron populares durante un tiempo. Sin embargo, al igual que sucede con las recompensas, los castigos no tienen por qué ser necesariamente reales y físicos. A veces los experimentos deniegan puntos o regalos a un participante. Cuando usamos las redes sociales, recibimos el equivalente tanto de las recompensas como de las descargas eléctricas.
La mayoría de los usuarios de redes sociales se han topado con perfiles fraudulentos , rechazo injustificado, desprecio u ostracismo, sadismo explícito, o todo lo anterior y cosas aún peores. Así como la zanahoria y el palo funcionan conjuntamente, las reacciones desagradables pueden desempeñar un papel tan importante como las agradables en la adicción y en la subrepticia modificación de la conducta.
El atractivo del misterio
Cuando Parker usa la expresión «cada cierto tiempo», es probable que se estuviera refiriendo a uno de los curiosos fenómenos que los conductistas descubrieron al estudiar tanto a animales como a personas. Si alguien obtiene una recompensa —ya sea en forma de consideración social positiva o de un caramelo— cada vez que hace algo específico, tenderá a hacerlo más. Cuando la gente recibe una respuesta halagadora a cambio de publicar algo en las redes sociales, adquiere la costumbre de publicar más a menudo.
Esto parece algo relativamente inocente, pero puede ser el primer paso hacia una adicción que acabe siendo un problema tanto para los individuos como para la sociedad. Aunque la gente de Silicon Valley tiene una expresión aséptica para esta fase, «captación», nos produce la suficiente desconfianza como para que evitemos que nuestros hijos se acerquen a ella. Muchos de los hijos de gente de Silicon Valley que conozco van a colegios Waldorf, que por lo general prohíben los dispositivos electrónicos.
Volvamos sobre ese fenómeno sorprendente: no es que las reacciones positivas y negativas funcionen, sino que, si esas reacciones tienen un componente aleatorio e impredecible, pueden ser más captadoras que si son perfectamente predecibles.
Si de niños recibimos un caramelo justo después de cada vez que damos las gracias, es probable que empecemos a hacerlo más a menudo. Pero supongamos que de vez en cuando no hay caramelo. Podríamos suponer que eso nos llevaría a dar las gracias con menos frecuencia. Al fin y al cabo, no genera la recompensa con tanta regularidad como antes.
Pero a veces sucede lo contrario. Es como si nuestro cerebro, un buscador innato de patrones, fuese incapaz de resistirse al reto. «Tiene que haber algún otro truco», murmura nuestra obsesiva mente. Seguimos dando las gracias, confiando en que se manifieste un patrón más profundo, aunque no hay más que una insondable aleatoriedad.
Para un científico, es razonable quedar fascinado por un patrón que no acaba de tener sentido. Quizá eso signifique que hay algo más que descubrir. Y es una herramienta estupenda de la que echar mano al escribir un guion. Una pequeña dosis de incongruencia hace que una trama o un personaje resulten más fascinantes. Pero en muchas situaciones es una base terrible de fascinación. El atractivo de las reacciones impredecibles es, con toda probabilidad, lo que arrastra a muchas personas a relaciones horribles de «codependencia» en las que son maltratadas. Un toque de aleatoriedad es algo muy fácil de generar en las redes sociales: puesto que los algoritmos no son perfectos, la aleatoriedad es intrínseca. Pero, más allá de eso, los hilos de contenido normalmente se generan de tal manera que incluyan un grado adicional de aleatoriedad deliberada. Al principio, el motivo para ello era básicamente matemático, no tenía que ver con la psicología humana. Los algoritmos de las redes sociales suelen ser «adaptativos», lo que significa que efectúan pequeños cambios sobre sí mismos en todo momento para intentar obtener mejores resultados. «Mejores» en este caso significa más seductores y, por tanto, más rentables. En este tipo de algoritmos siempre hay un poco de aleatoriedad. Supongamos que un algoritmo nos ofrece la posibilidad de comprar calcetines o acciones bursátiles unos cinco segundos después de haber visto un vídeo de gatos que nos ha puesto contentos. Un algoritmo adaptativo realizaría una comprobación automática de vez en cuando para averiguar qué sucede si se modifica el intervalo hasta, por ejemplo, cuatro segundos y medio. ¿Incrementa eso la probabilidad de compra? Si es así, tal ajuste temporal podría aplicarse en el futuro no solo a nuestro hilo de contenido, sino a los de miles de personas con las que tengamos alguna correlación aparente, por algún motivo que puede ir desde las preferencias de color a los patrones de conducción .
Los algoritmos adaptativos en ocasiones pueden atascarse: si un algoritmo ya no obtiene beneficios al introducir pequeñas modificaciones en su configuración, dejará de incorporar tales cambios. Si pasar a cuatro segundos y medio hace que seamos menos proclives a comprar calcetines, pero al probar con cinco segundos y medio también sucede lo mismo, el intervalo se mantendrá en los cinco segundos. Según la evidencia disponible, esos cinco segundos serán el mejor tiempo de espera posible. Si ninguna pequeña variación aleatoria ayuda, el algoritmo ya no se adapta más. Pero de los algoritmos adaptativos no se espera que dejen de adaptarse.
Supongamos que hacer cambios más sustanciales mejorase el resultado. Por ejemplo, quizá sería mejor introducir dos segundos y medio de espera. Pero las modificaciones incrementales no permitirían averiguarlo porque el algoritmo se quedó atascado en los cinco segundos. Esta es la razón por la que, a menudo, los algoritmos adaptativos también incorporan una dosis más infrecuente de mayor aleatoriedad. Cada cierto tiempo, un algoritmo encuentra una configuración mejor al desviarse sustancialmente de otra que era simplemente aceptable [9].
Con frecuencia, los sistemas adaptativos incluyen un mecanismo de salto de ese estilo. Un ejemplo es la ocurrencia de mutaciones útiles en la evolución natural, que suele estar animada por eventos más incrementales basados en la selección, en los cuales los genes de un individuo pasan a la siguiente generación o no. Una mutación es un comodín que abre nuevas posibilidades, un salto discordante. De vez en cuando, una mutación añade una característica extraña, nueva y positiva a una especie.
Por supuesto, los neurocientíficos se plantean si en el cerebro humano tiene lugar un proceso similar. Ciertamente, en nuestros cerebros se producen procesos adaptativos; es posible que estén predispuestos a buscar sorpresas, porque la naturaleza aborrece la rutina.
Cuando un algoritmo suministra experiencias a una persona, resulta que la aleatoriedad que lubrica la adaptación algorítmica también puede inducir la adicción. El algoritmo está buscando los parámetros perfectos para manipular el cerebro, mientras que este, en su intento de encontrar un significado más profundo, cambia en respuesta a los experimentos del algoritmo: juegan al ratón y el gato apoyándose en matemática pura. Como los estímulos del algoritmo no tienen ningún significado, puesto que son puramente aleatorios, el cerebro no se está adaptando a nada real, sino a una ficción. Ese proceso —de engancharse a un espejismo escurridizo— es la adicción. Mientras el algoritmo intenta huir de la rutina, el cerebro se engancha a una. Los pioneros del aprovechamiento en internet de esta intersección entre las matemáticas y el cerebro humano no fueron las compañías de redes sociales, sino los creadores de tragaperras digitales como el videopóquer y, posteriormente, de los sitios de apuestas en internet. De vez en cuando, los pioneros del mundo de las apuestas se quejan de que las empresas de redes sociales plagiaron sus ideas y ganaron más dinero, aunque, por lo general, cuentan que las redes sociales los ayudan a identificar a sus usuarios potenciales más prometedores.
El cielo y el infierno son los otros.
Las redes sociales añaden otra dimensión de estímulos: la presión social. Las personas son particularmente sensibles al estatus, la opinión y la competición social. A diferencia de la mayoría de los animales, no solo nacen incapaces de valerse por sí mismas, sino que lo siguen siendo durante años. Solo sobrevivimos si mantenemos buenas relaciones con los demás miembros de nuestra familia y el resto de personas. Los aspectos sociales no son rasgos accesorios del cerebro humano: son esenciales.
La fuerza de lo que piensen los demás ha demostrado tener capacidad suficiente para modificar el comportamiento de los sujetos participantes en estudios famosos como el experimento de Milgram o el de la cárcel de Stanford. Personas normales, sin antecedentes penales, fueron obligadas a hacer cosas horribles, como torturar a otras, usando únicamente la presión social.
En las redes sociales, la manipulación de las emociones sociales ha sido la manera más fácil de generar recompensas y castigos. Esto podría cambiar algún día, cuando los drones empiecen a lanzar caramelos desde el cielo cada vez que hagamos lo que el algoritmo quiere, pero de momento todo gira en torno a las sensaciones que podemos experimentar, principalmente sensaciones relativas a lo que otras personas puedan pensar.
Por ejemplo, cuando tememos que no se nos considere interesantes, atractivos o con un alto estatus, nos sentimos mal. Ese temor es una emoción profunda. Duele.
Todo el mundo padece ansiedad alguna que otra vez, y todos los niños se han topado con algún abusón que usaba la ansiedad social como mecanismo de tortura, probablemente porque comportarse como un abusón hacía menos probable que él mismo acabase siendo víctima de acoso. Por eso las personas, incluso aquellas que normalmente serían decentes, suelen sumarse a los ataques contra quien sufre torturas de ansiedad social. Es tal el miedo que sienten ante el dolor real que causa la ansiedad que pueden dejarse llevar temporalmente por sus bajos instintos.
Esto no significa que todas las emociones sociales sean negativas. Cuando interactuamos con otras personas también podemos experimentar camaradería, compasión, respeto, admiración, gratitud, esperanza, empatía, intimidad, atracción y todo un mundo de sensaciones positivas. Pero, en el lado negativo, también podemos sentir emociones como miedo, hostilidad, ansiedad, resentimiento, repulsión, envidia y el deseo de ridiculizar al otro.
Si una emoción de origen social puede actuar como castigo o recompensa, ¿cuál de las dos es más efectiva a la hora de alterar a las personas? Esta cuestión se estudia desde hace tiempo, y parece que la respuesta depende de la población que se analice en cada situación. Cierto estudio sugiere que los niños pequeños responden mejor a las recompensas que a los castigos, aunque a partir de los doce años podría darse la situación opuesta. Otro estudio indica que el castigo funciona mejor que la recompensa para manipular a los estudiantes universitarios. He aquí un compendio de varias investigaciones según el cual la aprobación es más eficaz a la hora de motivar a trabajadores adultos. Es posible que la naturaleza de la tarea determine qué tipo de respuesta es más efectiva [16] , como sucede con la manera en la que se describe la tarea.
Todo un corpus de investigaciones académicas compara la fuerza de las reacciones positivas y negativas, pero esa no es la cuestión clave para el diseño de plataformas de redes sociales comerciales, que están interesadas principalmente en reducir costes y aumentar el rendimiento maximizando así los beneficios. Con independencia de si, en teoría, las respuestas positivas o las negativas son más efectivas en ciertos casos, la verdad es que estas últimas son las más baratas, la mejor opción desde el punto de vista empresarial, por lo que son las que están más presentes en las redes sociales.
Las emociones negativas como el miedo y la ira se desbordan con mayor facilidad y nos embargan durante más tiempo que las positivas. Se tarda más en generar confianza que en perderla. Las respuestas reflejas se producen en cuestión de segundos, mientras que puede llevar horas recuperar la calma.
Esto es cierto en la vida real, pero lo es aún más bajo la luz plana de los algoritmos.
No hay ningún genio malvado metido en un cubículo de ninguna de las compañías de redes sociales realizando cálculos y llegando a la conclusión de que hacer que las personas se sientan mal es más «seductor» y por lo tanto más provechoso que hacer que se sientan bien. O, al menos, nunca he conocido ni he oído hablar de nadie así.
La disposición primordial de ser seductor se refuerza a sí misma, y nadie se da cuenta siquiera de que las emociones negativas se están amplificando más que las positivas. No se pretende que la captación sirva a ningún otro propósito más allá de su propio aumento, a pesar de lo cual el resultado es una amplificación global antinatural de las emociones «fáciles», que se da la circunstancia de que son las negativas.
El bit como cebo
Desde una perspectiva más amplia, en la que no basta con que las personas cumplan las normas para que nuestra especie prospere, el conductismo es una manera inadecuada de entender la sociedad. Si lo que se desea es propiciar resultados creativos y de alto valor en lugar de alentar el aprendizaje mecánico, entonces la recompensa y el castigo no son, ni mucho menos, las herramientas correctas. Hay una larga serie de investigadores que han estudiado esta cuestión, empezando por Abraham Maslow en la década de 1950 y siguiendo por muchos otros, entre los que se encuentra Mihály Csíkszentmihályi (y a los que hay que añadir escritores como Daniel Pink). En lugar de aplicar los sencillos mecanismos del conductismo, debemos reflexionar sobre las personas de maneras más creativas, sobre todo si esperamos que estas sean creativas. Debemos fomentar la alegría, los retos intelectuales, la individualidad, la curiosidad y otras cualidades que no encajan en una gráfica ordenada.
Pero la rigidez de la tecnología digital, la naturaleza de sí o no del bit, tiene algo que resulta atractivo para la mentalidad conductista. La recompensa y el castigo son como el uno y el cero. Por ejemplo, no sorprende saber que B. F. Skinner tuvo un papel destacado en los inicios de las redes digitales. Skinner veía las redes digitales como una manera ideal de adiestrar a la población para la clase de utopía a la que aspiraba, donde por fin todo el mundo se comportaría como es debido. Uno de sus libros se titulaba Más allá de la libertad y la dignidad. ¡Más allá! El término «captación» forma parte del lenguaje aséptico que oculta lo estúpida que es la máquina que hemos construido. Tenemos que empezar a emplear expresiones como «adicción» y «modificación de la conducta» Veamos otro ejemplo de lenguaje aséptico: seguimos llamando «anunciantes» a los clientes de las compañías de redes sociales (y, si hemos de ser justos, muchos de ellos lo son) Quieren que compremos una determinada marca de jabón o de lo que sea. Pero también pueden ser unos tipos horribles, asquerosos y escurridizos que buscan socavar la democracia. Por eso yo prefiero referirme a esta clase de personas como «manipuladores».
Lo siento por los vendedores de jabón… De hecho, puedo dar fe de que la gente que trabaja en empresas como Procter & Gamble es estupenda —he conocido a unos cuantos— y de que su mundo sería más feliz si no estuviesen en deuda con las compañías de redes sociales.
En sus inicios, la publicidad en internet realmente era solo publicidad. Pero, en poco tiempo, los avances en computación coincidieron con incentivos financieros ridículamente perversos, como se explicará en la siguiente razón. Lo que empezó siendo publicidad se transformó en lo que haríamos mejor en llamar «imperios de modificación de la conducta en alquiler» Esta transformación ha atraído con frecuencia a nuevos tipos de clientes/manipuladores, que no resultan muy agradables. Por desgracia, los manipuladores no pueden obtener cualquier resultado que deseen con la misma facilidad. No se les puede pagar a las compañías de redes sociales para que pongan fin a las guerras y hagan que todo el mundo sea amable. Las redes sociales tienen sesgos, no hacia izquierda o derecha, sino hacia abajo. La relativa facilidad con la que se usan emociones negativas para crear adicción y manipulación hace que sea relativamente más sencillo lograr resultados indignos. Una desafortunada combinación de biología y matemáticas favorece la degradación del universo humano. Las unidades de la guerra de la información influyen en las elecciones, los grupos de odio reclutan adeptos, y los nihilistas sacan un rendimiento asombroso de su dinero en sus intentos de derribar la sociedad.
La naturaleza improvisada de la transformación de la publicidad en modificación directa de la conducta provocó una explosiva amplificación de la negatividad en los asuntos humanos. Insistiremos más veces en la fuerza superior de las emociones negativas en la modificación de la conducta a medida que abordemos los efectos personales, políticos, económicos, sociales y culturales de las redes sociales.
Adicción, te presento el efecto de red
La adicción es en buena medida el motivo por el que muchos aceptamos que las tecnologías de la información que usamos nos espíen y nos manipulen, pero no es la única razón. Las redes digitales realmente nos proporcionan un valor. Posibilitan grandes mejoras de eficiencia y comodidad. Por eso tantos de nosotros dedicamos en su día un gran esfuerzo a hacerlas posibles.
Una vez que uno puede usar el dispositivo que lleva en el bolsillo para que un coche lo recoja y lo lleve adonde quiere ir o para encargar comida, es difícil renunciar a ello. Se nos olvida que, antes, las personas con enfermedades raras no tenían forma de encontrar a otra gente en sus mismas circunstancias, por lo que no tenían con quien hablar de sus inusuales problemas. Qué gran suerte que esto sea ahora posible. Pero los beneficios de las redes solo se manifiestan cuando las personas usan la misma plataforma. Si nadie quisiese ser conductor de Uber, esta aplicación en nuestro móvil no valdría absolutamente para nada. Si nadie quiere inscribirse en nuestra aplicación de encuentros, de nuevo, esta no sirve para nada.
La desgraciada consecuencia de lo anterior es que, una vez que una aplicación empieza a funcionar, todo el mundo queda atrapado en ella. Es difícil dejar una determinada red social y empezar a usar otra diferente, porque todo el mundo que conocemos ya está en la primera. En la práctica, es imposible que todas las personas en una sociedad obtengan una copia de sus datos, se cambien de una red a otra simultáneamente, y vuelquen a la vez sus recuerdos en esta última. Este tipo de efectos se conocen como «efectos de red» o «rediles» Son difíciles de evitar en las redes digitales. En un principio, muchos de los que trabajábamos para ampliar internet confiábamos en que lo que atraería a la gente —lo que lograría el efecto de red y convertirse en redil— sería la propia internet. Pero por entonces soplaban vientos libertarios, por lo que omitimos muchas funciones esenciales. Por ejemplo, internet por sí sola no incluía un mecanismo de identificación personal. Cada ordenador tiene su propio número, pero las personas no están representadas en absoluto. Asimismo, internet por sí sola tampoco ofrece ningún lugar donde almacenar ni siquiera una pequeña cantidad de información persistente, ninguna manera de hacer o recibir pagos, ni ninguna forma de encontrar personas con las que podríamos tener algo en común.
Todo el mundo sabía que se necesitarían estas y otras muchas funciones. Consideramos que sería más prudente dejar que fuesen los emprendedores los que rellenasen los huecos que hacer que el Gobierno se encargase de ello. Lo que no tuvimos en cuenta es que necesidades digitales fundamentales como las que acabo de enumerar llevarían a nuevas clases de gigantescos monopolios debido a los efectos de red y de redil. De forma ingenua, plantamos los cimientos de monopolios globales.
Hicimos el trabajo más difícil en su beneficio. Más concretamente, puesto que somos el producto, no el cliente de las redes sociales, el término adecuado es «monopsonios». Nuestro idealismo libertario inicial tuvo como consecuencia la aparición de colosales monopsonios de datos globales.
Uno de los motivos principales para borrar nuestras cuentas en las redes sociales es que carecemos de capacidad de elección real para pasar a usar otras diferentes. Abandonar las redes sociales por completo es la única opción para provocar cambios. Si no lo hacemos, no estamos creando el espacio dentro del cual Silicon Valley pueda hacer algo para mejorar.
La adicción y el libre albedrío son antónimos
La adicción nos convierte gradualmente en zombis. Estos carecen de libre albedrío. De nuevo, este no es el resultado en cada caso, sino que es algo estadístico. Nos volvemos más zombis, durante más tiempo, de lo que seríamos en otras circunstancias.
No hay por qué creer en el mito de las personas perfectas completamente exentas de adicciones. No existen. Nunca seremos perfectos o perfectamente libres, por muchos libros de autoayuda que leamos o por muchos servicios adictivos que dejemos de usar.
No existe el albedrío perfectamente libre. Nuestro cerebro modifica de manera continua sus rutinas para adaptarse a un entorno cambiante. ¡Es mucho esfuerzo y el cerebro se cansa! A veces se toma un respiro, desconecta y activa el piloto automático. Pero eso es distinto de estar a merced de manipuladores ocultos. Modificamos el comportamiento los unos de los otros todo el tiempo, y eso es algo positivo. Tendríamos que ser insensibles e indiferentes para no cambiar nuestra manera de actuar hacia alguien en respuesta a cómo reacciona esa persona. Cuando la modificación de la conducta mutua funciona bien, puede formar parte de aquello de lo que hablamos cuando hablamos de amor.
No debemos interpretar el libre albedrío como una intervención sobrenatural en el universo. Puede que exista cuando nuestra adaptación a los demás y al mundo posee una cualidad excepcionalmente creativa.
Así pues, el problema no es la modificación de la conducta en sí misma. El problema es la incesante, robótica y, en última instancia, absurda modificación de la conducta al servicio de manipuladores ocultos y algoritmos indiferentes. La hipnosis puede ser terapéutica siempre que confiemos en quien nos hipnotiza, pero ¿quién confiaría en un hipnotizador que trabaja para terceros desconocidos? ¿Quién? Al parecer, miles de millones de personas.
Pensemos en los miles de millones de dólares que ingresan todos los meses Facebook, Google y el resto del supuesto sector publicitario digital. La inmensa mayoría de ese dinero procede de entidades que aspiran a modificar nuestro comportamiento y que creen que están obteniendo resultados. Muchos de esos cambios de conducta son similares a los que intentan provocar los anuncios televisivos, como conseguir que compremos un coche o que vayamos a una cafetería.
Pero, a pesar de que, en cierto sentido, saben más sobre nosotros que nosotros mismos, las compañías no siempre conocen la identidad de los anunciantes, las entidades que se benefician de la manipulación que se ejerce sobre nosotros. Por ejemplo, los abogados de las empresas tecnológicas han testificado bajo juramento que las compañías no tenían forma de saber que los servicios de inteligencia rusos estaban intentando alterar las elecciones o fomentar las divisiones para debilitar a las sociedades.
Creo que, por lo general, el pensamiento paranoico es contraproducente. Nos deja inermes. Pero consideremos la presente situación. Sabemos que las redes sociales se han utilizado con éxito para perturbar nuestra sociedad, y que el precio de hacerlo es extraordinariamente bajo. Sabemos que compañías importantes ingresan una exorbitante cantidad de dinero y que no siempre saben quiénes son sus clientes. Por lo tanto, es probable que haya actores que nos estén manipulando —que te estén manipulando a ti— cuya identidad se desconoce.
Para liberarnos, para ser más auténticos, para ser menos adictos, para estar menos manipulados, para ser menos paranoicos… por todas estas excelentes razones: borra tus cuentas.
Fuente: Catedradatos
Fuente: Contrainfo
