La economía de la (des)confianza, parte 1
Nunca la reputación y la verificación han sido más valiosas, y más vulnerables
¿Cuánto vale confiar en alguien?
Es una pregunta un poco rara, porque la confianza no parece ser algo que puedes comprar, vender, o cuantificar.
Sin embargo, a ciertas personas les otorgamos las claves de nuestra cuenta bancaria —con un valor monetario que podríamos perder—. O preferimos ciertos productos —a veces pagando mucho más por ellos— exclusivamente por la confianza que nos generan. Reaccionamos a ciertas noticias con preocupación, curiosidad o interés asumiendo que son reales, y nos burlamos de otras que son evidentemente fake news.
Invertimos dinero, tiempo, energía y emociones a partir de la confianza.
Y, sin ser muy conscientes, manejamos un presupuesto de confianza. No es ilimitada. Yo puedo compartir las claves de mi banco a una o dos personas, pero definitivamente no a diez, ni a cien. Desarrollar confianza toma tiempo y cuesta trabajo, así que aprendemos a administrarla.
¿Qué pasa si, de pronto, la confianza pasa a ser un bien aún más escaso y se vuelve radicalmente más cara?
Tal vez por primera vez, vamos a comenzar a medir la confianza en términos económicos, porque los costos tanto de preservarla como de romperla han variado radicalmente. En particular, el costo de engañar ha bajado exponencialmente, y a su vez el costo de verificar está subiendo de la misma forma.
Y los números no dan.
Engañar a escala
Hace poco, cuentas de “noticias” en inglés de YouTube ligadas al gobierno de Venezuela fueron suspendidas recientemente por crear reportes falsos sobre la situación social en ese país. Los presentadores de noticias, aparentemente norteamericanos, eran inexistentes, creados por deepfakes de la empresa Synthesia.
La tecnología para producir imágenes sintéticas totalmente convincentes por computadora existe desde hace un par de décadas. Sin embargo, sus costos siempre fueron altísimos, con técnicas dolorosamente lentas y artesanales de captura, modelado y animación 3D. Por la misma razón, no salió de Hollywood por un buen tiempo.1 Invertir un millón de dólares para robarle $100 a una tía desprevenida no sonaba a buen negocio.
El tema es cuando esos costos bajan y las economías de escala se activan. Si robarle $100 a la tía desprevenida sale $10, o $1, más y más actores egoístas tendrán incentivos para intentarlo, y a un volumen mayor.
Y eso es lo que más me preocupa de los deepfakes del gobierno venezolano: su volumen. Se crearon al menos 10 cuentas en YouTube, TikTok y otras redes sociales, con grandes cantidades de videos “noticiosos” generados.
El volumen de material falso generado es relevante no sólo por el costo; lo es porque estamos habituados a que nuestra confianza aumente con la cantidad de información acumulada (que sea consistente entre sí). Si vemos un solo video de un perro que canta como Elvis, pensaremos que está trucado. Pero si vemos quince videos del mismo perro, cada uno desde ángulos distintos y en ubicaciones distintas, pasaremos a considerarlo absolutamente real.
Por eso creo que podemos entender el desarrollo de confianza (la de largo plazo2) como saturación de evidencia. Acumulamos las pruebas suficientes hasta llegar a un punto donde dejamos de chequear y pasamos a confiar. Tiene sentido que funcione así, porque estamos cableados para buscar y valorar las señales costosas, y saturar con evidencia no ha sido barato jamás en la historia humana.
Pero ¿qué sucede cuando el costo de saturar con toneladas de “evidencia” falsa se vuelve muy, muy bajo?
Desconfiar exponencialmente
La paradoja de Jevons (cuando un recurso se vuelve más eficiente, en lugar de usarse menos, se usa aún más) nos sugiere que si la generación de falsedades convincentes se abarata, se crearán nuevas formas de engaño.
Se podrán abrir, por ejemplo, e-commerces mostrando productos deseables y verosímiles pero completamente inexistentes, completos con reviews de usuarios hechos en lenguaje espontáneo y natural, y acumular pre-órdenes de clientes para luego desaparecer. Se podrá socavar la confianza en un medio con fines políticos, alimentándolos estratégicamente con noticias falsas para luego exponer su ingenuidad.
La reputación de cualquier persona, entidad o interacción será manchable, tanto atribuyéndole escándalos como tergiversando sus logros.
La generación de fakes a gran escala es también una fantástica y discreta forma de censura: ahogamos la verdad en tantas mentiras que filtrar para encontrarla es imposible.
Además, una de las cosas más perversas de los deepfakes usados para distorsionar la realidad es que envenena el pozo completo de confianza: no sólo crea falsedades, sino que reduce la credibilidad del resto de los medios que sí son genuinos.
La desconfianza no es inherentemente mala, por supuesto. Todos quienes tenemos ese tío que reenvía ingenuamente cadenas conspiranoicas por WhatsApp apreciaremos que, como sociedad conectada a Internet, desarrollemos un poquito más de escepticismo.
Pero lo que separa el sano escepticismo de la paranoia es la posibilidad de verificar, y por ende de poder depositar algo de la confianza que tenemos almacenada. La persona que desconfía de absolutamente todo y todos vive tan engañada y es tan socialmente disfuncional como aquella que cae presa de una secta apocalíptica.
La dificultad de verificar en medio de una avalancha de fakes es lo que más me preocupa para el futuro próximo. Pienso que vamos a tener (¿estamos teniendo?) un par de años turbulentos, donde no sabremos bien en qué creer, se cometerán actos estúpidos motivados por falsedades, y luego pasaremos, lisa y llanamente, a no creer en nada (o al menos en nada que veamos en Internet).
Esto está acentuado por la asimetría de costos entre la desconfianza y la confianza: una reputación que construyes por años puede romperse con un solo traspié. Fracturar la confianza, o debilitarla, es mucho más barato que construirla —supongo que a causa de la entropía—.
Entonces, si verificar se vuelve prohibitivamente caro, dejaremos de pagar la cuenta y nos resignaremos al corte del servicio. Y no queremos que suceda eso.
Una sociedad que renuncia a la confianza y se entrega a la paranoia es triste, hostil y solitaria. Trae depresión, burocracia, estancamiento y extremismo.
Necesitamos que engañar vuelva a ser más caro.3
En la parte 2: cómo hacer que mentir sea más caro que decir la verdad.
Hubo un par de excepciones notables en este período, como la niña filipina sintética creada como trampa para capturar pedófilos en el 2012.
Muchas personas (y culturas) están más orientadas a confiar por defecto. Sospecho que en esos casos hay un tejido social que proporciona una “base” de confianza. Por eso en pueblos pequeños de EEUU las casas suelen tener sus puertas sin llave y cualquiera puede entrar, mientras que en New York ponen triple cerradura.
A principios de los 80, alguien (nunca se supo quién ni por qué) envenenó algunas cápsulas de gel de Tylenol (paracetamol) en un par de farmacias de EEUU, inyectándolas con cianuro y matando a varias personas inocentes. El fabricante de Tylenol respondió retirando absolutamente todas las cápsulas en todo el país para investigar. De este episodio aparecieron algunas innovaciones tecnológicas, como los frascos tamper-proof (con sello de seguridad) que hacían mucho más evidente y difícil una intervención externa. Esto permitió reconstruir la confianza dañada y el público, con el tiempo, volvió a comprar Tylenol. ¿Podremos encontrar algo así para los deepfakes?
Voy a reconocer que después de leer este artículo no solo quedé pensativa, sino que curiosa, empecé a investigar más por mi cuenta y darle vueltas al tema, y ahora estoy en un punto de cuestionar todo un poco intenso. La incertidumbre se abrió paso profundo.