La economía de la (des)confianza, parte 2
¿Cómo podemos hacer que mentir sea más caro que decir la verdad?
Como exploré en la parte 1 de este artículo, cuando engañar se vuelve más barato, los costos de las transacciones sociales son mucho mayores, empujados por los mayores costos de verificar. En lugar de hacerte una transferencia electrónica, te paso efectivo. En vez de enviarte un contrato con firma digital, te voy a ver en persona y te lo hago firmar en papel y luego lo legalizo ante notario.
La burocracia y los costos extra que genera se pueden leer como el impuesto a la desconfianza. Te hago pasar por más trámites y te solicito más antecedentes porque no confío en ti.1
Volviendo a los deepfakes y a las falsedades altamente creíbles que la AI puede generar a bajos costos, el impuesto a la desconfianza se traduce en perder avances de décadas en materia de testimonios audiovisuales, especialmente para denunciar o reportar.
La dramática baja de costos de realizar grabaciones, que llegó a su epítome en esta década con los smartphones, ha permitido que los videos y audios se multipliquen. Con esta abundancia, creció su uso como medios de prueba para verificar o refutar crímenes, o como registro confiable de noticias apenas suceden (por alguna razón, siempre alguien parece estar grabando justo antes de un terremoto, una explosión o un accidente).
Pero, en la economía de la desconfianza, ya no nos servirán 10, 20 o 50 videos retratando la misma “verdad”; necesitaremos que alguien más nos lo valide. Y dado que los mismos píxeles retratan realidades o falsedades, cualquier argumento que genere desconfianza en los deepfakes también será válido para los videos reales (lo cual será usado como coartada por parte de quienes se vean pillados).
Esto tendrá un impacto muy perverso en la justicia y en la transparencia.
¿Cómo podemos diseñar sistemas de incentivos donde mentir tenga un alto costo, cuando el costo de producir la mentira es cercano a cero?
Curiosamente, una de las avenidas para destrabar la economía de la (des)confianza se basa en prescindir totalmente de ella.
Proof-of-stake: tener algo que perder por mentir
Ethereum (el segundo blockchain más grande después de Bitcoin) valida sus transacciones mediante un sistema llamado proof-of-stake2: si quieres validar, pones en garantía una cantidad significativa de dinero (staking). Si te comportas con honestidad, ganarás una comisión por participar. Pero si intentas coludirte con otros para defraudar al sistema, el sistema te castigará donde más te duele: quitándote dinero de tu garantía —y a mayor la colusión, más fuerte el castigo—.
Esto hace que intentar engañar al sistema de validación de Ethereum sea económicamente inviable. No imposible, sino meramente tan inconveniente y costoso que siquiera intentarlo es una pésima idea.
Gracias a esto, Ethereum no necesita confiar en la bondad o maldad de sus validadores. Esto es importante porque convierte a Ethereum (y a los blockchains en general) en un sistema trustless, donde no necesitamos confiar para transaccionar a bajos costos3.
Me gusta mucho la idea de que tener algo que perder por intentar defraudar sea aquello que te incentiva a decir la verdad. Me gusta porque no depende de la moral, y eso mismo lo vuelve un sistema más robusto.
La cosa es cómo implementarlo a nivel de desinformación y prevención de fraudes4. Por supuesto, los sistemas legales de los juicios por difamación o calumnias no tienen ninguna utilidad práctica aquí por su extrema lentitud y costo (son, de hecho, probablemente una de las maneras más caras que existen de verificar algo, y por lo mismo son mayormente usadas por millonarios ofendidos).
Necesitamos algo que pueda tener un uso cotidiano y escalable.
La importancia de la reputación
“Lo importante no es lo que una persona tiene o no; es lo que tiene miedo a perder” — Nassim Taleb, Skin in the Game
LinkedIn es conocido por ser a veces una fuente insufrible de autobombo profesional, sabiduría reciclada e historias melodramáticas. Pero lo que no hay tanto en LinkedIn como en otros medios son bots, trolls o fake news.
¿Por qué? Porque en LinkedIn, tu reputación es una buena parte de tu capital social. Debes registrarte con tu identidad real, y tienes los incentivos para hacerlo porque de lo contrario nadie te dará mucha bola. Eso hace que tengas algo que perder (tu influencia, tu reputación, incluso tu empleo) si distribuyes contenido que afecte tu credibilidad.
Twitter, Reddit, 4chan y otros foros con alta tolerancia al anonimato, por el contrario, se convierten en lugares donde proliferan la falsedad, el trolling y otras formas de abuso y manipulación de información.
Tu identidad personal es parte del skin in the game que hace que te automoderes.
Por supuesto, el anonimato posibilita el whistleblowing (denunciar abusos en gobiernos o empresas). Es, por lo mismo, el argumento más esgrimido por quienes defienden plataformas de libertad de expresión anónimas: ¿Cómo podremos enterarnos de corrupción y crímenes si no se puede denunciar sin censura o miedo a las consecuencias?
El problema es que, como vimos en la parte 1, los factores económicos del “miedo a las consecuencias” han cambiado. Estamos creando muchos más problemas al permitir la avalancha de falsedades bajo anonimato, que los que nos ahorramos al permitir el whistleblowing anónimo en plataformas abiertas; especialmente considerando que, a medida que perdemos la capacidad de distinguir la realidad de un deepfake, perderemos más y más confianza en los reportes anónimos también.
Existen otras formas de whistleblowing que son mucho más antiguas y robustas, como por ejemplo, confidenciar información a periodistas de renombre (han caído presidentes así). Lo interesante de esta manera es que se apoya precisamente en la reputación de quien reporta para verificar.
Y eso me llama la atención. Creo que la reputación puede pasar a ser un recurso valioso en la batalla por mantener fuentes de verificación. Si tu carrera profesional y tu situación social dependen de no mentir, entonces tenderás a no hacerlo.
Pongamos plata para que sea en serio
Como vimos en el caso de Ethereum (donde todos los actores son pseudo-anónimos), reputación no es lo único que puedes perder. Y, quién lo diría, tenemos un modelo interesante en los mercados de predicción, como las casas de apuestas.
Podemos, desde luego, apostar por razones emocionales (por ejemplo, cariño a mi selección de fútbol). Pero mientras más plata hay en juego, más la racionalidad se apoderará de mí. Y si realmente espero no perder mi dinero, voy a investigar e informarme para asegurarme de que apuesto por la opción más probable, es decir, aquella que se acerque más a la verdad.
Esto es exactamente lo que sucede en los mercados de predicción. Pero ¿qué pasa si los usamos para “predecir el pasado”?
Pensemos en que los mercados de predicción (como las casas de apuestas) dan dividendos económicos en base a la realidad en relación a mi apuesta. Desde luego, en las apuestas deportivas siempre apostamos por el futuro, porque una vez que Francia le ganó 2-1 a Inglaterra, no hay margen a la discusión.
Pero ¿qué sucede con los eventos controversiales? Si a fines del 2020 hubieras podido apostar en algún lugar serio sobre si la elección de Biden fue o no fraudulenta, como reclamaba Trump, ¿cuánto hubieses apostado, y por qué opción?
Algo interesante de los mercados de predicción es que si tú crees que la otra parte está equivocada, te puedes beneficiar económicamente. Los costos por mentir se elevan enormemente, porque no pondrás tu dinero en algo que sabes que no es cierto. Y es así como, según un estudio en EEUU, los mercados de predicción resultaron ser un 74% mejores en predecir los resultados electorales que las encuestas.
Los mercados de predicción sacados del contexto deportivo tienen varios problemas, pero uno de los más importantes es quién diablos dirime el resultado. En un partido de fútbol no existe lugar a la ambigüedad. Pero ¿y respecto a si las petroleras tuvieron o no responsabilidad en el cambio climático? ¿Quién exactamente da el pitazo final y sentencia el partido?
Existen mercados de predicción montados sobre blockchain (como por ejemplo, Augur) donde existen las figuras de oráculos, o servicios que se convierten en “fuentes de la verdad” para dirimir de forma descentralizada quién ganó o perdió una apuesta.
Y creo que vale la pena profundizar en quiénes podrían convertirse en dichos oráculos, o en quiénes ya lo son de facto.
Vamos a Wikipedia
Y ahí es donde entran a jugar las marcas. No, no Hyundai o Coca-Cola, pero sí otras marcas con reputación específicamente centrada en la seriedad de la información que comparten: medios de prensa, think tanks, universidades, etc, así como la emergente industria del fact-checking (en muchos casos ejercida por los mismos medios).
El New York Times, el Wall Street Journal o The Economist tienen mucho por perder si difunden información engañosa o de baja calidad, porque llevan años construyendo un track record de rigor periodístico. Saben, también, que cualquier información que publiquen (en especial la que perjudique a alguien) será sometida al escrutinio implacable de quienes podrían verse afectados.5
Sus marcas valen, y mucho. Por eso confiamos en ellas. O al menos la mayoría de nosotros.6
Hablo de marcas y no de medios haciéndome eco de Rory Sutherland en Alchemy, que postula que las marcas existen como “atajos psicológicos”: reducen la incertidumbre acerca de la calidad de lo que encontraremos, y por ende, nos permiten confiar o incluso comprar a ciegas.
Las marcas valiosas entienden esto y lo cuidan sagradamente. Cualquiera puede darte la noticia de la final de la Copa del Mundo; sólo el New York Times pudo ser el primer medio en reportar las acusaciones sexuales sobre Harvey Weinstein. Muchas personas esperan a ver una noticia reportada en CNN o la BBC para recién asumirla como cierta.
El caso de Wikipedia es también interesante. Pasó de ser un lugar “poco serio” para ser usado como referencia en trabajos y tesis (recuerdo más de un profesor de mi universidad quejándose al respecto), a considerarse una fuente de la verdad y dejar obsoletas a todas las otras enciclopedias.
Lo interesante de Wikipedia es que está abierta a que “cualquier” persona la edite. Lo pongo entre comillas porque, tal como otros proyectos open-source, tiene un sistema de gobierno interno con jerarquías de editores, que tienen un cierto poder para moderar y bloquear la edición de páginas delicadas, y en general para cuidar que la información de Wikipedia sea precisa y responda al consenso.
Sospecho que esos controles y ese cuidado por reflejar el consenso son los que mantienen la marca de Wikipedia intacta durante tantos años.
Me detengo brevemente en el consenso porque es, también, una palanca de confianza: si la mayoría de nosotros parecemos estar de acuerdo en algo, tenderemos a verlo como cierto. Por eso es que los medios que reflejan pensamientos extremos, sin importar cuánto rigor periodístico intenten usar, no logran convertirse en depositarios mayoritarios de la confianza.
¿Por qué las marcas y la reputación importan tanto en la economía de la (des)confianza?
Porque recordemos que tenemos un presupuesto limitado de confianza. Y, debido a la proliferación incontenible de mundos ficticios, totalmente convincentes, generados por inteligencia artificial, se nos vienen tiempos inflacionarios donde confiar nos va a salir más difícil, y por ende más caro, que antes.
Y no nos vamos a gastar todo nuestro presupuesto de confianza en determinar si ese video de Twitter de un político aceptando un soborno es real o es falso, o si esos comentarios incendiarios son de bots o de personas reales. Tenemos más cosas que hacer.
Y para que no terminemos aislándonos completamente de la sociedad, tendremos que seguir confiando. Confiar en instituciones y personas que tienen mucho que perder —sus negocios y sus carreras— si traicionan nuestra confianza, nos permitirá seguir distinguiendo la realidad de la ficción.
Soy realista y dudo que con esto baste. Pero de veras creo que las marcas, personales e institucionales, construidas en base a la confianza y la reputación, están llamadas a validar y verificar —y especializarse en ello— con el máximo rigor posible, y así crear espacios seguros para que le podamos seguir dando crédito a algo online.
Ésta es parte de la razón por la cual las economías que sufren más corrupción tienden a ser más ineficientes y crean un círculo vicioso. Los intentos por controlar la corrupción y evitar fraudes generan más burocracia, la cual aumenta los incentivos económicos a saltársela, lo cual genera más corrupción. Las notarías, igualmente, pueden ser vistas como una externalidad surgida de la desconfianza.
Traducible de manera muy tosca a “la prueba de que tienes algo que perder”.
A esto se le denomina “Problema de los generales bizantinos”, el cual describe el problema de los sistemas distribuidos para actuar coordinadamente cuando algunos actores no son confiables.
Aunque el sistema de validación de Ethereum está protegido contra fraudes, los usuarios de Ethereum están tan expuestos a farsas, estafas y charlatanes como cualquier otro.
Por eso publican minuciosas erratas acerca de los errores de información más microscópicos que puedan cometer.
Es imposible escribir sobre esto sin escuchar en mi cabeza a Trump chillando “fake news!!!!”. Pero la confianza es también consenso. Y, por más que existan personas aferradas a teorías conspiranoicas sobre estos medios, el consenso indica que simplemente se han dedicado a hacer su trabajo tan rigurosamente como siempre.
Me hace sentido la idea final de que el peso de verificar caiga en sobre las marcas, que gracias a un trabajo de hormiga han construido confianza y verdacidad en su tema. Pero me deja también con una sensación de vulnerabilidad incómoda... a la larga cada quién vela por sus propios beneficios, y desde ahí poco y nada quedaría en mi control.
Me pregunto entonces qué tipo de acciones o caminos puede tomar la marca para pasar de ser "especialista en X tema" a "especialista en validación de información en x tema".