Sesgos cognitivos, algoritmos y adicción: ¿se puede confiar en las pantallas?

13.03.2024

CeCo Chile

Juan Pablo Iglesias M. Abogado Universidad de Chile, LL.M University of Amsterdam. Coordinador de investigación de CeCo. Abogado asociado en el grupo de Propiedad Intelectual y Tecnologías de Carey (2015-2022). Diplomado en Derecho y Política de la Competencia (U. de Chile), y en Inteligencia Artificial (UAI).

El próximo lunes 18 de marzo, CeCo y el Centro de Neurociencia Social y Cognitiva de la UAI, presentarán el artículo “Libre Competencia y Toma de Decisiones: Impacto de los sesgos cognitivos en los niveles de competencia en el mercado” (Domic & Contreras-Huerta). Este es, entonces, un buen contexto para escribir una columna sobre sesgos cognitivos y pantallas.

Primero: ¿cómo impacta un sesgo cognitivo en un mercado? Como explicó la FNE en el Estudio del Mercado Fúnebre (2022), la vulnerabilidad emocional de los consumidores (usualmente parientes del fallecido), sumado al escueto plazo de 48 horas para realizar la inhumación, les impediría ejercer plenamente su libertad de elección y tomar decisiones económicamente óptimas (el 70% de los consumidores buscó -cotizó- solo una vez entre las distintas alternativas de servicios funerarios). Este escenario de decisión sería de algún modo explotado por las empresas (los consumidores habrían pagado -en promedio- más de 1,77 veces el costo marginal de los servicios funerarios) (ver nota CeCo).

«la arquitectura decisional detrás de una pantalla puede ser más o menos favorable para el usuario (consumidor), dependiendo de en qué grado ella busca facilitar su búsqueda/elección, o bien, inducirla o suplantarla«

Veamos ahora un escenario de decisión en que nos involucramos todos los días: una pantalla (o, más precisamente, la interfaz de usuario o «UI»). Las pantallas muestran al usuario la información de un sitio web o una app y, como es obvio, su diseño gráfico no emerge de forma espontánea. Por el contrario, la forma en que se ordenan sus elementos o “framing” (ubicación de botones, colores, pop-ups, secciones destacadas, imágenes, despliegue del newsfeed, etc.) son cuidadosamente decididas al interior de los equipos de desarrolladores/diseñadores. Por ejemplo, una decisión de Microsoft sobre el tamaño en el cual se mostraban los avisajes en su buscador Bing (versus el espacio dedicado al resto de la información), reportó ingresos por más de USD 50 millones anuales (Kohavi & Thomke).

“Online Choice Architecture”

Hasta aquí no hay nada realmente nuevo. En el mundo análogo (brick & mortar) la forma en que se decide el posicionamiento de los productos en una góndola de supermercado tampoco es aleatoria (p. ej., los productos de marca propia pueden posicionarse en un lugar más visible). Sin embargo, la plasticidad de los ecosistemas digitales permite adoptar un sinfín de configuraciones alternativas y, por ello, diseñar el home de una página de e-commerce (Amazon) resultaría más complejo que ordenar una góndola. De hecho, a la disciplina se la ha bautizado con un nombre: “Online Choice Architecture” (Sobolev, 2022).

El punto relevante es que la arquitectura decisional detrás de una pantalla puede ser más o menos favorable para el usuario (consumidor), dependiendo de en qué grado ella busca facilitar su búsqueda/elección, o bien, inducirla o suplantarla. Así, por ejemplo, un algoritmo de recomendación que arroja sus resultados priorizando el historial de preferencias del usuario, será más favorable que aquel que prioriza resultados pagados por terceros o propios (self-preferencing). De la misma forma, un algoritmo de búsqueda que prioriza los resultados “orgánicos” (fundados en variables objetivas, cómo números de clics) será más favorable al usuario que aquel que los esconde o disimula bajo los resultados pagados o propios.

Por “priorizar” resultados me refiero a la forma en que estos se muestran en la pantalla: ¿se ubican arriba o abajo? ¿antes o después de scrollear? ¿se demora en cargar? Es aquí donde inciden los sesgos cognitivos. Por ejemplo, el sesgo de anclaje o “positional bias” (i.e., tendencia a ser influenciado por un punto de referencia particular) explicaría que el 54% de los clics de Google Search se dirijan a los primeros tres resultados de la búsqueda, que aparecen en la parte superior de la pantalla (y que solo el 0,63% se dirijan a la “segunda página” de resultados) (Dean, 2023). El mismo sesgo también explica que entre el 70-90% de las compras realizadas en Amazon se hicieran a través del famoso botón “Buy Box” (nota CeCo “El acuerdo entre la Comisión Europea y Amazon”). Por otra parte, el sesgo de escasez (i.e., tendencia a valorar más un ítem, en la medida que sea más escaso) explicaría la eficacia de frases como “últimas unidades”, “sólo por pocas horas”, o de pop-ups que señalan cuántas personas han visto la misma publicación (Del Villar, 2023, p. 30).

La CMA, en su reporte “Algorithms: How they can reduce competition and harm consumers” (2023), sugiere que “aunque la arquitectura de decisión puede usarse para beneficiar a los consumidores, las empresas pueden, sin embargo, explotar debilidades inherentes en la capacidad de los consumidores para participar en los mercados, de formas que van en contra de sus intereses y socavan la competencia (por ejemplo, aprovechando su atención limitada, su aversión a la pérdida o su inercia […])” (p. 7).

Poder de mercado y algoritmos

Se podría retrucar que, si una empresa decide ejercer su “autoridad algorítmica” de una forma tal que sistemáticamente obstaculiza o suplanta la voluntad de los consumidores, esta será -tarde o temprano- expulsada del mercado. Desde luego, si mi plataforma de música insistiese en recomendarme canciones de Kanye West -sin ánimo de ofender- estaré encantado de cambiarme. Sin embargo, como se sabe, en ciertos mercados digitales los efectos de red no dejan demasiados competidores en pie y los costos de cambio pueden ser altos (cuando hay baja interoperabilidad). Como sugieren Mazzucato et al (2023), algunas Big Tech habrían crecido a punta de privilegiar resultados orgánicos, para luego, una vez consolidadas en su posición dominante, monetizarse por la vía de darle más prominencia a resultados pagados (notas CeCo “Algoritmos, rentas y el mercado de la atención”; y “Sesgos y algoritmos”).

En otras palabras, si se tiene poder de mercado suficiente, se podrían implementar algoritmos desfavorables para los consumidores (es decir, que, por la vía de explotar sus sesgos cognitivos, los alejen de su decisión económicamente racional). A la inversa, en un mercado competitivo, sería esperable encontrar buenas prácticas de online choice architecture, tales como: (i) una ratio equilibrada entre resultados orgánicos vs. los pagados, (ii) permitir que el usuario pueda, con facilidad, salir de la interacción (botón de “cancelación”), (iii) visualizar de forma sencilla y transparente las distintas alternativas disponibles, (iv) no utilizar dark patterns engañosos (p. ej., drip pricing; ver nota CeCo), y (iv) proveer información clara y óptima acerca de las políticas de privacidad y tratamiento de datos personales.

En este marco, resulta necesario reflexionar acerca de qué manera las autoridades pueden implementar mecanismos eficaces para mitigar la explotación de sesgos cognitivos en interfaces de usuario. Cabe recordar el caso -no exitoso- de la “pantalla de elección” (choice screen), ordenada por la Comisión Europea a Microsof para fomentar la competencia en el mercado de navegadores web (y mitigar el sesgo de statu quo), por la vía de “forzar” una instancia de elección por parte de los usuarios, a través de una ventana emergente. El diseño de remedios conductuales de esta naturaleza debiese involucrar el trabajo de psicólogos cognitivos y estudios experimentales (O. Vásquez, 2023).

Algoritmos, sesgos y adicción

No se puede terminar esta columna sin una referencia a la relación entre arquitectura decisional y adicción en el mercado de redes sociales (RRSS). Aquí ya no se trata de que la pantalla induzca a una decisión de compra imperfecta, sino de la generación de riesgos de salud mental.

Ya existiría evidencia concreta acerca de los efectos psicológicos negativos generados por el uso no responsable de RRSS por parte de adolescentes. Según un estudio de la Comisión Europea, uno de cada cuatro niños y jóvenes tiene un comportamiento disfuncional respecto al uso de las redes sociales. Como explica Alba Ribera en su columna “La Adicción Generada por Sillicon Valley”: “El tiempo prolongado de uso va aparejado a efectos perjudiciales para la salud de los usuarios, tales como su salud mental (especialmente pronunciado en el caso de las niñas), la pérdida de horas de sueño, de capacidad de atención o en sus capacidades cognitivas. De hecho, los patrones de los ciclos de adicción que normalmente se asocian al consumo de drogas o tabaco se reproducen en el caso del uso prolongado de redes sociales”.

Estos patrones de comportamiento se explicarían por el aumento en los niveles de oxitocina y dopamina, generadas por las notificaciones de “me gusta” y similares (que, para estos efectos, funcionan como recompensas conductuales). Sean Parker, el primer Presidente de Facebook (2004-2005), cuando ya se encontraba fuera de la empresa (2017), explicó parte de este mecanismo, en los siguientes términos: «necesitamos darte una pequeña dosis de dopamina de vez en cuando, porque alguien le gustó o comentó en una foto, una publicación o lo que sea. Y eso te va a llevar a contribuir con más contenido, y eso te va a conseguir (…) más likes y comentarios. Es un loop de retroalimentación de validación social (…) exactamente el tipo de cosa que un hacker como yo inventaría, porque estás explotando una vulnerabilidad en la psicología humana”(ver video de Parker acá).

En la misma línea, Jaron Lanier (una especie de “filósofo del internet”), marca la relación entre los algoritmos que construyen -automáticamente- el feed de las RRSS con aquellos implementados en sitios de apuestas y “digital gambling machines”, en el sentido de que ambos serían propensos a generar vinculaciones adictivas pantalla-usuarios (Lanier, 2018).

Ahora bien, ¿es la adicción un asunto del derecho de competencia? En una columna publicada en ProMarket, F. Scott (Yale) y otros investigadores sostienen que el derecho de competencia debería de algún modo registrar la naturaleza adictiva de las RRSS. Por ejemplo, sugiere que el nivel de producción (output), en este caso medido por “user engagement”, no sería un buen proxy de bienestar del consumidor para mercados cuyos bienes son adictivos (“The claim that consumer welfare is raised by giving more Oxycontin to Oxycontin addicts is clearly problematic”). Así, el valor generado por estas plataformas (medido por su capacidad de monetización vía avisajes publicitarios) no tendría necesariamente un correlato en el (dis)valor generado para el usuario.

Por último, la naturaleza adictiva de un servicio digital también podría ser registrada a través de la variable competitiva “calidad”. Ahora bien, a diferencia del precio, la calidad es un parámetro no-monetario y, en consecuencia, más difícil de cuantificar o “matematizar”. Por ello, el desarrollo de métodos orientados a medir la adicción resulta de la mayor relevancia (p. ej., encuestas a usuarios, elaboración de una “social media adiction scale”, análisis de datos de uso de RRSS provistos por las mismas plataformas, y estudios experimentales desarrollados por expertos en neurociencia).

Por esto, y por todo lo ya dicho en esta columna, la vinculación entre CeCo y el Centro de Neurociencia Social y Cognitiva de la UAI tiene múltiples tareas en su horizonte.