Newsletter
Inglaterra en la frontera: ¿Cómo los algoritmos pueden dañar a consumidores y a la competencia?

Inglaterra en la frontera: ¿Cómo los algoritmos pueden dañar a consumidores y a la competencia?

3.02.2021
    Claves
    • Entre los problemas identificados se encuentran los daños directos a los consumidores, como la personalización de los precios y los patrones oscuros.
    • También se identifican daños a la competencia, como el uso de algoritmos para excluir a los competidores y el potencial de los algoritmos para facilitar la colusión.
    • El documento resume las técnicas que podrían usarse para analizar los sistemas algorítmicos y discute acerca del rol que los reguladores deben adoptar frente a ellos.
    • La CMA deja en claro que los daños anticompetitivos que podrían atribuirse a los procesos algorítmicos están en la mira de la CMA, bajo el mandato de su nueva Digital Markets Unit (DMU).

    Los algoritmos han pasado a ser parte de nuestra vida. Pasamos gran parte del día conectados a plataformas digitales, ya sea consumiendo noticias, comprando, comunicándonos, pidiendo comida o viendo películas. Los sistemas algorítmicos integran el funcionamiento de cada una de estas plataformas, así como de diversas empresas y mercados.

    Estos sofisticados sistemas han aumentado considerablemente la eficiencia y han permitido el acceso a mejores productos y servicios. Sin embargo, las empresas también pueden hacer un mal uso de ellos, ya sea de manera intencional o involuntaria, causando daños a los consumidores y la competencia.

    Ante esta preocupación, la autoridad de competencia británica, la Competition & Markets Authority (CMA), publicó un documento en el cual expone su visión acerca de los daños más importantes para los consumidores y la competencia que surgen de los sistemas algorítmicos, resume las técnicas que podrían usarse para analizar estos sistemas y discute acerca del rol que los reguladores deben adoptar frente a ellos.

    Con el documento, la CMA lanza una convocatoria para que distintos participantes del mercado aporten información para la comprensión de este complejo fenómeno. La CMA trabajará con otros reguladores y agentes de la industria para establecer estándares y determinar cómo se deben auditar los algoritmos, con el fin de identificar los mercados problemáticos y aquellas empresas que podrían infringir las leyes de competencia o del consumidor.

    Daños potenciales a la competencia y los consumidores

    Los algoritmos son secuencias de instrucciones para realizar cálculos o resolver problemas. En el documento se utiliza una interpretación amplia del término “sistema algorítmico” para referirse a sistemas automatizados, compuestos por un algoritmo, datos, modelos, procesos, objetivos y la interacción de las personas con estos sistemas.

    Entre los daños potenciales a la competencia y los consumidores que expone la CMA, se encuentran daños directos a los consumidores, como la personalización de los precios y otros aspectos de la arquitectura de la decisión (choice architecture) online. También incluye daños a la competencia, como el uso de algoritmos para excluir a competidores, por ejemplo, para facilitar la autopreferencia, y el potencial de los algoritmos para facilitar la colusión.

    1. Daños directos a los consumidores de los sistemas algorítmicos

    Muchos de los daños analizados por la CMA involucran el uso de sistemas algorítmicos para optimizar las acciones de las empresas y las interfaces con las que interactúan los clientes, lo que suele denominarse arquitectura de la decisión (choice architecture). Algunos ejemplos de arquitectura de la decisión son la posición del botón «Comprar» en un sitio web de compras, la visualización del número de unidades restantes o cuándo y cómo enviar notificaciones.

    A través de la arquitectura de la decisión, las empresas pueden explotar sesgos y debilidades de los consumidores, como su atención limitada, su sesgo de posición del producto, su aversión a la pérdida o su inercia, para obtener mayores ganancias (al respecto, ver también la columna “Spock versus Simpson”).

    Esta estrategia tiene efectos en la competencia, ya que las empresas que realizan este tipo de prácticas pueden obtener ventajas desleales que les permiten superar la competencia y «expulsar» a las empresas que se niegan a hacerlo. Estas opciones de diseño de interfaz de usuario perjudiciales se conocen como «patrones oscuros».

    Un ejemplo de estos “patrones oscuros” expuesto por la CMA son los mensajes de escasez, los cuales destacan la limitada disponibilidad de un producto con el fin de crear una sensación de urgencia que aumenta las ventas y reduce el tiempo de búsqueda, y para mejorar la opinión sobre el producto.

    En busca de evidencia empírica, la CMA investigó los mensajes de escasez potencialmente engañosos en los sitios web de reservas de hoteles, como «otras X personas están viendo este hotel ahora mismo» y «quedan X habitaciones disponibles». Entre otros resultados, la CMA descubrió que estas afirmaciones podían ser incompletas. Por ejemplo, el número de «otras personas» que veían el hotel en un momento dado podía incluir a quienes buscaban otras fechas o distintos tipos de habitación, confundiendo a los consumidores.

    Por otra parte, la CMA expone varias prácticas que se centran en la personalización que puede lograrse mediante la recopilación y el análisis de datos algorítmicos. Por ejemplo, la personalización de los precios, la personalización de la clasificación y la selección geográfica.

    Las empresas pueden utilizar técnicas de aprendizaje automático para identificar categorías significativas de consumidores, clasificar a los clientes nuevos y a los ya existentes y aplicar tratamientos diferentes a cada uno de ellos. Esta personalización se utiliza en la arquitectura de la decisión.

    Un ejemplo de personalización de precios presentado en el documento es el “precio basado en la ruta” que Uber cobra a los clientes en función de lo que predice que es su disposición a pagar. La empresa intenta clasificar a los clientes en «sensibles al tiempo» y «sensibles al precio”. En 2016, el jefe de investigación económica de Uber declaró que la gente es más propensa a pagar precios más altos si su teléfono está casi sin batería.

    Según la CMA, los consumidores pueden desconocer las inferencias que las empresas pueden hacer sobre ellos y de las categorías en las que se sitúan. También, estas técnicas pueden conducir a una discriminación perjudicial e inaceptable. Esto sucede si las empresas utilizan (involuntariamente o no) categorías que están correlacionadas con vulnerabilidades de los consumidores y características protegidas.

    Si bien en este reporte la CMA se centra principalmente en los daños económicos mirados desde la política de protección de competencia y consumidor, o a través de las nuevas facultades de la Digital Markets Unit (DMU), la autoridad advierte que “el uso de sistemas algorítmicos puede causar daños a las personas en su papel de ciudadanos, y no sólo en su papel de consumidores o propietarios de empresas (…) varios de estos daños se solapan y pueden ser abordados mediante una combinación de enfoques y herramientas legales, o en colaboración con otros reguladores y el uso de su experiencia y poderes. Entre ellos se encuentran la Information Commissioner’s Office (ICO), la Financial Conduct Authority (FCA), Ofcom, y la Equalities and Human Rights Commission (EHRC)”.

         2. Prácticas de exclusión

    El documento advierte acerca de cómo las empresas dominantes pueden tomar acciones que disuadan a los competidores de desafiar su posición en el mercado. Tales prácticas incluyen la autopreferencia, la manipulación de algoritmos de clasificación para excluir a los competidores y la introducción de cambios en los sistemas algorítmicos de las llamadas gateway platforms, como Facebook y Google, que dañan involuntariamente a las empresas que dependen de estas.

    Según la CMA, el caso Google Shopping europeo ilustra el papel de los algoritmos en los abusos de autopreferencia. En este caso, la Comisión Europea determinó que Google había infringido la ley de competencia al posicionar de manera más favorable su propio servicio Google Shopping en sus páginas de resultados de búsqueda general, en comparación a los servicios de su competencia.

       3. Posible colusión por algoritmos de precios

    El documento también aborda los daños relacionados con el potencial de los sistemas algorítmicos para facilitar la colusión y mantener precios más altos. La CMA clasifica las preocupaciones en torno a la colusión algorítmica en tres categorías, similar a las que han explorado otras autoridades de competencia europea (sobre el informe conjunto de las agencias francesa y alemana, ver Nota CeCo aquí).

    En primer lugar, la mayor disponibilidad de datos sobre precios y el uso de sistemas automatizados de fijación de precios pueden facilitar la coordinación explícita, debido a que vuelve más estable los acuerdos entre empresas al facilitar la detección y la respuesta a las desviaciones.

    En segundo lugar, cuando las empresas utilizan el mismo sistema algorítmico para fijar los precios, ya sea utilizando el mismo software o servicios suministrados por un tercero, se puede crear una estructura de «hub-and-spoke« y facilitar el intercambio de información.

    Por último, si los algoritmos de fijación de precios aprenden a coludirse sin necesidad de compartir otra información o coordinación entre las empresas, existe la posibilidad de una «colusión tácita autónoma».

    El documento menciona un estudio académico reciente, Assad et al. (2020), como el primer análisis empírico de la relación entre los precios algorítmicos y la competencia en un mercado del mundo real. Los autores de este trabajo estiman que las gasolineras minoristas alemanas aumentaron sus márgenes en torno al 9% después de adoptar la fijación algorítmica de precios cuando se enfrentaban a competencia local. Además, observan que los márgenes no empiezan a aumentar hasta aproximadamente un año después de la adopción, lo que sugiere que los algoritmos en este mercado han aprendido con el tiempo a coordinarse en un resultado de aparente colusión tácita.

    La CMA advierte que “Si bien se ha prestado mucha atención y se ha debatido mucho sobre los daños algorítmicos en general, hay relativamente poco trabajo empírico en algunas de las áreas específicas de los daños al consumidor y la competencia”.

    Técnicas que se pueden utilizar para investigar los daños

    El documento enumera diferentes herramientas con las cuales es posible auditar el funcionamiento de los algoritmos, tanto en escenarios en los que se tiene acceso a los datos y algoritmos de las empresas, como en los que no.

    Cuando se desea investigar los daños sin tener acceso directo a los datos y algoritmos, la CMA afirma que se pueden llevar a cabo auditorías con diversas técnicas. Estas van desde procesos relativamente sencillos, como la utilización de «compradores misteriosos», hasta sofisticados servicios de ingeniería inversa y la emulación de aplicaciones web.

    Entre otros ejemplos y evidencia empírica, el documento describe la experiencia de algunas instituciones que están creando personajes ficticios, que simulan a usuarios de diferentes características demográficas e intereses, para testear ciertos daños, como por ejemplo, daños discriminatorios a mayor escala. El programa WebTAP de Princeton ha desarrollado OpenWPM, un software de código abierto que permite a los investigadores crear un historial de actividad de navegación y observar cómo estos personajes interactúan con un servicio digital.

    En los casos que se tiene acceso al código, la CMA señala que “existen tres posibilidades de investigación: El «análisis dinámico», por ejemplo, la comprobación automatizada mediante la ejecución del código; el «análisis estático», por ejemplo, la identificación de errores de formato, en el que el código sólo puede analizarse aislado de su entorno; y una «revisión del código» manual, que sería extremadamente difícil en el caso del software algorítmico complejo”.

    Académicos han estudiado los puntos fuertes y las limitaciones relativas de los distintos enfoques de análisis. En general, existe consenso de que los métodos de análisis dinámicos son mucho más potentes a la hora de realizar auditorías efectivas.

    El rol potencial de los reguladores para abordar los daños

    Las agencias de competencia, los reguladores y los responsables políticos están trabajando para adaptar el alcance de la ley, así como sus políticas de aplicación para abordar los nuevos desafíos del mundo digital.

    La CMA afirma que “A medida que los mercados evolucionen, utilizaremos nuestras herramientas actuales y desarrollaremos nuevas capacidades y abogaremos por mayores poderes cuando sea necesario para prevenir los daños a la competencia y a los consumidores a medida que surjan”. En esta línea, la CMA pondrá en marcha su nueva Digital Markets Unite (DMU) en abril de este año.

    El documento explora remedios “tradicionales” de la ley de competencia, como una mayor divulgación y orientación a las empresas, establecer y/o aclarar las normas y llevar a cabo supervisión externa y evaluación de riesgos.

    También considera nuevas posibilidades de supervisión mediante el uso de otros medios, por ejemplo, “sandboxes” regulatorios, estos son “programas que se ejecutan durante un número determinado de meses, en los que las empresas pueden probar sus productos con clientes reales en un entorno controlado bajo la supervisión y retroalimentación del regulador”, según el documento (ver también, Nota CeCo aquí).

    Por otra parte, la CMA recomendó a su gobierno la ampliación de los poderes legales de la Unidad de Datos, Tecnología y Análisis (DaTA), la cual lleva a cabo actividades de supervisión y comprobación, como también de los poderes de su nueva DMU. Entre las medidas solicitadas se encuentra la introducción de un código de conducta legalmente vinculante y adaptado a las empresas digitales; y un mayor escrutinio previo de las fusiones (al respecto, ver Nota CeCo aquí).

    Hacía una mayor fiscalización de los sistemas algorítmicos

    El documento de la CMA expone cómo los sistemas algorítmicos pueden interactuar con fuentes preexistentes de fallas del mercado, como el poder del mercado y los sesgos de comportamiento de los consumidores, agravando las consecuencias de estas fallas. Si bien los reguladores deben velar por el correcto funcionamiento de estos mercados, existen diversos desafíos a la hora de auditar sistemas logarítmicos.

    Si los sistemas algorítmicos no son explicables y transparentes, pueden provocar que la dificultad de detectar los daños y contrarrestarlos sea cada vez mayor. Además, el dinamismo de los mercados digitales genera que nuevos daños puedan manifestarse rápidamente.

    Debido a los diversos daños identificados en este documento, las empresas deben asegurarse de poder explicar cómo funcionan sus sistemas algorítmicos, lo cual puede ser un desafío para empresas de menor tamaño.

    La CMA es una de las autoridades que encabeza la reacción en mercados digitales, dotándose de recursos y conocimientos necesarios para tomar medidas y remediar posibles efectos anticompetitivos. Sus iniciativas se traducirán probablemente en un incremento en su intensidad de supervisión. Como este documento deja en claro, los daños anticompetitivos que podrían atribuirse a los procesos algorítmicos están en el punto de mira de la CMA bajo el mandato de la nueva Digital Markets Unit.

    Enlaces relacionados

    Investigación CMA:  Algorithms: How they can reduce competition and harm consumers. Ver aquí.

    Sofía Bucher P.