Quienes piensan que lo que consumen en redes sociales y en su vida digital es decisión propia, quizás están lejos de comprender que los algoritmos gobiernan parte de nuestras vidas. Porque mientras las redes toman más espacio son los algoritmos los que orientan lo que consumimos en cada plataforma.
Según la visión de Yuval Noah Harari, pueden llegar a convertirse en “colonias de datos” para los países que producen y controlan la tecnología, la información y su flujo. Si antes las colonias aportaban las materias primas para que las naciones industrializadas produjeran bienes, ahora aportarán los datos de los que la inteligencia artificial se servirá para tener el poder que necesita.
Sobre la inteligencia artificial, Harari dijo que esta podría llegar a controlar al mundo.
Los algoritmos, tienen su origen en las matemáticas y se constituyen como una serie de normas específicas que dominan la ejecución de diversas actividades.
De esta forma los algoritmos analizan datos y extraen reglas que permiten generar predicciones, detectar excepciones, aislar patrones entre otros aspectos. Para ello, los algoritmos se alimentan a diario de nuestro propio comportamiento.
No pasa un minuto sin que una máquina decida parte de tu futuro. Y no hablamos solo de que te recomienden libros o películas: también deciden el tipo de interés que vas a pagar, que te llamen o no para hacer una entrevista de trabajo.
Ni siquiera los grandes nombres de la tecnología se libran de sus efectos. El mismísimo cofundador de Apple, Steve Wozniak, denunció que la Apple Card le concedía a él una línea de crédito 10 veces superior a la de su mujer por culpa de las decisiones de un algoritmo. Es fruto de una alianza con Goldman Sachs y Mastercard. A David Heinemeier Hansson, el fundador de Ruby on Rails, le pasa lo mismo, solo que en su caso las probabilidades de que le den a él el crédito, asegura, son 20 veces superiores.
¿Qué es un algoritmo?
Un algoritmo no es más que una secuencia finita de pasos en cada uno de los cuales se aplica mecánicamente una regla que permite procesar una información o llevar a cabo una tarea. Un algoritmo puede ser básico: ordenar por orden alfabético. Una receta para hacer tarta de queso también lo es (siempre que no trates de gustar a todos). Los que hacen las empresas de tecnología son mucho más complicados. Facebook ha gastado miles de millones desarrollando los suyos. Con ellos ordenan y distribuyen las toneladas de información que alegremente les confiamos día a día.
¿De dónde sacan los algoritmos la información?
De nosotros. De todas las pequeñas acciones que llevamos a cada momento. Cada vez que nos registramos en una web sobre salud o consultamos información en Wikipedia o cada vez que vemos un anuncio en nuestro smartphone vamos dejando un rastro que las compañías comparten entre sí para hacer negocio.
Un ejemplo de ello son las empresas dedicadas en la publicidad, quienes han encontrado en el estudio de algoritmos la principal herramienta de evaluación de posibles campañas. Lo mismo hacen las grandes empresas que antes del lanzamiento de un producto, aplican diversos tipos de estudio con el que recogen toda la información requerida. De esta forma pueden predecir el comportamiento de los consumidores y por ende orientar de mejor forma toda la estrategia de marketing.
Por ello cuando tomamos cualquier decisión sobre la compra de un producto, no estamos actuando del todo por cuenta propia. Por el contrario, estamos siguiendo los pasos que previamente fueron planificados por quienes hicieron el estudio sobre un producto.
Comprendiendo cómo funcionan los algoritmos a partir de los datos
Las apps y plataformas que utilizamos a diario utilizan Inteligencia Artificial (IA) para tomar decisiones a partir de la enorme cantidad de datos precisos que obtienen de nuestras cuentas y de la información presente en nuestros perfiles. A partir del procesamiento de estos datos mediante la IA estructuran los gustos y preferencias de los usuarios y monetizan esta información, entre otras cosas, contribuyendo a la microfocalización que implementan los anunciantes para llegar a usuarios específicos.
Lo curioso de esto es que, tal como se demostró en un estudio publicado en 2018, muchas personas confiarían más en un consejo de un algoritmo que en uno dado por un ser humano. Es decir que ahora, a la problemática que supone la división entre quienes tienen acceso a Internet y quienes no, se suma otro aspecto importante a la discusión: la división entre los que tienen conciencia del control que tienen los algoritmos de sus datos y quienes aún no.
Karrie Karahalios, profesora de ciencias de la computación de la Univerdidad de Illinois, hace algunos años realizó una investigación sobre el “contagio de las emociones” que se dan a través de las noticias de Facebook. El estudio mostró que cuantos menos mensajes positivos se mostraban en el feed de noticias, las personas publicaban menos mensajes positivos y crecían los negativos. Con la intención de explorar más este comportamiento, desde el equipo de Karahalios crearon una herramienta que ayudaba a las personas a comprender cómo funciona el servicio de noticias de Facebook.
La herramienta mostraba la pantalla dividida: a la izquierda se veía la lista de historias y a la derecha la lista completa de las publicaciones realizados por su red de contactos, sin ningún tipo de filtro o manipulación por parte del algoritmo. En una tercera columna se mostraban las publicaciones que estaban ocultas y otras que aparecían con mayor frecuencia. Por último, la herramienta permitía hacer una selección manual de las publicaciones que quería ver y las que no.
Convocaron a un pequeño grupo de 40 personas representativas de la demografía de los Estados Unidos y algunas se sorprendieron al corroborar cómo el feed de noticias era manipulado. Sin embargo, al finalizar el estudio, dado que los participantes podían elegir qué publicaciones querían ver, terminaron valorando la curación que habían realizado del feed.
Meses después, los investigadores realizaron un seguimiento y recogieron devoluciones de las personas que participaron. Algunas se sintieron empoderadas, mientras que otras decidieron cambiar la configuración de sus perfiles. Una incluso aseguró haber dejado de utilizar Facebook porque entendía que no cumplía con sus expectativas de uso de sus datos.
Para comprender más esto, Google, al momento de entregarnos un resultado, tiene en cuenta más de 50 elementos que definen su criterio; por ejemplo, que tipo, marca y sistema operativo utilizamos para conectarnos, nuestra ubicación y enlace, qué explorador web utilizamos, y muchos otros más. Esto demuestra que no hay un tipo de búsqueda estándar, sino que cada una de las búsquedas ofrece resultados únicos, hechos a medida, aunque busquemos exactamente lo mismo. Lo más interesante de este mecanismo, como veíamos en el experimento de Karrie Karahalios, es que no sabemos exactamente cuáles son los elementos que entran en juego a la hora de ofrecer un resultado de búsqueda y tampoco cuáles quedan por fuera. Esto dificulta que podamos acceder a otros puntos de vista o adoptar una mirada más desafiante sobre el tema.
Un acertado planteo que hizo Pariser fue acerca de la necesidad de saber si los algoritmos que nos gobiernan contienen ética y sentido de responsabilidad. Además, que las compañías deberían ser más transparentes y permitir saber cuáles son los filtros que aplican a cada uno de nosotros en particular y cómo podemos tener algún tipo de control sobre ellos.
Habiendo planteado este escenario podríamos concluir que son pocas las personas que informadas acerca de cómo los algoritmos dan forma al espacio digital que los rodea y sus implicancias en las decisiones que tomamos. Por esta razón resulta tan importante concientizar y capacitar a las personas, para que adquieran las herramientas necesarias para tomar el control de sus experiencias en las plataformas que utilizan.
Como ciudadanos digitales en formación, nos merecemos ser conscientes y entender el poder que los algoritmos tienen sobre nosotros.