23/01/2019

Mikel Zubimendi
Algoritmos para decantar el voto y dar forma al comportamiento

Las políticas computacionales que aplican tecnologías de «marketing» digital en campañas electorales plantean las mismas preocupaciones para la gobernanza democrática que plantearon durante mucho tiempo para la privacidad y el bienestar del consumidor. Analizamos algunas de sus estrategias.

Estos algoritmos determinan créditos e hipotecas bancarias, otorgan visados, gestionan solicitudes de empleo o, como en EEUU, calculan los años de cárcel de una condena judicial

Aunque no creas que las sociedades secretas gobiernan el planeta, que la victoria de Trump o del Brexit fuese obra de los Illuminati, el mundo está lleno de influencias que no se ven. La música pausada del supermercado hace que vayamos más despacio y gastemos más dinero. Para la mayoría de la gente esos mensajes subliminales son una parte inevitable de la vida. ¿Y si estas fuerzas invisibles estuvieran haciendo algo más que aligerar nuestros bolsillos? ¿Y si condicionan y determinan la elección de los votantes, hasta el punto de «robar» el resultado final? ¿Hasta qué punto decidimos? ¿Estamos seguros de que elegimos libremente el voto? ¿Y el curso de nuestras vidas?

Intelectual y éticamente hablando, los humanos, mamíferos sociales por antonomasia, somos unas esponjas. Absorbemos inconscientemente, para lo bueno y para lo malo, las influencias que nos rodean. Nuestro entorno social, y en particular el sistema de creencias proyectado por quienes detentan el poder, da forma a nuestras mentes. Antes fueron los monarcas, aristócratas y teólogos; hoy son las corporaciones, los multimillonarios y las redes sociales. La combinación de sofisticadas técnicas de publicidad, las tecnologías digitales y los descubrimientos de la neurociencia tienen un impacto enorme en nuestra paz interior y en nuestra libre voluntad. Tiene potencial para construir deseos y pensamiento.

Suena a hipérbole, pero no es una exageración: existen medios de control mental a escala masiva, sin precedentes en la historia de la humanidad. Y están sostenidos por una ideología, por una especie de «mentalidad de Silicon Valley», que defiende que complejos fenómenos sociales como la política, la salud, la educación o el cumplimiento de penas tienen soluciones computacionales y definitivas; soluciones que, además, pueden ser fácilmente optimizables mediante procesos transparentes, solo con poner en marcha el algoritmo adecuado.

Las sorprendentes victorias de Trump y del Brexit en 2016 han servido el debate en el menú. Desde luego, Trump y los partidarios del Brexit no tenían ninguna razón para agradecérselo a sus amigos en la prensa, porque, salvo excepciones, no tenían ninguno. Hace no tantos años, eso hubiera hecho prácticamente imposible el éxito político. La idea de que corporaciones privadas y agentes extranjeros podrían usar poderosas tecnologías de datos para quebrar los procesos electorales de, por ejemplo, EEUU parecía descabellada hasta hace poco, un guión de película de espías.

Se dice que los datos manejan todo lo que hacemos. Sobre esa base funciona la propaganda computacional. Esa mezcla de algoritmos, automatización y manipulación humana de la información que afecta a la percepción, al conocimiento, e influye en el comportamiento de las personas, hasta poner en riesgo y en cierta forma destruir las facultades humanas para dar sentido, evaluar y validar la información.

Hoy en día en Internet nadie sabe si eres un bot (aféresis de robot), un programa informático que efectúa automáticamente tareas repetitivas cuya realización por parte de una persona sería imposible o muy tediosa. Los bots diseminan información y opinión a diario, de forma rápida, estratégica, sin descanso. Simulan tráfico en las redes, aumentan el número de seguidores de manera artificial, para generar visitas a sitios web, para posicionar hashtags y convertir temas en trending topics, para influir positiva o negativamente en una conversación. Así construyen opinión pública y dirigen la agenda política.

Facebook se ha convertido en el ejemplo de corrupción y mala conducta del algoritmo. El volumen de sus operaciones es gigantesco: mil millones de usuarios diarios, casi mil millones de fotos y tres mil millones de vídeos vistos cada día. Y solo hay una fuerza que puede mover todo eso: un poderoso conjunto de algoritmos que determina qué es lo que vemos y cuándo. Pero siendo realistas, usar algoritmos es la única vía para que gigantes de esa dimensión puedan existir.

Los algoritmos mueven los motores de búsqueda en Internet que tanto influencian a la gente y tienen un efecto manipulador incuestionable. Google, por ejemplo, ha demostrado ser muy bueno dando los mejores enlaces, pero está demostrado: cuanto más arriba aparece un artículo en la lista de búsqueda, los usuarios dan más confianza.

El Instituto Americano de Investigación y Tecnología del Comportamiento ha demostrado que, solo con poner en un motor de búsqueda amañado a un candidato electoral por encima de otro, suben sus votos entre los indecisos.

Gracias en parte a las revelaciones de cómo Facebook ha hecho negocio dando acceso a datos de usuarios y a sus mensajes privados, la gente está cada vez más concienciada. Saben que la plataforma no solo hiere a la sociedad de manera colateral, sino que es intencionadamente maligna. Si eres usuario de Facebook no solo eres cliente de la plataforma, sino también su producto. La evidencia es desoladora y da una sensación de asco saber que uno está en el punto de mira de algoritmos.

Utiliza técnicas de finanzas conductuales, la invasión de la privacidad y sistemas de Inteligencia Artificial que aprenden autónomamente para manipular a los usuarios. Y cuando salta la liebre y el impacto social de esas maquinaciones es revelado, entonces reivindica su inocencia o su ignorancia.

Los algoritmos dominan cada vez más nuestra sociedad. Tienen capacidad para predecir nuestras necesidades y deseos. Es relativamente simple: Facebook utiliza lo que sabe de nosotros a partir de nuestros «clics», «likes», «shares» y la elección de amigos. Y eso permite a los publicistas enviarnos anuncios a los que somos más proclives a responder. A veces los datos son analizados por Facebook, otras por clientes de la plataforma que pueden combinar esos datos con los de otros instrumentos de vigilancia de Internet.

Así, el hilo de un correo electrónico o de una búsqueda en la red puede terminar acosándonos en forma de publicidad agresiva, políticamente personalizada. Gracias a los datos que se comparten entre las compañías, a cookies rastrean nuestra actividad en la red y los algoritmos leen nuestros mensajes públicos. Y al final, los algoritmos empiezan a enviarnos anuncios y artículos con puntos de vista más extremos de los que tenemos. Mayormente, Internet funciona así.

Utilizan ciberanzuelos, personificados según el perfil sicológico del usuario, determinados en gran media por un análisis de su comportamiento online. Cualquiera que siga las recomendaciones del motor de YouTube sabe que, tras dos o tres vídeos inocuos, la lista que viene después sirve contenido cada vez más heavy, más extremo.

Facebook, YouTube o Twitter pueden arrasar. Pueden ser fuentes tóxicas de noticias y de información, pero sus manipulaciones y la de sus clientes no son del todo opacas y nos abren una ventana para entender cómo se va reconfigurando, de manera implacable, el panorama de medios digitales.

Todo lo que enseña, de una forma u otra, es un reflejo de nuestras acciones anteriores, procesadas por algoritmos, puesto al servicio de los intereses corporativos. Es un ecosistema complejo de noticias, marketing, propaganda, atado a algoritmos, que saben quiénes somos, cómo pensamos, a qué respondemos y qué ignoramos, y comparten esa información.

El algoritmo no es neutral, es opinión codificada, está lleno de prejuicios. Son privados, tienen propietario y es imposible saber con certeza quién o qué controla el resultado.

Estos algoritmos determinan todo, mucho más de lo que imaginamos, más que los anuncios que vemos o el precio de los billetes de avión. Determinan créditos e hipotecas bancarias, otorgan visados, gestionan solicitudes de empleo o, como ya ocurre en EEUU, calculan los años de cárcel de una condena judicial. La forma en la que estos algoritmos evalúan nuestra idoneidad para todo ello es, por supuesto, secreta.

Sí, es fácil apuntar con el dedo al algoritmo. Al fin y al cabo, se supone que es una cosa inerte, desalmada. Pero hay un montón de gente detrás. No solo predicen nuestro comportamiento, sino que le dan forma. Reducen el voto a una elección de consumidor.

La ética del algoritmo es otro debate. Como desafío, diseñar con ética en las tecnologías de datos es algo formidable. En gran parte porque requiere superar una costumbre, un hábito centenario de la ciencia de datos. A saber: primero desarrolla y después pregunta; primero digitaliza y luego regula.