Esta semana el Wall Street Journal publicó un artículo llamado ‘Facebook dice que sus reglas se aplican a todos. Documentos de la empresa revelan una élite secreta exenta ‘, en la que revela que, como usuarios, no somos todos iguales para Facebook, que para evitar las quejas de personajes de alto perfil, que eventualmente podrían convertirse en mala prensa para la empresa, la red social permite a las celebridades ‘portarse mal’, esto a través de una aplicación llamada XCheck o Cross Check.
Este tema tiene muchas aristas, sin embargo una que es importante destacar es el trato diferenciado que existe para los usuarios de los gigantes digitales. Claramente se trata de una flagrante violación de la empresa a sus propias reglas y nos demuestra que mientras su reputación no se vea afectada, es capaz de sesgar arbitraria y manualmente sus propios algoritmos, aunque el efecto de esta acción puede terminar mal, ya que fue el caso. Caso de la publicación de Facebook que hizo Donald Trump y que la empresa decidió mantener: “Cuando comienza el saqueo, comienza el tiroteo”.
Esto significa que los usuarios de alto nivel pueden incitar a la violencia o difundir noticias falsas en dicha red social y salirse con la suya con la suspensión temporal, además del eventual bloqueo que persigue al resto de usuarios. Ahora, estamos hablando de un tema contextual, porque tener una crisis de reputación no necesariamente afecta directamente al core business de Facebook, imagina los sesgos que sucederán con las herramientas publicitarias, que son el core business de la red social. Estamos viendo solo la punta del iceberg.
Los algoritmos se crean a imagen y semejanza del desarrollador y las diferencias algorítmicas se pueden distinguir fácilmente entre los algoritmos desarrollados en el mundo occidental y oriental, que es castigado por un lado, tolerado por el otro, pero esos sesgos finalmente pueden ser ajustados. Y una vez que eso sucede, eventualmente discriminan menos que cualquier humano, al ser máquinas no diferencian, el problema es cuando, por alguna razón, un humano tiene la capacidad de modificar las propias reglas del algoritmo, como fue el caso de Trump y Facebook.
Lo hacen porque pueden y no hay ley que los prohíba, porque técnicamente no están violando ninguna regla, pero al sesgar manualmente sus algoritmos discriminan de manera discrecional, lo cual pudo comprobarse gracias a la investigación de los WSJ, que hoy nos hace un poco más conscientes, pero no necesariamente más seguros, porque, como usuarios comunes, no tenemos defensa algorítmica o humana.