Según el evangelio de san Google todas las novias son iguales. Haz la prueba. Teclea “novia” en su motor de búsqueda y toparás con los clones de una narrativa que solo pude imaginar piel pálida dentro de un vestido para casarse.

Podemos hacer como si tal cosa fuese irrelevante, pero no lo es. Las plataformas de internet son las grandes catedrales de nuestra época: ahí se valida y desvalida, se exalta o se demoniza; el acto de Googlear es hoy el principal ritual de la verdad para la inmensa mayoría de la gente.

Escribe “mujer guapa” y las encontrarás caucásicas y rubias. Entre las primeras veintitrés imágenes escupidas por el algoritmo solo una es latina, una asiática y dos afrodescendientes. El resto parecen haber nacido en Estocolmo.

Haz la prueba con “mujer inteligente” y toparás con las mismas “mujeres guapas” que se cambiaron la vestimenta. Por lógica, ante la palabra “inteligente”, conjugada en femenino, tendría uno que hallar a alguien como Marie Curie o Margarite Yourcenar, pero no es el caso.

Con los hombres ocurre algo similar. El “hombre exitoso” es aquel que se viste con trajes y corbatas de marca, usa lentes, no se rasura, lleva el pelo siempre engominado y, por supuesto, nació blanco.

Hay subcategorías en esa búsqueda. Con el tecleo “exitoso” entra a escena un varón ocupado en una llamada telefónica que seguramente es primo del “hombre en la oficina” y hermano del “hombre en auto deportivo.”

El “hombre guapo” es como el “hombre exitoso” pero descamisado. Un sujeto esculpido por horas de gimnasio que está a punto de echarse a la piscina. Y el “hombre inteligente” es idéntico a los anteriores, pero viene con gafas.

Inspirarse en Donald Trump ayuda a continuar con el experimento. Una vez que se introducen las palabras “bad hombre” la pantalla se puebla de sujetos latinos jóvenes y tatuados, con facha de maras salvatruchas, de esos que tanto disgustan al mandatario salvadoreño, Nayib Bukele.

La etiqueta “hombre feo” vuelve a confirmar la narrativa del racismo cuando la pantalla entrega, ahora sí, una amplia diversidad de razas, tamaños, formas y complexiones. Un hombre feo puede ser negro o asiático, latino o árabe, pero casi nunca cara pálida.

De acuerdo con san Google, mientras el éxito, la inteligencia y la guapura son todos atributos blancos, la fealdad, la pobreza o la maldad vienen en colores prietos.

Afirma esa plataforma que los algoritmos programados para entregar tales imágenes son neutros y que, en todo caso, el racismo sería responsabilidad de quien subió las imágenes.

Tiene algo de absurdo que en México, cuando uno utiliza esta herramienta, se represente a gente que no tiene que ver con las y los mexicanos. Google pareciera ser una goma de borrar vidas, biografías, genética, etnicidad e identidades.

Esta empresa, como el resto de las plataformas digitales, se defiende diciendo que responsabilizarle por el contenido que la gente sube en su repositorio es como reclamarle a una librería que venda libros en cuyas páginas haya contenidos racistas o discriminatorios.

Este fue justo el argumento que se debatió en la Suprema Corte de Justicia de los Estados Unidos la semana pasada. ¿Son Facebook, Twitter, Instagram, Youtube o Google, entre otras plataformas, meros repositorios públicos o, en la realidad, a la hora de organizar los contenidos utilizan una voz que les es propia e independiente de las personas usuarias?

El abogado Eric Schnapper defendió ante esa Corte un caso que condujo al extremo la crítica contra los algoritmos. En representación de sus clientes argumentó que el empleo sin límites de la narrativa del algoritmo desborda el universo de la red para causar daño en la vida real.

El caso que se discutió el martes 21 de febrero en la Corte del país vecino lleva por nombre “González vs Google” y remonta al viernes 13 de noviembre de 2015, cuando terroristas pertenecientes al Estado Islámico (ISIS) perpetraron una serie de atentados en la ciudad de París. Estos actos de violencia cegaron la vida de más de 130 personas y dejaron una estela de 415 personas lesionadas.

Entre las víctimas de aquella barbaridad se encontraba una estudiante universitaria de 23 años llamada Noemí González. Según sus padres, esta joven habría perdido la vida porque en la plataforma Youtube publicó una serie de videos que ISIS utilizaba para reclutar terroristas.

El abogado Schnapper afirmaría que ella fue victima de un algoritmo promotor del terrorismo, ya que la plataforma Youtube no solamente hospedó tales videos, sino que los publicitó en favor de los individuos que arrebataron la vida a su hija.

No es justo que las plataformas sean irresponsables respecto de lo que publican, defendió el abogado a la hora de impugnar el artículo 230 de la ley de decencia de las comunicaciones aprobada por el Congreso estadounidense en 1996.

Este artículo es un poderoso escudo legal al servicio de Google y las demás plataformas sin el cual el internet no se habría desarrollado como hoy lo conocemos.

Los abogados de la empresa refutaron a Schnapper advirtiendo que sería imposible para un gigante como Google monitorear todos los contenidos de la plataforma.Y si hipotéticamente intentaran hacerlo el internet dejaría de ser lo que es para convertirse en una suerte de periódico que cura y organiza información a partir de criterios editoriales subjetivos.

Una de las ministras de la Corte preguntó a los abogados de Google si los algoritmos utilizados por la plataforma eran neutros. Ellos respondieron afirmativamente.

Sin embargo, las imágenes de las novias —así como aquellas que destacan distintos atributos de mujeres y  hombres— contradicen la neutralidad presumida. El algoritmo está programado para ensalzar ciertas narrativas y menospreciar otras. Si bien no puede afirmarse que promueva el terrorismo, sí que lo hace con el discurso discriminatorio.

La Corte estadunidense zanjó la cuestión concluyendo que corresponde al poder legislativo revisar este tema tan complejo, es decir, imaginar nuevas leyes que distingan entre hospedar y promover información.

Este debate no está saldado, apenas comienza. Y tiene sentido encararlo con los mejores razonamientos: son preguntas para situaciones novedosas sobre temas tan antiguos como la humanidad misma. 

Ricardo Raphael

@ricardomraphael