Escrito en BREAKING NEWS el
Luego de la polémica suscitada este fin de semana, Twitter se disculpó por el algoritmo que fue acusado de “racista”, luego de que algunos usuarios hallaron que la función se enfocaba únicamente en reconocer las caras de personas blancas sobre personas negras. Al respecto, la red social a cargo de Jack Dorsey aseguró que habría probado el algoritmo en busca de sesgos antes de lanzarlo a la plataforma pero acepta, no fue suficiente.
¿Por qué la polémica?
Una de las funciones de Twitter con este nuevo algoritmo es recortar de manera automática las imágenes que el usuario comparte en su timeline para evitar que ocupen demasiado espacio en la fuente principal y para que se muestren varias imágenes en el mismo tuit. La compañía utiliza varias herramientas algorítmicas para tratar de enfocarse en las partes más importantes de la imagen, tratando de asegurarse de que las caras y el texto permanezcan pese a la edición. No obstante, algunos usuarios comenzaron a detectar fallas en la función durante el pasado fin de semana. El primero en destacar el problema fue el estudiante de doctorado Colin Madland, quien descubrió un sesgo racial. Madland publicó una fotografía en la red social. Él es blanco, y su amigo de raza negra, pero cuando notó, Twitter había recortado a su amigo y únicamente lo mostraba a él.Posteriormente, otros usuarios continuaron con los experimentos incluyendo al empresario Tony Arcieri, quien para su experimento compartió una imagen del senador estadounidense Mitch McConnell, caucásico y al lado, la imagen del expresidente Barack Obama. ¿Su sorpresa? Twitter sólo mostraba la imagen de McConnell.A faculty member has been asking how to stop Zoom from removing his head when he uses a virtual background. We suggested the usual plain background, good lighting etc, but it didn't work. I was in a meeting with him today when I realized why it was happening.
— Colin Madland (@colinmadland) September 19, 2020
También pasó lo mismo cuando usuarios compartían imágenes de personajes de los Simpson como Lenny y Carl, e incluso, perritos labradores, en color dorado y negro.Trying a horrible experiment...
Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia — Tony “Abolish (Pol)ICE” Arcieri ? (@bascule) September 19, 2020
I wonder if Twitter does this to fictional characters too.
Lenny Carl pic.twitter.com/fmJMWkkYEf — Jordan Simonovski (@_jsimonovski) September 20, 2020
I tried it with dogs. Let's see. pic.twitter.com/xktmrNPtid
— - M A R K - (@MarkEMarkAU) September 20, 2020
¿Qué dice Twitter?
En un comunicado, un portavoz de Twitter admitió que la empresa tenía trabajo por hacer y ofreció disculpas:Nuestro equipo probó el algoritmo antes de lanzarlo y no encontró evidencia de prejuicio racial o de género en las pruebas. Pero a partir de estos ejemplos queda claro que tenemos que hacer más análisis. Continuaremos compartiendo lo que aprendemos, las acciones que tomamos y abriremos nuestro análisis para que otros lo puedan revisar y replicar ".