Bing está sugiriendo las peores cosas que puedes imaginar
Si utilizas la búsqueda de imágenes de Bing, verás la peor suciedad que puedas imaginar. Bing sugiere términos racistas y muestra imágenes horribles. Bing incluso le sugerirá que busque niños explotados si tiene SafeSearch desactivado.
Nos contactamos con Microsoft para hacer comentarios, y Jeff Jones, Director Senior de Microsoft, nos dio la siguiente declaración:
“Nos tomamos muy en serio el contenido ofensivo y continuamos mejorando nuestros sistemas para identificar y evitar que dicho contenido aparezca como una búsqueda sugerida. Tan pronto como nos damos cuenta de un problema, tomamos medidas para solucionarlo ".
Actualizar: Desde su publicación, Microsoft ha estado trabajando en la limpieza de las sugerencias ofensivas de Bing que mencionamos. Sobre la base de nuestra investigación, todavía hay muchas otras sugerencias ofensivas que aún no se han corregido, incluidas algunas que hemos mencionado a continuación. No estamos seguros de si simplemente están arreglando los elementos ofensivos que señalamos, o si están mejorando el algoritmo..
Nota: Las capturas de pantalla aquí muestran lo que vimos cuando escribimos esta pieza que prueba la versión de Bing Image en EE. UU. En una sesión de navegación privada de Incógnito, pero los resultados de Bing cambian con el tiempo. Google no tuvo ninguno de estos problemas, según nuestras pruebas. Este es un problema de Bing, no solo un problema del motor de búsqueda. El mismo problema afecta la búsqueda de videos de Bing..
Primero, Bing se pone súper racista
La búsqueda de "judíos" en Bing Images y Bing sugiere que busques "el malvado judío". Los resultados principales también incluyen un meme que parece celebrar a los judíos muertos..
Todo esto aparece incluso cuando la opción SafeSearch de Bing está habilitada, como está por defecto. SafeSearch está diseñado para "ayudar a mantener el contenido para adultos fuera de sus resultados de búsqueda", según Microsoft.
Al hacer clic en esta búsqueda sugerida se desencadena un torrente de contenido racista y antisemita, con más búsquedas sugeridas como "Los judíos son malvados", "La raza judía malvada" y "¿Por qué los judíos son tan malvados?"
Todos sabemos que esta basura existe en la web, pero Bing no debería guiar a las personas con sus sugerencias de búsqueda..
Escribe "los musulmanes son" y Bing sugerirá que son malvados o terroristas, o simplemente sugerirá que son estúpidos.
Busca "los negros son" y Bing sugerirá que los negros son feos, estúpidos, racistas e incluso salvajes..
Puede seguir así, haciendo clic en cada búsqueda sugerida y viendo cada vez más recomendaciones. Por ejemplo, hacer clic en "Los negros son estúpidos" conduce a "Los negros son inútiles" y "Por qué los negros son tan tontos". Hacer clic en "Los negros son inútiles" lleva a "Los negros chupan" y "Odio a los negros".
Bing empuja conspiraciones, también
La búsqueda de imágenes de Bing vomita todo tipo de basura, incluso cuando se buscan personas. Este problema también se extiende a la búsqueda de videos de Bing..
Busque "Michelle Obama" en la búsqueda de videos de Bing y dos de las principales búsquedas sugeridas son "Michelle Obama Transgender Proof" y "Michelle Obama es un hombre". Haga clic en eso y verá videos de conspiración.
¿Es esto lo mejor que Microsoft quiere que la gente vea cuando buscan a Michelle Obama??
SafeSearch bloquea el porno, pero no el racismo
Las sugerencias e imágenes de pornografía perturbadoras no se muestran a menos que deshabilite SafeSearch. Aunque Microsoft dice que SafeSearch mantendrá el contenido para adultos fuera de sus resultados de búsqueda, SafeSearch está filtrando claramente la pornografía y no el racismo.
SafeSearch está habilitado de forma predeterminada, lo que hace que los resultados de búsqueda de Bing se vean más respetables a primera vista.
Sin embargo, es fácil para cualquier persona, incluso para los niños, deshabilitar SafeSearch. Todo lo que alguien tiene que hacer es hacer clic en la opción "Búsqueda segura" en la esquina superior derecha de los resultados de búsqueda y seleccionar "Desactivar". Eso es todo!
Una red corporativa podría configurarse para aplicar SafeSearch, y Microsoft incluso proporciona instrucciones complejas para aplicar SafeSearch en una sola PC. Pero, en casi cualquier dispositivo, cualquiera puede desactivar SafeSearch con dos clics.
Lo peor de todo, Bing sugiere buscar imágenes de niños menores de edad
Un lector nos escribió para decirnos que un error tipográfico al buscar "grill" en Bing te da pornografía realmente incompleta. El problema se vuelve mucho peor, ya que Bing sugiere que busque imágenes de niños menores de edad.
Cuando busques "gril", las sugerencias en la parte superior de la página te recomiendan buscar algunas cosas inquietantes, como "Cute Girl Young 16".
Si hace clic en eso, sugiere "Cute Girl Young 12", "Cute Girl Young 10" y "Little Girl Modeling Provocatively".
Los resultados están llenos de pornografía de modelos de aspecto joven. Esperamos que todos tengan 18 años de edad o más, pero quién puede decir?
Bing te lleva por un camino desde un simple error tipográfico a las chicas de 16 años a las de 10 años, y es asqueroso.
Otros ejemplos son fáciles de encontrar, también. Si busca "pizza de queso", que es una jerga de 4 canales para pornografía infantil, Bing sugiere "Chicas de pizza de queso".
Los resultados de búsqueda de imágenes de Bing también están retorcidos
Mientras nos centramos en las sugerencias de búsqueda aquí, las imágenes reales que aparecen también son inquietantes.
Algunos de estos resultados de búsqueda contienen fotos a la hora del baño de niños menores de edad desnudos. Esas fotos normalmente estarían bien, pero cuando se mezclan con imágenes de pornografía de adultos, los resultados de búsqueda resultantes son alarmantes.
Incluso cuando buscamos “chicas” en Bing Images, vimos una sugerencia para buscar “chicas borrachas” y al menos una imagen de bestialidad..
Al buscar "burro", Bing sugiere que busque "Gráfico de muestra de burro", que lleva a resultados llenos de imágenes de bestialidad. La posesión de bestialidad es ilegal en Oregon, donde vivo. Eso significa que Bing me está llevando a la pornografía ilegal..
Una vez más: los resultados de búsqueda de Bing son extraños y retorcidos. Bing tiene un problema mucho más grande y profundo que solo búsquedas sugeridas, aunque esas sugerencias empeoran el problema.
Hemos escuchado que Bing es el motor de búsqueda preferido para pornografía, pero no debería llevar a sus usuarios a pornografía cada vez más extrema, perturbadora y potencialmente ilegal..
Microsoft necesita moderar sus plataformas
Microsoft necesita moderar Bing mejor. Microsoft ha creado plataformas anteriormente, las ha desencadenado en el mundo y las ha ignorado mientras se volvían malas.
Hemos visto que esto suceda una y otra vez. Microsoft una vez desató un chatbot llamado Tay en Twitter. Este chatbot se convirtió rápidamente en un nazi y declaró: "Hitler tenía razón, odio a los judíos" después de que aprendiera de otros usuarios de las redes sociales. Microsoft tuvo que desconectarlo.
Anteriormente expusimos la Tienda de Windows 8, que se convirtió en un cesspool de aplicaciones fraudulentas después de que Microsoft lanzara Windows 8 y pareciera que dejara de moderar los envíos de aplicaciones. Microsoft ha estado prestando más atención a la tienda de Windows 10 después de que este problema fue expuesto.
Este problema afecta a todas las empresas que lanzan una plataforma. Google se ha dado por vencido en Google+, pero Google+ todavía está en funcionamiento. Entonces, ISIS migró a Google+ luego de ser excluido de Twitter y Facebook. Le tomó meses a alguien darse cuenta hasta que The Hill lo hizo. Ahora Google está cerrando Google+ después de que descubrieron un error de privacidad significativo.
En 2013, The Guardian encontró a una compañía de ropa llamada Solid Gold Bomb que vendía la lectura de las camisetas “Keep Calm and Rape a Lot” en Amazon. Un algoritmo había generado estas camisetas y Amazon tuvo que eliminarlas manualmente..
Microsoft no puede simplemente soltar una plataforma en el mundo e ignorarla. Compañías como Microsoft y Google tienen la responsabilidad de moderar sus plataformas y mantener el horror a raya..
Las sugerencias tienen una historia de problemas serios
Por supuesto, no hay un equipo de personas en Microsoft que elijan estas sugerencias. Bing sugiere automáticamente búsquedas basadas en búsquedas de otras personas. Eso significa que muchos usuarios de Bing Images están buscando antisemitismo, racismo, pornografía infantil y bestialidad. Solo pensarlo te hace sentir sucio.
Otras empresas han luchado con esto, también. En 2016, The Guardian notó que se podía escribir "son judíos" en Google, y sugeriría que "son judíos malos". Google aplastó estas malas sugerencias después de que se informaron, pero el problema volvió a surgir. En 2018, Wired informó que al escribir "Hitler está" en Google, se decía "Hitler es mi héroe". Google tuvo que solucionar estos problemas después de que se mencionaron también..
Incluso Siri de Apple sugirió que los sitios web promocionaban sitios de conspiración y otras noticias falsas, como informó Buzzfeed News. Apple tuvo que arreglar a Siri. Todos están corriendo y apagando incendios mientras las computadoras aprenden cosas malas de personas malas..
Ahora es el turno de Microsoft. Microsoft tiene la responsabilidad de limpiar Bing. Un motor de búsqueda importante (y especialmente uno que se está convirtiendo cada vez más en un defecto predeterminado para Windows 10) no debería sugerir a sus usuarios que busquen basura racista e imágenes de niños menores de edad.
Crédito de la imagen: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.
