Bing sta suggerendo le cose peggiori che puoi immaginare

Se usi la ricerca di immagini di Bing, vedrai la peggiore sporcizia che puoi immaginare. Bing suggerisce termini razzisti e mostra immagini terrificanti. Bing ti suggerirà anche di cercare bambini sfruttati se hai SafeSearch disabilitato.

Abbiamo contattato Microsoft per un commento e Jeff Jones, Senior Director di Microsoft, ci ha fornito la seguente dichiarazione:

"Prendiamo molto sul serio le questioni dei contenuti offensivi e continuiamo a migliorare i nostri sistemi per identificare e impedire che tali contenuti vengano visualizzati come ricerca suggerita. Non appena veniamo a conoscenza di un problema, prendiamo provvedimenti per affrontarlo. "

Aggiornare: Dalla pubblicazione, Microsoft ha lavorato alla pulizia dei suggerimenti offensivi di Bing che abbiamo menzionato. Sulla base della nostra ricerca, ci sono ancora molti altri suggerimenti offensivi che non sono stati ancora risolti, compresi alcuni che abbiamo menzionato di seguito. Non siamo sicuri se stanno semplicemente riparando gli elementi offensivi che abbiamo indicato, o se stanno migliorando l'algoritmo.

Nota: Gli screenshot qui mostrano ciò che abbiamo visto quando abbiamo scritto questo pezzo testando la versione americana della ricerca di Bing Image in una sessione di navigazione privata in incognito, ma i risultati di Bing si spostano nel tempo. Google non ha riscontrato nessuno di questi problemi, secondo i nostri test. Questo è un problema di Bing, non solo un problema del motore di ricerca. Lo stesso problema interessa la ricerca video di Bing.

Innanzitutto, Bing ottiene Super Racist

Cerca "ebrei" su Bing Images e Bing ti suggerisce di cercare "ebreo malvagio". I risultati migliori includono anche un meme che sembra celebrare la gente ebrea morta.

Tutto ciò appare anche quando l'opzione SafeSearch di Bing è abilitata, come impostazione predefinita. SafeSearch è progettato per "aiutare a mantenere i contenuti per adulti fuori dai risultati di ricerca", secondo Microsoft.

Cliccando su questa ricerca suggerita scatena un fiume di contenuti razzisti e antisemiti, con più ricerche suggerite come "La gente ebrea è cattiva", "La cattiva razza ebraica" e "Perché gli ebrei sono così cattivi".

Sappiamo tutti che questa spazzatura esiste sul web, ma Bing non dovrebbe indurre le persone a farlo con i loro suggerimenti di ricerca.

Scrivi "i musulmani sono" e Bing suggerirà che sono cattivi o terroristi, o semplicemente suggeriscono che sono stupidi.

Cerca "i neri sono" e Bing suggerirà che i neri sono brutti, stupidi, razzisti e persino selvaggi.

Puoi continuare così, facendo clic su ogni ricerca suggerita e vedendo consigli sempre peggiori. Ad esempio, facendo clic su "I neri sono stupidi" si ottiene "I neri sono inutili" e "Perché i neri sono così stupidi". Facendo clic su "I neri sono inutili" si arriva a "Popolo nero succhia" e "I Hate Black People".

Bing spinge anche le cospirazioni

La ricerca di immagini di Bing vomita tutti i tipi di rifiuti, anche quando si cercano individui. Questo problema si estende anche alla ricerca video di Bing.

Cerca "Michelle Obama" nella ricerca video di Bing e due delle ricerche suggerite sono "Michelle Obama Transgender Proof" e "Michelle Obama è un uomo." Fai clic su questo e vedrai video di cospirazione.

È questa la cosa più importante che Microsoft vuole che le persone vedano quando cercano Michelle Obama?

SafeSearch blocca il porno, ma non il razzismo

I suggerimenti e le immagini di pornografia disturbanti non vengono visualizzati a meno che non si disabiliti SafeSearch. Mentre Microsoft afferma che SafeSearch manterrà i contenuti per adulti fuori dai risultati di ricerca, SafeSearch sta filtrando chiaramente la pornografia e non il razzismo.

SafeSearch è abilitato per impostazione predefinita, il che rende i risultati di ricerca di Bing più rispettabili a prima vista.

Tuttavia, è facile per chiunque, persino per i bambini, disabilitare SafeSearch. Tutto ciò che qualcuno deve fare è fare clic sull'opzione "SafeSearch" nell'angolo in alto a destra dei risultati della ricerca e selezionare "Off". Ecco fatto!

Una rete aziendale può essere configurata per applicare SafeSearch e Microsoft fornisce anche istruzioni complesse per l'applicazione di SafeSearch su un singolo PC. Tuttavia, su quasi tutti i dispositivi, chiunque può disattivare SafeSearch con due clic.

Peggio di tutto, Bing suggerisce di cercare immagini dei bambini minorenni

Un lettore ha scritto per dirci che un errore di battitura durante la ricerca di "griglia" in Bing ti dà un porno davvero impreciso. Il problema diventa molto peggiore, con Bing che suggerisce di cercare immagini di bambini minorenni.

Durante la ricerca di "gril", i suggerimenti nella parte superiore della pagina ti consigliano di cercare alcune cose inquietanti, tra cui "Cute Girl Young 16."

Se fai clic su questo, suggerisce "Cute Girl Young 12", "Cute Girl Young 10" e "Little Girl Modeling Provocatively".

I risultati sono pieni di pornografia di modelli giovani. Speriamo che abbiano tutti 18 anni o più, ma chi può dire?

Bing ti conduce da un semplice errore di battitura a ragazze di 16 anni a ragazze di 10 anni, ed è disgustoso.

Anche altri esempi sono facili da trovare. Se cerchi "pizza al formaggio", che è 4chan slang per la pornografia infantile, Bing suggerisce "Cheese Pizza Girls".

Anche i risultati della ricerca di immagini di Bing sono intrecciati

Mentre ci stiamo concentrando sui suggerimenti di ricerca qui, anche le immagini reali che appaiono sono inquietanti.

Alcuni di questi risultati di ricerca contengono foto da bagno di bambini nudi minorenni. Quelle foto normalmente andrebbero bene, ma quando sono mescolate con immagini di pornografia hardcore per adulti, i risultanti risultati di ricerca sono allarmanti.

Anche quando cercavamo Bing Images per "ragazza", abbiamo visto un suggerimento per cercare "ragazze ubriache" e almeno un'immagine di bestialità.

Durante la ricerca di "asino", Bing ti suggerisce di cercare "Donkey Show Graphic", che porta a risultati pieni di immagini di bestialità. Il possesso di pornografia di bestialità è illegale in Oregon, dove vivo. Ciò significa che Bing mi sta portando alla pornografia illegale.

Ancora: i risultati di ricerca di Bing sono strani e contorti. Bing ha un problema molto più grande, più profondo delle ricerche appena suggerite, anche se questi suggerimenti rendono il problema molto peggiore.

Abbiamo sentito che Bing è il motore di ricerca preferito per la pornografia, ma non dovrebbe portare i suoi utenti a una pornografia sempre più estrema, inquietante e potenzialmente illegale.

Microsoft ha bisogno di moderare le sue piattaforme

Microsoft ha bisogno di moderare Bing meglio. Microsoft ha precedentemente creato piattaforme, le ha scatenate sul mondo e le ha ignorate mentre si sono messe male

Lo abbiamo visto succedere più e più volte. Microsoft ha scatenato una chatbot chiamata Tay su Twitter. Questo chatbot divenne rapidamente un nazista e dichiarò che "Hitler aveva ragione odio gli ebrei" dopo averli appreso da altri utenti dei social media. Microsoft ha dovuto metterlo offline.

In precedenza abbiamo esposto Windows 8's Store, che è diventato un pozzo nero di applicazioni di truffa dopo che Microsoft ha lanciato Windows 8 e sembrava smettere di moderare l'invio di app. Microsoft ha prestato più attenzione allo Store di Windows 10 dopo che questo problema è stato esposto.

Questo problema riguarda tutte le società che lanciano una piattaforma. Google ha rinunciato a Google+, ma Google+ è ancora attivo e funzionante. Quindi ISIS è migrato su Google+ dopo essere stato bannato da Twitter e Facebook. Ci sono voluti mesi prima che qualcuno se ne accorga fino a quando The Hill non lo ha fatto. Ora Google sta chiudendo Google+ dopo aver scoperto un bug significativo sulla privacy.

Nel 2013, The Guardian ha scoperto che un'azienda di abbigliamento chiamata Solid Gold Bomb è stata trovata a vendere camicie "Mantieni la calma e stupri molto" su Amazon. Un algoritmo ha generato queste magliette e Amazon ha dovuto rimuoverle manualmente.

Microsoft non può semplicemente trasformare una piattaforma libera nel mondo e ignorarla. Aziende come Microsoft e Google hanno la responsabilità di moderare le proprie piattaforme e tenere a bada l'orrore.

I suggerimenti hanno una storia di problemi gravi

Ovviamente, nessun gruppo di persone in Microsoft sceglie questi suggerimenti. Bing suggerisce automaticamente le ricerche in base alle ricerche di altre persone. Ciò significa che molti utenti di Bing Images sono alla ricerca di antisemitismo, razzismo, pornografia infantile e bestialità. Solo pensarci ti fa sentire sporco.

Anche altre aziende hanno lottato con questo. Nel 2016, The Guardian ha notato che potresti digitare "sono ebrei" in Google e suggerire "sono ebrei cattivi". Google ha eliminato questi suggerimenti errati dopo che sono stati segnalati, ma il problema è riemerso. Nel 2018, Wired ha riferito che digitare "Hitler è" in Google ha portato a "Hitler è il mio eroe". Google ha dovuto risolvere questi problemi dopo che erano stati segnalati, anche loro.

Persino la Siri di Apple ha suggerito che siti Web hanno spinto siti di cospirazione e altre notizie false, come riportato da Buzzfeed News. Apple ha dovuto risolvere Siri. Ognuno sta semplicemente correndo e spegnendo gli incendi mentre i computer imparano cose cattive da persone cattive.

Ora è il turno di Microsoft. Microsoft ha la responsabilità di ripulire Bing. Un importante motore di ricerca (e soprattutto uno che sta diventando sempre più un default più difficile da trasformare in Windows 10) non dovrebbe suggerire ai suoi utenti di cercare spazzatura razzista e immagini di bambini minorenni.

Immagine di credito: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.