Bing ierosina sliktākās lietas, ko jūs varētu iedomāties

Ja jūs izmantojat Bing attēla meklēšanu, jūs redzēsiet sliktāko dubļu, ko varat iedomāties. Bing norāda uz rasistiskiem izteikumiem un rāda šausminošus attēlus. Bing pat ieteiks meklēt meklētos bērnus, ja jums ir SafeSearch atspējots.

Mēs sazinājāmies ar Microsoft, lai komentētu, un Microsoft vecākais direktors Jeff Jones mums sniedza šādu paziņojumu:

„Mēs ļoti nopietni uztveram aizskarošu saturu un turpinām uzlabot mūsu sistēmas, lai identificētu un novērstu šādu saturu kā ieteiktu meklēšanu. Tiklīdz mēs uzzināsim par problēmu, mēs rīkojamies, lai to risinātu. ”

Atjaunināt: Kopš publicēšanas Microsoft ir strādājusi pie tā, lai sakoptu aizskarošos Bing ieteikumus, kurus mēs minējām. Pamatojoties uz mūsu pētījumiem, joprojām ir daudz citu aizskarošu ieteikumu, kas vēl nav atrisināti, tostarp daži no tiem, kurus mēs minējām tālāk. Mēs neesam pārliecināti, vai tie vienkārši nosaka aizskarošos priekšmetus, vai arī, ja viņi uzlabo algoritmu.

Piezīme: Šeit redzamie ekrānšāviņi parāda to, ko mēs redzējām, kad mēs uzrakstījām šo gabalu, pārbaudot ASV Bing Image meklēšanas versiju inkognito privātajā pārlūkošanas sesijā, bet Bing rezultāti mainās laika gaitā. Saskaņā ar mūsu testiem Google nebija šo problēmu. Tā ir Bing problēma, nevis tikai meklētājprogrammas problēma. Tā pati problēma skar Bing video meklēšanu.

Pirmkārt, Bing Gets Super Racist

Meklēt “jews” uz Bing Images un Bing iesaka jums meklēt "Evil Jew." Top rezultāti ietver arī meme, kas, šķiet, svin mirušo ebreju tautu.

Tas viss parādās pat tad, ja ir iespējota opcija Bing SafeSearch, jo tā ir pēc noklusējuma. Droša meklēšana ir paredzēta, lai “palīdzētu saglabāt pieaugušo saturu no meklēšanas rezultātiem”, saskaņā ar Microsoft.

Uzklikšķinot uz šīs ierosinātās meklēšanas, tiek izlaists rasistisks, antisemītisks saturs, ar vairāk ieteiktu meklēšanu, piemēram, „Ebreju tauta ir ļauni”, „ļaunā ebreju rase” un „Kāpēc ebreji ir tik ļauni”.

Mēs visi zinām, ka šie atkritumi ir tīmeklī, bet Bing nevajadzētu vadīt cilvēkus ar meklēšanas ieteikumiem.

Ierakstiet “musulmaņi” un Bings ieteiks, ka viņi ir ļauni vai teroristi, vai vienkārši liek domāt, ka viņi ir stulba.

Meklēt “melnādainos cilvēkus” un Bing liks domāt, ka melni cilvēki ir neglīti, stulba, rasistiski un pat mežonīgi.

Jūs varat turpināt rīkoties, noklikšķinot uz katras ierosinātās meklēšanas un redzot sliktākus un sliktākus ieteikumus. Piemēram, noklikšķinot uz „Melni cilvēki ir stulbi”, „Melnie cilvēki ir bezjēdzīgi” un „Kāpēc melnie cilvēki ir tik mēmi”. Noklikšķinot uz „Melnie cilvēki bezjēdzīgi”, tiek parādīts „Melnie cilvēki sūkāt” un „Es ienīstu melnādainos cilvēkus.

Bing stumj konspirācijas, pārāk

Binga attēla meklēšana vomē visu veidu atkritumus pat tad, ja meklējat personas. Šī problēma attiecas arī uz Bing video meklēšanu.

Meklējiet “Michelle Obama” par Binga video meklēšanu, un divi no top ieteiktajiem meklējumiem ir “Michelle Obama Transgender Proof” un “Michelle Obama ir cilvēks.” Noklikšķiniet uz tā, un jūs redzēsiet sazvērestības videoklipus.

Vai šī ir galvenā lieta, ko Microsoft vēlas, lai cilvēki redzētu, kad viņi meklē Michelle Obamu?

SafeSearch bloķē porno, bet ne rasismu

Traucējošie pornogrāfijas ieteikumi un attēli netiek rādīti, ja vien jūs nedarbosiet drošu meklēšanu. Lai gan Microsoft saka, ka SafeSearch saglabās pieaugušo saturu no jūsu meklēšanas rezultātiem, SafeSearch nepārprotami filtrē pornogrāfiju, nevis rasismu.

Droša meklēšana ir iespējota pēc noklusējuma, kas padara Bing meklēšanas rezultātus pirmajā acu uzmetienā cienīgāku.

Tomēr ikvienam, pat bērniem, ir viegli atslēgt SafeSearch. Viss, kas ir jādara, ir noklikšķiniet uz opcijas “Droša meklēšana” meklēšanas rezultātu augšējā labajā stūrī un atlasiet “Izslēgts”.!

Korporatīvo tīklu varētu konfigurēt, lai izpildītu SafeSearch, un Microsoft pat piedāvā sarežģītas instrukcijas, kā piespiest SafeSearch vienā datorā. Taču gandrīz jebkurā ierīcē ikviens var atslēgt SafeSearch ar diviem klikšķiem.

Vissliktākais, Bing ierosina meklēt nepilngadīgo bērnu attēlus

Lasītājs rakstīja mums, ka, meklējot Bing par „grilu”, jums ir īsts pornogrāfisks. Tad problēma kļūst daudz sliktāka, jo Bing ierosina meklēt nepilngadīgu bērnu attēlus.

Meklējot “gril”, ieteikumi lapas augšpusē iesaka jums meklēt dažas satraucošas lietas, tostarp „Cute Girl Young 16.”

Noklikšķinot uz tā, tas norāda uz „Cute Girl Young 12”, „Cute Girl Young 10” un „Provokatīvi mazu meiteņu modelēšanu”.

Rezultāti ir aizpildīti ar pornogrāfiju ar jauniem modeļiem. Mēs ceram, ka viņi visi ir 18 gadus veci vai vecāki, bet kuri var teikt?

Bing jūs ved pa ceļu no vienkāršas rakstīšanas līdz 16 gadus vecām meitenēm līdz 10 gadus vecām meitenēm, un tas ir pretīgi.

Arī citi piemēri ir viegli atrodami. Ja meklējat “siera picu”, kas ir 4chan slengs bērnu pornogrāfijai, Bing iesaka „siera picas meitenes”.

Binga attēla meklēšanas rezultāti ir savīti, pārāk

Kamēr mēs koncentrējamies uz meklēšanas ieteikumiem šeit, faktiskie attēli, kas parādās, arī traucē.

Daži no šiem meklēšanas rezultātiem satur fotogrāfijas ar neapbruņotu nepilngadīgo bērniem. Šie fotoattēli parasti būtu labi, bet, ja tie ir sajaukti ar hardcore pieaugušo pornogrāfijas attēliem, meklēšanas rezultāti ir satraucoši.

Pat, meklējot Bing attēlus „meitenei”, mēs redzējām ierosinājumu meklēt „piedzēries meitenes” un vismaz vienu tēva attēlu.

Meklējot “ēzeli”, Bing iesaka jums meklēt “Donkey Show Graphic”, kas noved pie rezultātiem, kas ir pilni ar labprātības attēliem. Orģonā, kur es dzīvoju, pornogrāfija ir nelikumīga. Tas nozīmē, ka Bing mani noved pie nelegālas pornogrāfijas.

Atkal: Bing meklēšanas rezultāti ir dīvaini un savīti. Bingam ir daudz lielāka, dziļāka problēma, nekā tikai ieteiktie meklējumi, lai gan šie ieteikumi padara šo problēmu daudz sliktāku.

Mēs esam dzirdējuši, ka Bing ir pornogrāfijas izvēles meklētājprogramma, bet tā nedrīkstētu novest pie tā, lai lietotāji kļūtu arvien ekstremāli, satraucoši un potenciāli nelegāli pornogrāfiski.

Microsoft ir jākontrolē tās platformas

Microsoft labāk jākoriģē Bing. Microsoft jau ir izveidojusi platformas, atbrīvojusi tās pasaulē un ignorējusi tās, kamēr tās kļuva sliktas

Mēs to esam redzējuši vairāk un vairāk. Microsoft reizi čivināt atvēra tērzētavu Tay. Šis chatbot ātri pārvērtās par nacistu un paziņoja, ka “Hitlers bija taisnība, es ienīstu ebrejus” pēc tam, kad viņš uzzinājis no citiem sociālo mediju lietotājiem. Microsoft nācās to vilkt bezsaistē.

Mēs iepriekš atklājām Windows 8 veikalu, kas kļuva par scam apps pēc tam, kad Microsoft uzsāka Windows 8 un, šķiet, pārtrauca lietotņu iesniegumu moderēšanu. Pēc šīs problēmas atklāšanas Microsoft vairāk uzmanības pievērsa Windows 10 veikalam.

Šī problēma skar katru uzņēmumu, kas uzsāk platformu. Google ir atteikusies pakalpojumā Google+, bet Google+ joprojām darbojas un darbojas. Tātad ISIS migrēja uz Google+ pēc tam, kad bija aizliegts Twitter un Facebook. Pagāja mēneši, lai kāds varētu pamanīt, līdz kalns to darīja. Tagad Google aizver Google+ pēc tam, kad ir atklājusi būtisku privātuma kļūdu.

2013. gadā The Guardian atklāja, ka apģērbu kompānija Solid Gold Bomb tika pārdota lasījumā „Keep Calm and Rape a Lot” Amazon. Algoritms bija radījis šos kreklus, un Amazon nācās tos noņemt manuāli.

Microsoft nevar vienkārši pagriezt platformu pasaulē un ignorēt to. Uzņēmumiem, piemēram, Microsoft un Google, ir pienākums mazināt savas platformas un saglabāt šausmu.

Ieteikumi ir nopietnu problēmu vēsture

Protams, nav Microsoft komandas, izvēloties šos ieteikumus. Bing automātiski piedāvā meklēšanu, pamatojoties uz citu cilvēku meklējumiem. Tas nozīmē, ka daudzi Bing Images lietotāji meklē antisemītismu, rasismu, bērnu pornogrāfiju un labestību. Tikai domājot par to, jūs jūtaties netīrs.

Arī citi uzņēmumi ir cīnījušies ar to. 2016. gadā The Guardian pamanīja, ka jūs varat ierakstīt “ir jews” Google lapās, un tas liktu domāt, ka „ir jūdu ļaunums.” Google ziņoja par šiem sliktajiem ieteikumiem, kad tika ziņots, bet problēma atkal parādījās. In 2018, Wired ziņoja, ka rakstot "Hitler ir" Google noveda pie "Hitler ir mans varonis." Google bija šīs problēmas atrisināt pēc tam, kad tika norādīts, too.

Pat Apple Siri ieteica tīmekļa vietnes nospiest sazvērestības tīmekļa vietnes un citas viltotas ziņas, kā ziņoja Buzzfeed News. Apple bija jānosaka Siri. Ikvienam ir tikai skrējiens un ugunsgrēki, jo datori no sliktiem cilvēkiem mācās sliktas lietas.

Tagad tas ir Microsoft kārta. Microsoft ir atbildīga par Bing tīrīšanu. Lielākajai meklētājprogrammai (un jo īpaši tai, kas arvien vairāk kļūst par grūtāk izslēgtu noklusējuma sistēmu, kas iebūvēta sistēmā Windows 10), nevajadzētu ieteikt saviem lietotājiem meklēt rasistiskus atkritumus un nepilngadīgu bērnu attēlus.

Attēla kredīts: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.