Kā mākslīgais intelekts mainīs mūsu dzīvi, labāk vai sliktāk
Ja pēdējo gadu laikā esat pievērsis uzmanību plašsaziņas līdzekļiem, jūs varētu saņemt iespaidu, ka tas ir tikai laika jautājums, pirms mākslīgā intelekta draudi mūs visus iznīcina.
Redaktora piezīme: šī ir atkāpe no mūsu parastā un skaidrojošā formāta, kurā mēs ļaujam mūsu rakstniekiem pētīt un iepazīstināt ar domu provokējošu tehnoloģiju.
No lieliem vasaras blokatoriem, piemēram, Avengers: Ultrona laikmets un Džonija Deppa stinku festivāls Transcendence, uz mazākiem, indie flicks, piemēram, Ex-Machina vai Channel 4 hit drāmām Cilvēki, scenāristi šķietami nevar iegūt pietiekami daudz tropu, ka neatkarīgi no tā, kāda forma ir AI beidzot aizņems dažu nākamo desmitgažu laikā, jūs varat likt, ka būs elle, lai mācītu cilvēcei mācīties par to, kā kļūt par upuri savam hubris.
Bet vai kāda no šīm bailēm no mašīnas ir pamatota? Šajā funkcijā mēs pētīsim AI pasauli no zinātnieku, inženieru, programmētāju un uzņēmēju, kas strādā šajā jomā, viedokļa un uzkarsīs to, ko viņi varētu uzskatīt par nākamo lielo cilvēku un datoru izlūkošanas revolūciju.
Tātad, ja jūs sākat uzkrāt lodes nākošajam karam ar Skynet, vai kick up jūsu kājām, kamēr armija pakārtoto drones rūpēties par jūsu katru kaprīze? Lasiet tālāk, lai uzzinātu.
Zini Tavu ienaidnieku
Vispirms tas palīdz uzzināt, par ko mēs runājam, kad mēs izmantojam vispārīgo terminu “AI”. Vārds ir izmests ap simtiem reižu, jo jēdziens par pašapziņu datoriem pirmo reizi tika piedāvāts neoficiālā AI tēva Džona Makartija 1955. gadā ... bet ko tas patiesībā nozīmē?
Pirmkārt, lasītājiem jāzina, ka mākslīgais intelekts, kā mēs to saprotam šodien, faktiski ietilpst divās atsevišķās kategorijās: “ANI” un “AGI”.
Pirmais, īss mākslīgā šaurā izlūkošana, ietver to, ko parasti dēvē par „vāju” AI, vai AI, kas var darboties tikai vienā ierobežotā specializācijas jomā. Domāju, ka Deep Blue, superkompiuteris, kuru IBM izstrādāja, lai Trounce pasaules šaha meistari atkal 1997.gadā. Deep Blue var darīt vienu lietu patiešām labi: pārspēt cilvēkus šahā ... bet tas ir par to.
Jūs to nevarat saprast, bet mēs jau esam ANI apkārt mūsu ikdienas dzīvē. Mašīnas, kas izseko jūsu iepirkšanās paradumus uz Amazon un rada ieteikumus, kas balstīti uz tūkstošiem dažādu mainīgo, ir veidoti, balstoties uz sākotnējiem ANI, kas “mācās” to, kas jums patīk laika gaitā, un attiecīgi izvēlēties līdzīgus produktus. Vēl viens piemērs varētu būt personas e-pasta surogātpasta filtri, sistēmas, kas uzreiz sakārto miljonus ziņojumu, lai izlemtu, kuras ir reālas, un kāda ir papildu trokšņa pakāpe, kas var tikt izslēgta no sāniem.
ANI ir noderīgs, salīdzinoši nekaitīgs mašīnu inteliģences ieviešana, ko var izmantot visa cilvēce, jo, lai gan tas spēj apstrādāt miljardus ciparu un pieprasījumu vienlaikus, tas joprojām darbojas ierobežotā vidē, ko ierobežo mūsu atļauto tranzistoru skaits. tā ir jebkurā brīdī. No otras puses, AI, kuru mēs arvien vairāk piesardzīgi uztveram, ir kaut kas, ko sauc par „mākslīgo vispārējo inteliģenci” vai AGI.
Kā tas pašlaik ir, viss, ko var pat attālināti nosaukt par AGI, joprojām ir Datorzinātnes Svētais Grāls, un, ja tas ir sasniegts, tas varētu būtiski mainīt visu pasauli, kā mēs to zinām. Ir daudz dažādu šķēršļu, lai pārvarētu izaicinājumu izveidot patiesu AGI paralēli cilvēka prātam, kas ir vismaz tas, ka, lai gan ir daudz līdzību starp veidu, kā mūsu smadzenes strādā un kā datori apstrādā informāciju, kad tas nāk uz leju faktiski interpretēt lietas, kā mēs to darām; mašīnām ir slikts ieradums piekarināt detaļām un trūkst koku koku.
"Es baidos, ka es nevaru jūs darīt, ka Bullsh * t, Dave"
Kad IBM Watson dators ir labi iemācījies, kā nolādēt, lasot pilsētu vārdnīcu, mēs guvām izpratni par to, cik tālu mēs esam no AI, kas patiesi spēj šķirot cilvēka pieredzes detaļas un radīt precīzu priekšstatu par to, ko „Domāja” ir paredzēts, ka tā ir izgatavota.
Skatiet, Watsona attīstības laikā inženieriem bija grūtības mēģināt iemācīt tai dabisku runas modeli, kas vairāk atdarināja mūsu pašu, nevis neapstrādātu mašīnu, kas runā perfektos teikumos. Lai to atrisinātu, viņi saprata, ka būtu laba ideja visu pilsētas vārdnīcu vadīt, izmantojot tās atmiņas bankas, tūlīt pēc tam, kad Watson atbildēja uz vienu no komandas testiem, nosaucot to par „bullsh * t”.
Šeit ir tas, ka, lai gan Watsons zināja, ka tas ir lāsts un ka tas, ko viņš teica, bija aizskarošs, tas pilnībā nesaprata kāpēc tas nebija paredzēts, lai izmantotu šo vārdu, kas ir kritiskais komponents, kas atdala mūsdienu ANI standartu no attīstības līdz rītdienas AGI. Protams, šīs mašīnas var lasīt faktus, rakstīt teikumus un pat simulēt žurka neironu tīklu, bet, kad runa ir par kritisko domāšanu un spriedumu prasmēm, šodienas AI joprojām atpaliek no līknes.
Šī atšķirība starp zināšanu un sapratni nav nekas, kas šķaudīt, un tas, ko pesimisti norāda, apgalvojot, ka mēs joprojām esam garš ceļš no tādas AGI izveides, kas spēj sevi pazīt kā mēs. Tas ir milzīgs līcis, no kura ne datoru inženieri, ne cilvēku psihologi nevarētu apgalvot, ka viņiem ir mūsdienīga definīcija par to, kas padara apzinātu būtību, labi, apzinās.
Ko darīt, ja Skynet kļūst par pašapziņu?
Bet, pat ja mēs kaut kādā veidā spēsim izveidot AGI nākamajā desmitgadē (kas ir diezgan optimistiski, ņemot vērā pašreizējās prognozes), tad viss no tā būtu jātērē, vai ne? Cilvēki, kas dzīvo ar AI, nedēļas nogalēs pēc garas dienas numura drupināšanas fabrikā pavadīja cilvēkus. Iepakojiet un mēs esam šeit?
Ceru, ka mēs esam ne tikai bioloģiskās ielādēšanas iekārta digitālajai superintelligencei. Diemžēl tas ir arvien vairāk iespējams
- Elon Musk (@elonmusk) 2014. gada 3. augustā
Nu, ne gluži. Vēl joprojām ir vēl viena AI kategorija, un visas filmas un TV pārraides ir mēģinājušas mūs brīdināt jau vairākus gadus: ASI, kas pazīstams kā “mākslīgā super inteliģence”. Teorētiski, ASI būtu dzimis no AGI, kas kļūst nemierīgs ar savu daudz dzīvību, un padarot apzinātu lēmumu darīt kaut ko par to atsevišķi, bez pirmās mūsu atļaujas. Daudzi pētnieki šajā jomā ir ierosinājuši, ka pēc tam, kad AGI sasniegs sajūtu, tas nebūs apmierināts ar to, ko tas ieguvis, un darīs visu iespējamo, lai palielinātu savas spējas ar jebkādiem nepieciešamajiem līdzekļiem..
Iespējamais laika grafiks ir šāds: cilvēki rada mašīnu, mašīna kļūst tikpat gudra kā cilvēki. Mašīna, kas tagad ir tikpat gudra kā cilvēki, kas radīja mašīnu tikpat gudri kā paši (pieturieties pie manis šeit), mācās sevis replikācijas, pašattīstības un pašattīstības mākslu. Tas nav noguris, tas neslimst, un tas var augt bezgalīgi, kamēr pārējie mums ir uzlādējuši baterijas gultā.
Bailes ir, ka tas būtu tikai dažu nanosekundu jautājums, pirms AGI viegli pārsniegtu visu cilvēku, kas dzīvo šodien, inteliģenci, un, ja tie ir pieslēgti tīmeklim, tam vajadzētu būt tikai vienam imitētam neironam, kas būtu gudrāks nekā pasaules viedākais hacker. katras planētas interneta savienotās sistēmas kontrole.
Pēc tam, kad tā iegūs kontroli, tai var būt iespēja izmantot savu varu, lai lēnām sāktu uzkrāties tādu mašīnu armiju, kas ir tikpat inteliģentas kā tās radītājs un spēj attīstīties eksponenciālā ātrumā, jo tīklam tiek pievienoti arvien vairāk mezglu. No šejienes visi modeļi, kas uzzīmēti uz mašīntīkla līknes, nekavējoties izplūst caur jumtu.
Tomēr viņi tomēr galvenokārt balstās uz spekulācijām, nevis uz kaut ko taustāmu. Tas atstāj daudz vietas pieņēmumiem vairāku desmitu ekspertu vārdā abās jautājuma pusēs, un pat pēc gadiem ilgušām debatēm vēl nav kopīgas vienprātības par to, vai ASI būs žēlsirdīgs dievs, vai arī redzēs cilvēkus. kā oglekļa dedzināšanas, pārtikas gorgēšanas sugas, kuras mēs esam, un noslaucīt mūs no vēstures grāmatām, piemēram, mēs krūmājam skudru taku no virtuves letes.
Viņš teica, viņa teica: mums vajadzētu baidīties?
Tātad, tagad, kad mēs saprotam, kas ir AI, dažādas formas, ko tā var pārņemt laika gaitā, un to, kā šīs sistēmas varētu kļūt par mūsu dzīves daļu tuvākajā nākotnē, paliek jautājums: vai mums vajadzētu baidīties?
Karsts par pēdējo gadu garu sabiedrības interesi par AI, daudzi no pasaules vadošajiem zinātniekiem, inženieriem un uzņēmējiem ir devušies uz iespēju dot savus divus centus par to, ko mākslīgais intelekts varētu patiešām izskatīties ārpus Holivudas skaņas posmiem tuvākajās desmitgadēs.
No vienas puses, jums ir tādi drūmi un doomeri kā Elon Musk, Stephen Hawking un Bill Gates, kuriem visiem ir bažas, ka bez atbilstošiem aizsardzības pasākumiem tā būs tikai laika jautājums, pirms ASI sapņo, kā iznīcināt cilvēci.
„Var iedomāties, ka šāda tehnoloģija pārspēj finanšu tirgus, izgudroja cilvēka pētniekus, manipulē ar cilvēku līderiem un izstrādā ieročus, ko mēs pat nevaram saprast,” rakstīja Hawking atklātā vēstulē AI kopienai šogad..
„Tā kā AI īstermiņa ietekme ir atkarīga no tā, kurš to kontrolē, ilgtermiņa ietekme ir atkarīga no tā, vai to vispār var kontrolēt.”
No otras puses, mēs atrodam gaišāku portretu, ko gleznojuši futūristi, piemēram, Microsoft galvenais pētnieks Ēriks Horovics, un Ray Kurzweill, un visi ir citi iecienītākais Apple dibinātājs; Steve Wozniak. Gan Hawking, gan muskuss tiek uzskatīti par diviem no mūsu paaudzes lielākajiem prātiem, tāpēc, lai apšaubītu viņu prognozes par kaitējumu, tehnoloģija varētu radīt ilgtermiņā nekādu vieglu iezīmi. Bet, atstājiet to tādām gaismām kā Wozniak, lai soli, kur citi tikai uzdrīkstētos.
Jautājot par to, kā viņš uzskata, ka ASI varētu ārstēt cilvēkus, Woz bija tumšs savā ēnainajā optimismā: „Vai mēs būsim dievi? Vai mēs būsim ģimenes mājdzīvnieki? Vai arī mēs būsim skudras, kas iegūs? Es par to nezinu, ”viņš jautāja intervijā ar Austrālijas finanšu pārskatu. "Bet, kad es saņēmu šo domāšanu manā galvā par to, vai es nākotnē izturēšos pret šo viedo mašīnu kā mājdzīvnieku ... labi, es ar savu mājdzīvnieku suni izturēšu patiešām jauku."
Un šeit mēs atrodam filozofisko dilemmu, ka neviens nav pilnībā apmierināts, lai panāktu vienprātību par: vai ASI mūs redzēs kā nekaitīgu mājokli, kas tiks kodēts un aprūpēts, vai nevēlams kaitēklis, kas pelnījis ātru un nesāpīgu iznīcināšanu?
Hasta la Vista, Baby
Lai gan būtu muļķības prasība apgalvot, ka precīzi zināt, kas notiek reālās dzīves galvā Tony Stark, es domāju, ka tad, kad muskuss un draugi mūs brīdina par AI briesmām, tie neattiecas uz kaut ko, kas atgādina Terminatoru , Ultrons vai Ava.
Pat ar milzīgiem inovāciju apjomiem mūsu rokās mūsdienās esošie roboti var tikko iet kilometru stundā, pirms tie sasniedz nepārvaramu barjeru, sajaukt un ēst brīnumainā veidā. Un, lai gan kāds varētu mēģināt norādīt uz Moore likumu kā piemēru tam, cik ātri robotikas tehnoloģija var gūt panākumus nākotnē, otram tikai jāapskata Asimo, kas pirmo reizi debitēja gandrīz pirms 15 gadiem, un nav izdarījusi kopš tā laika.
Ciktāl mēs to varētu vēlēties, robotika nav nonākusi tuvu tam pašam eksponenciālā progresa modelim, kā mēs redzējām datoru procesoru attīstībā. Tos ierobežo fiziskās robežas, cik daudz spēka mēs varam ievietot akumulatora komplektā, hidraulisko mehānismu kļūdainais raksturs un bezgalīgā cīņa par cīņu pret savu smaguma centru.
Tātad pagaidām; nē, lai gan patiesi AGI vai ASI varētu tikt izveidots statiskā superdatorā dažās Arizonas serveru saimniecībās, joprojām ir ļoti maz ticams, ka mēs atradīsim sprādzienu caur Manhetenas ielām, kā metālu skeletu orda pļaut mūs no aizmugures.
Tā vietā, AI, ko Elons un Hakss ir tik ļoti ieinteresēti, lai pasargātu pasauli, ir šķirne, kas aizstāj karjeru, kas var domāt ātrāk par mums, organizēt datus ar mazākām kļūdām un pat uzzināt, kā labāk strādāt nekā mēs jebkad varētu cerēt - visi, nepieprasot veselības apdrošināšanu vai dažas dienas, lai aizvestu bērnus uz Disnejlendu uz Spring Break.
Barista boti un Perfekta kapučīno
Pirms dažiem mēnešiem NPR savā tīmekļa vietnē publicēja ērtu rīku, kurā podcast klausītāji varēja izvēlēties no dažādu karjeru saraksta, lai noskaidrotu, cik procentu no sava konkrētā darba līnijas nākamo 30 gadu laikā tiek automatizēti..
Plašam darbavietu klāstam, tai skaitā, bet ne tikai: ierēdņu amati, medicīnas māsas, IT, diagnostika un pat kafejnīcu baristi, roboti un to ANI kolēģi gandrīz noteikti nodos miljoniem no mums darbu un maizes līnijā ātrāk nekā daudzi no mums domā. Taču šīs ir mašīnas, kas tiks ieprogrammētas, lai veiktu vienu uzdevumu un tikai vienu uzdevumu, un tām ir maz (ja tādas ir) spējas pāriet no specializētas iepriekš ieprogrammētu instrukciju sērijas, ko mēs rūpīgi instalējam iepriekš.
Tas nozīmē, ka vismaz tuvākajā nākotnē (domājiet par 10-25 gadiem) ANI būs reāls, reāls drauds mūsu dzīvesveidam daudz vairāk nekā jebkurš teorētisks AGI vai ASI. Mēs jau zinām, ka automatizācija ir pieaugoša problēma, kas krasi mainīs veidu, kādā ienākumi un privilēģijas tiek izplatītas visā pirmajā un trešajā pasaulē. Tomēr, vai šie roboti galu galā mēģinās tirgoties ar savu šujmašīnu mašīnpistoles, joprojām tiek apsildīta (un, kā jūs uzzināsiet), galu galā vieglprātīgas debates.
Ar Lielo varu nāk Lielā Singularitāte
"Jūs zināt, es zinu, ka šis steiks nepastāv. Es zinu, ka tad, kad to ievietoju mutē, matrica manas smadzenes stāsta, ka tā ir sulīga un garšīga. Pēc deviņiem gadiem jūs zināt, ko es saprotu?
„Nezināšana ir svētlaime.” - Cypher
Lai gan šis jautājums joprojām ir slepens viedoklis, šobrīd daudzu augstāko zinātnieku un inženieru vienprātība AI pētījumu jomā ir tāda, ka mums ir daudz lielāks risks, ka mēs varam kļūt par upuriem mākslīgā intelekta pasaulē. tā varētu tikt sniegta, nevis Skynet reāllaika versija. Kā tāds tas ir saistīts ar iespēju, ka mūsu iespējamais nāves gadījums nevar būt kā lēna, metodiska progresa rezultāts lielajā nezināmajā. Tā vietā, visticamāk, būs virsma kā neparedzēta sekas, ko izraisīja mūsu pašu hubrisa un atjautības, kas apvienojas kopā, radot nākamo lielo tehnoloģisko izcilību..
Domājiet mazāk Terminators, un vēl Wall-E. Tāpat kā robotu flote, kas pāroja cilvēkus Pixar filmā, mums cilvēkiem nav nekādu problēmu turēt zaķus zooloģiskajā dārzā, un atšķirība ir par to, vai AI būs pietiekami laipns, lai to izdarītu ar mums.
No šī viedokļa ir lietderīgāk baidīties no realitātes, kurā cilvēki ir sasaistīti ar pastāvīgu planētu VR simulāciju à la Matrica, nobarojuši līdz žaunām ar savu iecienītāko ēdienu, un, ņemot vērā visu, ko viņi jebkad varētu vēlēties, kamēr mašīnas rūpējas par pārējo. Vieta, kur attīstītais ASI mūs neuzskata par bugu, lai noņemtu tās apavu, bet tā vietā, kā mums patīkamās pērtiķu gaļas maisiņi, mēs esam viegli, lūdzu, un pelnījuši vismaz mazliet kredītu, lai radītu visu zinošo, visu redzams kvazi-dievs, kas galu galā pārņēma planētu.
Šajā ziņā viss ir atkarīgs no jūsu definīcijas par to, ko nozīmē “dzīvot” ar AI revolūciju. Ideja, ka kaut kas “bezjēdzīgi” ir jāiznīcina, ir tikai cilvēka jēdziens, domāšanas veids, ka mums nevajadzētu nekavējoties sagaidīt, ka mūsu mašīnu vadītāji pieņems mūsu ierobežoto morālo apjomu. Varbūt mūsu digitālās inteliģences iespējamā attīstība nebūs tīra ļaunums, bet bezgalīga, neobjektīva līdzjūtība pret visām dzīvajām lietām; Neatkarīgi no tā, cik tie ir egoistiski, paštaisni vai pašiznīcinoši, viņi var būt.
Tātad… Vai mums par to būtu jāuztraucas?
Tas ir atkarīgs no tā, ko jūs lūdzat.
Ja jūs aptaujājat divus no gudrākajiem tehnoloģiskajiem inženieriem un matemātiķiem mūsdienu pasaulē, jūs saņemsiet četras dažādas atbildes, un skaitļi nenovirzās no mirušajiem pat vairāk cilvēku, kurus jūs pievienojat rezultātu apkopojumam. Jebkurā gadījumā galvenais jautājums, kas mums jārisina, nav par „vai AI nāk?”, Jo tas ir, un neviens no mums nespēs to apturēt. Aplūkojot tik daudz dažādu perspektīvu, īstais jautājums, ko neviens nav ērti atbildējis ar pārāk lielu gumšanu, ir: „Vai tas būs žēlsirdīgs?”
Pat pēc tam, kad daži no pasaules lielākajiem prātiem ir pievērsušies šai problēmai, attēls, kas varētu izrādīties 20, 30 vai 50 gadi nākotnē, joprojām ir diezgan maigs. Tā kā AI lauks pastāvīgi pārvēršas kaut kas cits, kad tiek ražota jauna datora mikroshēma vai tiek izstrādāts tranzistors, pieprasot galīgo autoritāti par to, kas var vai nevar notikt, ir mazliet kā sakot, ka tu zini, ka dice roll ir skaidrs nākamā mestā nākt klajā ar čūsku acīm.
Viena lieta, par kuru mēs varam ziņot ar pārliecību, ir tas, ka, ja esat nobažījies par to, ka nākamajā nedēļā no jūsu datorizētā kases aparāta saņemsiet rozā paslīdēšanu, mēģiniet to neievērot. Taco Bell joprojām būs atvērts Taco otrdienām, un cilvēks noteikti pieņems jūsu pasūtījumu pie loga (un atkal aizmirstot zaļo mērci). Saskaņā ar James Barrat veikto pētījumu pagājušā gada augstākā līmeņa sanāksmē, kas norisinājās Kvebekā, žūrija AI ir grūti izpildāma. Mazāk nekā puse no visiem apmeklētajiem apgalvoja, ka viņi uzskata, ka pirms 2025. gada mēs sasniegtu patiesu AGI, bet vairāk nekā 60 procenti teica, ka tas prasīs vismaz 2050. gadu, ja ne nākamo gadsimtu un vēlāk.
Cieta datuma ievietošana mūsu datumā ar digitālo likteni ir mazliet līdzīgs, sakot, ka jūs zināt, ka tas būs lietus šodien 34 gadu laikā. Atšķirība starp īstu AGI un progresīvu mākslīgo super inteliģenci ir tik niecīga, ka lietas vai nu ļoti labi, vai ļoti, ļoti ātri. Un, lai gan kvantu datori ir tikai virs horizonta un mēs visi esam ieguvuši tīklveida viedtālruņus mūsu kabatās, kas var signālus pārvērst kosmosā, mēs joprojām tikai tikko saskrāpējam virsmu, lai saprastu, kāpēc mēs domājam par to, kā mēs vai, ja apziņa pat nāk no pirmās vietas.
Iedomājoties, ka mēs varētu nejauši radīt mākslīgu prātu, kas būtu izplatīts ar visiem mūsu pašu bojājumiem un evolūcijas misfire - pirms mēs pat zinām, kas tas ir, kas padara mūs, kas mēs esam - ir cilvēka ego, kas darbojas amok, būtība..
Galu galā, neskatoties uz mūsu neuzticīgo vēlmi izlemt, kurš nāk klajā nākošajā karā un / vai miera līgumā starp cilvēci un mašīnām, tas ir ierobežotu cerību konkurss pret neierobežotām iespējām, un viss, ko mēs darām, ir strīdīgs par semantiku starp. Protams, ja tu esi svaigs no vidusskolas un meklējat taksometru vadītāja apliecību, Ubera izpilddirektoram ir pusmiljons iemeslu, kāpēc jums vajadzētu domāt par karjeras atrašanu citur.
Bet, ja jūs glabājat ieročus un konservētas pupiņas AI apokalipsei, jūs varētu labāk iztērēt laiku, apgūstot krāsu, kodēt vai rakstīt nākamo lielo amerikāņu romānu. Pat pie visdrošākajām aplēsēm tas būs vairākus gadu desmitus pirms jebkura mašīna uzzina, kā būt Monet, vai māca sevi C # un Java, jo cilvēki ir piepildīti ar radošumu, atjautību un spēju izteikt mūsu visdziļāko sevi kā nē automatizētā kafijas automāts jebkad varētu.
Jā, reizēm mēs varam nedaudz emocionāli nonākt pie aukstuma, vai arī dienas vidū ir jāieņem jauda, bet varbūt tas ir precīzi tāpēc, ka mēs esam cilvēki, ka draudi radīt kaut ko lielāku, nekā mēs, mašīnā joprojām ir garš, tālu prom.
Attēlu kredīti: Disney Pixar, Paramount Pictures, Bosch, Youtube / TopGear, Flickr / LWP komunikācijas Flickr / BagoGames, Wikimedia Foundation, Twitter, WaitButKāpēc 1, 2
