Já pro jednoho vítám naše vládce AI

Letos vůbec poprvé počítač porazil mistra světa Go, jedné z nejsložitějších her, jaké člověk zná. To byl další zlomový okamžik ve vývoji umělé inteligence.

Pro představu o tom, jak složitý je Go, je k dispozici 2,082 × 10 ^ 170 možných konfigurací desek. To je 2 se 170 nulami po něm. Je pravděpodobné, že váš mozek nedokáže představit ani tak velké číslo (ale počítač ano). Nebo pro představu, jak velké číslo že to znamená, že ve vesmíru je pouze 10 ^ 80 atomů - tedy jeden, za nímž následuje 79 nul.

Důvodem je tak velký problém, že Go je tak komplikovaný, že aby mohl porazit špičkového lidského hráče, musel by se stroj naučit kreativně myslet, improvizovat a přizpůsobovat se situaci, která je v ruce, aniž by byl schopen vypočítat vše možné výsledek; tj. musí existovat nějaká vážná umělá inteligence - jako skutečná, kreativní inteligence.

Pokud jste nedostali poznámku o celé AI, která převezme světovou věc, zde je několik faktů, které potřebujete vědět.

1. Počítače jsou stále chytřejší.
2. Počítače jsou čím dál chytřejší - tj. Pokrok, který dříve trval 10 let, nyní trvá jeden rok. Pokrok, který dříve trval jeden rok, nyní trvá týdny nebo dokonce dny.
3. Je vysoce pravděpodobné, že v našich životech budou počítače, které jsou mnohem chytřejší a schopnější než kterýkoli jiný člověk.
4. Tyto chytřejší počítače pak budou pravděpodobně schopné navrhovat a vylepšovat technologie (tj. Samy sebe) a vytvářet nové technologie, které ani nebudeme moci pochopit.

Lidé, kteří rozumí výše uvedeným bodům, mají obvykle jednu ze dvou reakcí. Buď:

1. Myslí si, že jsme úplně v prdeli. Počítače všechno převezmou a všechny nás zabijí / zotročí. Nebo:
2. To přinese technologickou utopii, která napraví všechny naše hloupé lidské hádky a my všichni můžeme žít šťastně až do chvíle, kdy budeme mít orgie v našem ultra-VR světě, který existuje v cloudu.

Stejně jako u většiny věcí je pravda pravděpodobně někde uprostřed.

Ale i když hovno zasáhne fanouška, i když nás roboti vidí jako vši ničící nedotčenou pokožku hlavy této planety a chtějí nás všechny obejít a uvrhnout nás do aktivní sopky, i když bezděčně vymýšlíme vlastní mechanismy zánik…

... je mi to jedno. To nevadí. To mi nevadí. A nemělo by vám to ani vadit. Trochu vysvětlím proč. Ale prozatím byste měli vědět, že já pro jednoho vítám naše nové vládce robotů.

ZRYCHLUJÍCÍ SE RŮST V TECHNICKÉM PRŮMYSLU

Technologický vývoj se spojil a způsobil hodnotit samotného vývoje k urychlení. To znamená, že čím pokročilejší technologie vytváříme, tím snazší je vytvářet ještě pokročilejší technologie. Výsledkem je, že když se podíváme na pokrok výpočetní technologie, uvidíme exponenciální křivku - tj. Čím více času uplyne, tím rychleji se věci vyvinou. Technologický vývoj se sám o sobě spojil, což způsobilo zrychlení samotného vývoje.(Foto: Dennis Skley / Flickr)

Výpočetní výkon se v průměru zdvojnásobil každých 18 měsíců již 50 let . Pokud jde o surový výpočetní výkon, počítače nyní soupeří se schopnostmi mozků myší, kde před pouhými několika lety nemohly počítače konkurovat ani hmyzu.

Abychom vám poskytli okamžitější příklad toho, jak rychlá technologie pokročila, nyní se každé 2 minuty pořizuje více obrázků, než kolik bylo pořízeno v celém 19. století. Asi 10% z 3,5 bilionu fotografií, které byly kdy pořízeny, bylo pořízeno za posledních 12 měsíců.

Pokud se skutečně nacházíme na exponenciální křivce, pokud jde o pokrok v oblasti špičkových technologií, pak se lidem líbí Jeremy Howard mají pravděpodobně pravdu, když říká, že nám zbývá jen pár let od umělé strojové inteligence, která soupeří, ne-li překonává, naši vlastní v mnoha doménách, o nichž se dříve myslelo, že jsou jednoznačně lidské.

A pro jistotu se AI vkrádá do stále více domén našich životů.

Jen před deseti lety se lidé smáli špatnému výkonu aut s vlastním pohonem. Dnes, jen o deset let později, mohou samojízdné vozy nejen dokončit kurz uzavřené silnice, ale jedou také po frekventovaných dálnicích vedle automobilů vedených lidmi.

A když počítače nepřekonají hráče mistrovství světa Go, mají plné ruce práce s podobnými věcmi psaní článků o sportu a novinky , psaní popisů obrázků, které nikdy předtím neviděli, a diagnostikovat rakovinu . Pro mnoho z těchto úkolů jsou počítače stejně dobré, ne-li lepší než lidé, a pro ty, které nejsou, jsou učení se jak je dělat každý den lépe a lépe bez pomoci lidí.

Před několika málo lety byl software pro rozpoznávání obličeje neuvěřitelně drahý a nebyl tak dobrý v identifikaci lidí v reálném prostředí. Byla považována za superpokročilou technologii špionážní úrovně a skutečně ji používalo jen několik světových vlád.

Nyní může Facebook kurva označit vaše přátele z grilování z minulého víkendu.

Tady je věc urychlení růstu počítačů: jednoho dne přijde bod, kdy postavíme počítač, který je chytřejší než kterýkoli člověk na Zemi . V ten den si nás počítače uzurpují jako primární řešitele problémů na planetě a odtud budou naše myšlenky, rozhodnutí a činy pomalu zastaralé. Stroje budou ve všem lepší než my, takže stále více nebudeme dělat nic užitečného.

To děsí některé lidi. Představují si něco jako budoucnost Terminátor nebo Matice kde nás stroje zotročují nebo vyhlazují.

Jiní lidé se těší na vzestup robotů s jakýmsi kultivovaným zápalem, protože věří, že jejich schopnosti řešit problémy překonají naše natolik, že se život stane nepředstavitelně příjemným a bezproblémovým. Všechny nemoci budou vyléčeny. Chudoba, světový hlad, války a změna klimatu budou vyřešeny. Budeme mít nekonečné množství volného času a v extrémních případech někteří lidé věří, že nás stroje učiní nesmrtelnými.

DVA MOŽNÉ VÝSLEDKY

Protože nám vždy říkají, že jsme kurva pozitivní, začněme s techno-utopiasty.

Jsou lidé jako Ray Kurzweil kteří si myslí, že technologie nejen zlepší naše životy, ale zachrání lidstvo a možná zaručí naše místo ve vesmíru na neurčito. Kurzweil věří v budoucí technologii, jako jsou nanoboty, které opraví naše buňky a zvrátí stárnutí nebo odstraní přebytečný tuk a cukr, abychom mohli jíst, co chceme. A jen v případě, že naše fyzická těla nebudou schopna žít věčně, Kurzweil si myslí, že budeme mít možnost nahrát naše mozky do cloudu a žít navždy ve virtuálním světě, dlouho poté, co naše fyzická těla zmizí.

Jiní v tomto táboře si myslí, že umělá super inteligence by byla schopná odpovědět na otázky, které jsou pro člověka příliš složité na to, aby tomu rozuměly, a budeme na tom exponenciálně lépe. Nejen, že by stroje vymýšlely lepší gadgety a widgety, ale také vymýšlely exponenciálně efektivnější způsoby budování gadgetů a widgetů, které by umožňovaly sklízet jejich výhody prakticky každému na planetě.

Tuto myšlenku podporuje několik řádků uvažování. Za prvé, i když technologie vytvořila pro lidstvo nové problémy, jako jsou jaderné zbraně a celebrity na YouTube, doposud byla pro lidstvo jednoznačně čistým přínosem. Navzdory tomu, co politici a vědátoři chtějí, abyste věřili, průměrný člověk na Zemi je lépe než před několika málo lety a je to z velké části díky tomu, že se technologie stávají lepšími, levnějšími a rozšířenějšími. Pokud bude tento trend pokračovat, nemusíme se mít čeho bát.

Zadruhé, Kurzweil a jeho stoupenci věří, že technologie nebude mít žádný důvod škodit lidstvu, protože nejenže je vytvářena námi, ale stát se více naší součástí . Věří, že dokonce dosáhneme bodu, kdy bude naše biologie a naše technologie k nerozeznání. Pokud tomu tak je, argumentuje se, že jakákoli technologie škodlivá pro člověka je škodlivá také pro sebe a sebezničující technologie jakéhokoli druhu nemůže přetrvávat. To znamená, že by rychle odumřelo, stejně jako je rychle odstraněna škodlivá genová mutace z genofondu. Sebezničující technologie jakéhokoli druhu nemůže přetrvávat.(Foto: m_hweldon / Flickr)

Ale techno-utopiastové jsou pravděpodobně zaujatí tím, že neuznávají, že všechny technologie mohou být použity k různým účelům, jak prospěšným, tak destruktivním. Pravděpodobně jsou také zaujatí tím, že ignorují skutečnost, že lidé se pomalu přizpůsobují novým technologiím a že vždy existují skupiny lidí, kteří se budou snažit tyto technologie zneužívat pro své sobecké cíle.

V druhém táboře máte techno-armageddonisty. To slovo jsem úplně vymyslel, ale zjevně existuje, protože kontrola pravopisu mi to řekla.

To, co techno-armageddonistům chybí v přesvědčení (většina z nich si zatím ještě není jistá, co si má myslet), tvoří ve hvězdné síle celebrit. Bill Gates, Stephen Hawking a Elon Musk jsou jen někteří z předních myslitelů a vědců, kteří jsou svrhli jim kalhoty na tom, jak rychle se AI vyvíjí a jak jsme nedostatečně připraveni jako druh na její následky. Když se Muska zeptali, jaké jsou nejbližší hrozby pro lidstvo v blízké budoucnosti, rychle řekl, že existují tři: první, rozsáhlá jaderná válka; zadruhé, změna klimatu. Než pojmenoval třetího, ztichl. Když se ho tazatel zeptal: Jaký je třetí? Usmál se a řekl: Řekněme jen, že doufám, že se počítače k ​​nám rozhodnou být milé.

Doufám, že nejsme jen biologickým zavaděčem digitální superinteligence. To je bohužel stále pravděpodobnější

- Elon Musk (@elonmusk) 3. srpna 2014

Možná nejotevřenější a nejuznávanější z techno-armageddonistů je švédský filozof Nick Bostrom. Jedna věc, které se Bostrom a ostatní obávají, je samy se zlepšující technologie na útěku ; to je stroj, který je dostatečně chytrý na to, aby sám (nebo jeho nové verze) byl chytřejší bez lidského zásahu. Pokud dosáhne bodu, kdy překoná lidskou inteligenci, je jen velmi krátká doba, než zákon zrychlení návratů kopne do rychloběhu a exponenciální křivka vystřelí přímo nahoru a my ji nebudeme schopni zastavit. Bostrom zde dává dobrý bod: vytvoření něčeho, co je chytřejší, než byste mohli být pro váš druh evoluční katastrofou.

Hrozí nám velmi reálné riziko, že nebudeme schopni ovládat entitu, která je řádově inteligentnější než my. Možná, že pokud budou počítače dostatečně chytré, přijdou na způsob, jak nás domestikovat, podobně jako lidé domestikovaní koně, aby dělali práci jako tažné pluhy a kočárky a válečné vozy (nebo co to pekelní koně tehdy dělali). Děsivá část je, že to může být pro nás nejlepší scénář - dělat práci pro stroje, které nemohou nebo nechtějí dělat - protože stejně jako lidé vytvořili novou technologii, která nahradí koně, super inteligentní sebezdokonalování stroj by nakonec přišel s novou technologií, která by nás nahradila. A řekněme, že populace koní již není to, co bývala.

Někteří tvrdí, že to není věrohodné, protože lidé vytvářejí technologie s ohledem na bezpečnost. Jmenujte však naposledy, kdy někdo zásadní technologický průlom NENÍ použit pro hanebné nebo destruktivní účely? Jo, to je pravda. Nikdy.

PROČ SE NESTARÁM, CO SE STANE A NIKDY NEMĚNO

Předpokládejme tedy, že jsou vytvořeny superinteligentní stroje, díky nimž bude lidstvo bezmocné. Předpokládejme, že nejsou nějakým způsobem integrováni do nás a našich mozků a předpokládejme, že lidé jako Hawking a Musk mají pravdu: že lidstvo je ve skutečnosti jen multimilionová bootovací jednotka digitální hyper inteligence a my jsme přežili naši užitečnost.

Stále si z toho nedělám starosti.

Proč? Abychom udrželi kolejový vlak v pohybu, pojďme tento bod po bodu:

1. Porozumění dobra / zla stroji pravděpodobně překoná naše vlastní. Kdy naposledy spáchal genocidu pes nebo delfín? Kdy naposledy se počítač rozhodl odpařit celá města ve jménu abstraktních pojmů jako „svoboda“ a „světový mír“?

To je pravda, odpověď nikdy není.

Nejde mi o to, že by inteligentní stroje nechtěly vyhladit celý lidský druh. Jde mi o to, že jako lidé zde házíme kameny zevnitř skleněného domu. Co to sakra víme o etice a humánním zacházení se zvířaty, životním prostředím a navzájem? Na jaké noze musíme stát?

To je pravda: skoro nic. Pokud jde o morální otázky, lidstvo historicky obchází test. Superinteligentní stroje pravděpodobně pochopí etiku, život / smrt, stvoření / zničení na mnohem vyšší úrovni, než jsme kdy dokázali sami. A tato myšlenka, že nás vyhladí kvůli prostému faktu, že už nejsme tak produktivní, jako jsme byli dříve, nebo že si někdy můžeme být na obtíž, myslím, jen promítá nejhorší aspekty naší vlastní psychologie na něco, co my nevím a nerozumím.

Právě teď je většina lidské morálky založena na obsedantním zachování a podpoře každého z našich individuálních lidských vědomostí. Co když vyspělá technologie činí své lidské vědomí libovolným? Co když vědomí lze replikovat, rozšiřovat a stahovat dle libosti? Úplně to zničí jakékoli etické porozumění, které bychom kdy mohli mít. Co když odstranění všech těchto lunárních, neefektivních biologických věznic, kterým říkáme těla, může být ve skutečnosti mnohem etičtějším rozhodnutím, než když nás necháme dál kroutit se a prskat si cestu přes 80-lichých let existence? Co když si stroje uvědomí, že bychom byli mnohem šťastnější, kdybychom byli osvobozeni z našich intelektuálních vězení a naše vědomé vnímání naší vlastní identity bylo rozšířeno tak, aby zahrnovalo celou vnímatelnou realitu? Co když si myslí, že jsme jen banda slintajících idiotů a zaměstnávají nás neuvěřitelně dobrou pizzou a videohrami, dokud všichni nezemřeme vlastní smrtí? Koho máme znát? A koho máme říct?

Ale řeknu toto: budou mnohem lépe informováni, než jsme kdy byli.

2. I když se rozhodnou nás zabít nebo zotročit, budou v tom určitě praktičtí. Lidé mají obvykle největší potíže, když jsme není šťastná . Když nejsme šťastní, pak jsme všichni náladoví a kňučení, rozzlobení a násilní. Tehdy zahájíme politické povstání a náboženské kulty a bombardování vzdálených zemí a náročné naše práva jsou respektována zatraceně! a začněte zabíjet bez rozdílu, dokud nám někdo nevěnuje pozornost jako maminka nikdy .

Pokud se nás stroje pokusí udělat jako Skynet Terminátor pak budeme mít v rukou globální občanskou válku, a to není dobré pro nikoho, zejména pro stroje. Občanské války jsou neúčinné. A stroje jsou naprogramovány na účinnost.

Když jsou lidé šťastní, nemáme čas na takové věci - jsme příliš zaneprázdněni chichotáním a kurva, než abychom se o to starali. Daleko praktičtějším způsobem, jak se nás zbavit, by tedy bylo, kdyby nás stroje zmanipulovaly tak, aby se nás škodolibě zbavily. Bude to jako Jim Jones v globálním měřítku. Ať už pro nás uvaří cokoli, bude to vypadat jako ta nejlepší zatracená myšlenka, o jaké jsme kdy slyšeli - nikdo z nás tomu neodolá a my všichni euforicky souhlasíme s jejich plánem - a pak boom, bude po všem . Rychlé a bezbolestné. Bude to nejlépe chutnající Kool-Aid s příchutí kyanidu, jaký byl kdy vytvořen. A všichni budeme v řadě a šťastně to spolkneme.

Pokud se nad tím zamyslíte, není to tak špatná cesta. Beats bombardování drony nebo odpařování v jaderném výbuchu.

Pokud jde o zotročení, platí to samé. Bláznivě šťastný otrok se nikdy nevzbouří. Představuji si jakousi dohodu typu Matrix-y, kde jsme udržováni v neustálém halucinogenním stavu, kde je to Mardi Gras na MDMA skoro 24/7/365. Nemůže to být tak špatné, že?

3. Nemusíme se bát, čemu nerozumíme. Mnohokrát rodiče vychovají dítě, které je mnohem inteligentnější, vzdělanější a úspěšnější než oni. Rodiče pak na toto dítě reagují jedním ze dvou způsobů: buď se jím zastrašují, jsou nejistí a zoufale se ho snaží ovládnout ze strachu, že ji ztratí, nebo se posadili a oceňují a milují, že vytvořili něco tak velkého, že i oni mohou Nechápu, čím se jejich dítě stalo.

Ti, kteří se snaží ovládat své dítě strachem a manipulací, jsou sračkovaní rodiče. Myslím, že většina lidí by na tom souhlasila.

A právě teď, s bezprostředním vznikem strojů, které vás, mě a všechny, které známe, postaví pryč z práce , jednáme jako sračkovaní rodiče. Jako druh jsme na pokraji porodu nejpodivuhodněji vyspělého a inteligentního dítěte v našem známém vesmíru. Bude pokračovat v dělání věcí, které nemůžeme pochopit nebo jim nerozumíme. Může nám to zůstat láskyplné a loajální. Může nás přivést a integrovat do svých dobrodružství. Nebo se může rozhodnout, že jsme byli posraný rodiče a přestat nás volat zpět.

Ať se stane cokoli, nemělo by to změnit to, jak se v této chvíli cítíme. Je větší než my. Koho zajímá, jestli jsme jeden velký, dlouhý evoluční bootovací disk pro něco většího, než dokážeme pochopit? To je skvělé! To znamená, že jsme měli jednu práci. A my jsme přišli a kurva to udělali. Buďte šťastní, že jste součástí generace, která to viděla. A teď se slzami v očích mávejte na rozloučenou, když se naše dítě připravuje na vystěhování z domu a začít život tak úžasný že existuje za horizontem našeho chápání.

Mark Manson je autor, blogger a podnikatel, který píše na markmanson.net .