Jak technologie unese lidskou mysl - od kouzelníka a etika designu Google

zkontrolovat telefonní číslo zdarma

Jsem odborníkem na to, jak technologie unáší naše psychologické zranitelnosti. Proto jsem strávil poslední tři roky jako etický designér ve společnosti Google a staral se o to, jak navrhovat věci způsobem, který chrání mysl miliard lidí před únosem.

Při používání technologie se často zaměřujeme optimisticky na všechny věci, které pro nás dělá. Ale chci vám ukázat, kde by to mohlo udělat opak.

Kde technologie využívá slabosti našich myslí ?

Naučil jsem se takto uvažovat, když jsem byl kouzelník. Kouzelníci začnou hledat slepé skvrny, hrany, zranitelná místa a limity vnímání lidí, takže mohou ovlivňovat to, co lidé dělají, aniž by si to vůbec uvědomili. Jakmile budete vědět, jak stisknout tlačítka lidí, můžete je hrát jako na klavír.

To jsem já, když jsem na narozeninové oslavě své matky předváděl kouzlo ruky(Fotka autora)

A to je přesně to, co vám designéři produktů dělají. Hrají vaše psychologické zranitelnosti (vědomě a nevědomě) proti vám v závodě, aby upoutali vaši pozornost.

Chci vám ukázat, jak to dělají.

Únos 1: Pokud ovládáte nabídku, ovládáte volby

Omezující výběr(Fotka autora)

Západní kultura je postavena na ideálech individuální volby a svobody. Miliony z nás urputně brání své právo svobodně se rozhodovat, zatímco ignorujeme, jak jsou tyto volby manipulovány proti proudu nabídkami, které jsme si vůbec nevybrali.

To je přesně to, co kouzelníci dělají. Dávají lidem iluzi svobodného výběru při vytváření nabídky tak, aby vyhráli, bez ohledu na to, co si vyberete. Nemohu dostatečně zdůraznit, jak hluboký je tento pohled.

Když lidé dostanou nabídku možností, zřídka se zeptají:

• co není v nabídce?
• proč se mi dává tyto možnosti a ne ostatní?
• Znám cíle poskytovatele nabídky?
• je toto menu zmocnění pro mou původní potřebu, nebo jsou volby skutečně rozptýlení? (např. ohromná řada zubních past)

Představte si například, že jste v úterý večer venku s přáteli a chcete pokračovat v konverzaci. Otevřete Yelp, abyste našli doporučení v okolí a zobrazili seznam pruhů. Skupina se proměnila v hromadu tváří hledících dolů na své telefony porovnávání pruhů. Prozkoumávají fotografie každého z nich a porovnávají koktejlové nápoje. Je toto menu stále relevantní pro původní přání skupiny?

Není to tak, že bary nejsou dobrou volbou, je to tím, že Yelp nahradil původní otázku skupiny (kde můžeme dál mluvit?) Jinou otázkou (co je to bar s dobrými fotkami koktejlů?), A to vše formováním nabídky.

Skupina navíc propadá iluzi, že nabídka Yelpu představuje a úplná sada možností kam jít. Při pohledu dolů na své telefony nevidí park přes ulici s kapelou hrající živou hudbu. Stýská se jim po vyskakovací galerii na druhé straně ulice, kde se podávají palačinky a káva. Ani jeden z nich se neobjevuje v nabídce Yelpu.

Yelp nenápadně upravuje potřebu skupiny, kam můžeme dál mluvit? pokud jde o fotografie podávaných koktejlů.(Screenshot: Tristan Harris)

Více možností technologie nám dává téměř v každé doméně našeho života (informace, události, místa, kam jít, přátelé, randění, práce) - čím více předpokládáme, že náš telefon je vždy nejsilnějším a nejužitečnějším menu, ze kterého si můžete vybrat . Že ano?

Nejmocnější nabídka se liší od nabídky, která má nejvíce možností . Ale když se slepě vzdáváme nabídnutým nabídkám, je snadné ztratit přehled o rozdílech:

• Kdo má dnes večer volno? se stává nabídkou nejnovější lidé, kteří nám poslali SMS (koho jsme mohli vyzkoušet).
• Co se děje ve světě? se stává nabídkou novinek.
• Kdo je svobodný na rande? se stává nabídkou tváří, které můžete přejet prstem po troud (místo místních událostí s přáteli nebo městských dobrodružství v okolí).
• Na tento e-mail musím odpovědět. se stává nabídkou klávesy pro zadání odpovědi (místo posílení způsobů komunikace s osobou).

Yelp nenápadně upravuje potřebu skupiny, kam můžeme dál mluvit? pokud jde o fotografie podávaných koktejlů.(Fotka autora)

Když se ráno probudíme a otočíme telefon, abychom viděli seznam upozornění - rámuje to zážitek z ranního probuzení kolem nabídky všech věcí, které mi od včerejška chyběly. (další příklady viz Přednáška Joe Edelman Empowering Design )

Seznam upozornění, když se ráno probudíme - jak mocná je tato nabídka možností, když se probudíme? Odráží to, na čem nám záleží? (z Empowering Design Talk od Joe Edelmana)(Foto: Tristan Harris)

Tvarováním nabídek, z nichž vybíráme, technologie unese způsob, jakým vnímáme naše volby, a nahrazuje je novými. Ale čím blíže věnujeme pozornost možnostem, které jsme dostali, tím více si všimneme, když ve skutečnosti neodpovídají našim skutečným potřebám.

Únos č. 2: Vložte automat do miliardových kapes

Pokud jste aplikace, jak udržujete lidi závislí? Proměňte se v automat.

Průměrný člověk kontroluje svůj telefon 150krát denně. Proč to děláme? Děláme 150 při vědomí volby ?

Jak často denně kontrolujete svůj e-mail?(Screenshot: Tristan Harris)

Jedním z hlavních důvodů, proč je psychologická přísada č. 1 ve výherních automatech: přerušované proměnné odměny .

Pokud chcete maximalizovat návykovost, musí všichni techničtí designéři udělat, aby propojili akci uživatele (jako je tahání za páku) s variabilní odměna . Zatáhnete za páku a okamžitě získáte lákavou odměnu (zápas, cenu!) Nebo nic. Návykovost je maximalizována, když je míra odměny nejrůznější.

Opravdu tento efekt funguje na lidi? Ano. Hrací automaty vydělávají ve Spojených státech více peněz než baseball, filmy a zábavní parky kombinovaný . Ve srovnání s jinými druhy hazardních her se lidé „problematicky zabývají“ automaty 3–4krát rychlejší podle profesorky NYU Natashy Dow Schullové, autorky Závislost záměrně.

Ale tady je nešťastná pravda - několik miliard lidí má automat v kapse:

• Když vytáhneme telefon z kapsy, jsme hraní automatu abychom zjistili, jaká oznámení máme.
• Když se snažíme obnovit náš e-mail, jsme hraní automatu abychom zjistili, jaký nový e-mail máme.
• Když přejíždíme prstem dolů a posouváme zdroj Instagramu, máme hraní automatu abyste viděli, jaká fotka přijde dál.
• Když přejdeme po tvářích vlevo / vpravo v seznamovacích aplikacích, jako je Tinder, jsme hraní automatu abychom zjistili, jestli máme shodu.
• Když klepneme na # červených oznámení, jsme hraní automatu na to, co je dole.

Červená oznámení(Screenshot: Tristan Harris)

Aplikace a weby stříkají občasné proměnné odměny do všech jejich produktů, protože je to dobré pro podnikání.

Ale v jiných případech se výherní automaty objevují náhodou. Například za nimi není žádná škodlivá společnost všechny e-maily který se vědomě rozhodl udělat z něj automat. Nikdo nemá zisk, když si miliony zkontrolují svůj e-mail a nic tam není. Ani Apple a designéři společnosti Google chci telefony fungovaly jako hrací automaty. Vyšlo to náhodou.

Nyní však mají společnosti jako Apple a Google odpovědnost za snížení těchto účinků o převod odměn s občasnými proměnnými na méně návykové a předvídatelnější s lepším designem. Mohli by například lidem umožnit nastavit předvídatelné časy během dne nebo týdne, kdy chtějí zkontrolovat aplikace automatů, a odpovídajícím způsobem upravit, když jsou doručeny nové zprávy, aby odpovídaly těmto časům.

Hijack # 3: Fear of Missing Something Important (FOMSI)

Dalším způsobem, jak aplikace a weby unesou mysl lidí, je vyvolání 1% šance, že vám něco důležitého bude chybět.

Pokud vás přesvědčím, že jsem kanálem důležitých informací, zpráv, přátelství nebo potenciálních sexuálních příležitostí - bude pro vás těžké mě vypnout, odhlásit nebo odstranit váš účet - protože (aha, vyhrávám) můžete chybí něco důležitého:

• Díky tomu se přihlásíme k odběru novinek i poté, co nepřinesly nedávné výhody (co když zmeškám budoucí oznámení?)
• To nás udržuje v přátelství s lidmi, se kterými jsme nemluvili už věky (co když mi něco důležitého chybí?)
• Díky tomu si přejdeme po tvářích v seznamovacích aplikacích, i když jsme se s někým za nějakou dobu ani nesetkali (co když mi to bude chybět jeden horký zápas kdo mě má rád?)
• Díky tomu stále používáme sociální média (co když mi chybí ten důležitý zpravodajský příběh nebo zaostávám za tím, o čem mluví moji přátelé?)

Pokud ale tento strach přiblížíme, zjistíme, že je neomezený : vždy nám bude chybět něco důležitého kdykoli něco přestaneme používat.

• Na Facebooku jsou kouzelné okamžiky, které nám budou chybět, když je nebudeme používat šestou hodinu (např. Starý přítel, který navštíví město právě teď ).
• Existují magické momenty, které nám na Tinderu budou chybět (např. Náš vysněný romantický partner) tím, že nepřejdeme naším 700. zápasem.
• Existují nouzové telefonní hovory, které nám budou chybět, pokud nejsme připojeni 24/7 .

Ale žít okamžik za okamžik se strachem, že něco zmeškáme, není to, jak jsme stvořeni k životu.

A je úžasné, jak rychle, jakmile tento strach opustíme, probudíme se z iluze. Když se odpojíme na více než jeden den, odhlásíme se z odběru těchto oznámení nebo přejdeme na Tábor uzemněn - obavy, o kterých jsme si mysleli, že se ve skutečnosti nestaly.

Nechybí nám to, co nevidíme.

Myšlenka, co když mi chybí něco důležitého? je generován před odpojením, odhlášením nebo vypnutím - ne po. Představte si, že si to technologické společnosti uvědomily a pomohly nám proaktivně vyladit naše vztahy s přáteli a firmami z hlediska toho, co definujeme jako dobře strávený čas pro naše životy, místo toho, co by nám mohlo chybět.

Únos 4: Sociální schválení

Snadno jedna z nejpřesvědčivějších věcí, které člověk může přijmout.(Screenshot: Tristan Harris)

Všichni jsme zranitelní sociální schválení . Potřeba patřit, být schválen nebo oceněn našimi vrstevníky je jednou z nejvyšších lidských motivací. Ale nyní je naše sociální schválení v rukou technologických společností.

Když mě označil můj přítel Marc, představil jsem si, že dělá vědomá volba mě označit. Ale nevidím, jak to společnost jako Facebook zorganizovala, když to dělá.

Facebook, Instagram nebo SnapChat mohou manipulovat s tím, jak často se lidé označují na fotografiích, tím, že automaticky navrhnou všechny tváře, které by lidé měli označit (např. Zobrazením pole s potvrzením jedním kliknutím, označit Tristana na této fotografii?).

Takže když mě Marc označí, on vlastně je v reakci na návrh Facebooku, nedělat nezávislou volbu. Ale skrze takové možnosti designu, Facebook řídí multiplikátor pro jak často miliony lidí zažívají své sociální schválení na lince .

Facebook používá podobné automatické návrhy, aby přiměl lidi označit více lidí, čímž vytvoří více sociálních externalit a přerušení.(Screenshot: Tristan Harris)

kde je u.s. hodnost ve vzdělání

Totéž se stane, když změníme naši hlavní profilovou fotku - Facebook ví, že je to okamžik, kdy jsme zranitelné vůči společenskému schválení : co si moji přátelé myslí o mém novém obrázku? Facebook to může ve zdroji novinek ohodnotit výše, takže se bude držet déle a více přátel se mu bude líbit nebo okomentovat. Pokaždé, když se jim to líbí nebo okomentují, dostaneme se zpět.

Každý přirozeně reaguje na společenský souhlas, ale některé demografické skupiny (teenageři) jsou vůči němu zranitelnější než jiné. Proto je tak důležité si uvědomit, jak výkonní jsou návrháři, když tuto chybu zabezpečení zneužijí.

Hijack # 5: Social Reciprocity (Tit-for-tat)

• Uděláte mi laskavost - příště vám dlužím.
• Říkáte, děkuji - musím říct, že jste vítáni.
• Zašlete mi e-mail - je neslušné se vám ozvat.
• Následujete mě - je neslušné vás nenásledovat. (zejména pro teenagery)

My jsme zranitelný k nutnosti oplácet gesta ostatních . Ale stejně jako u Social Approval, i nyní technologické společnosti manipulují s tím, jak často to zažíváme.

V některých případech je to náhodou. Aplikace pro e-mail, posílání textových zpráv a zasílání zpráv jsou továrny na sociální reciprocitu . V jiných případech však společnosti tuto chybu zabezpečení úmyslně využívají.

LinkedIn je nejzřetelnějším pachatelem. LinkedIn chce, aby si co nejvíce lidí vytvářelo sociální závazky, protože pokaždé, když vám to oplatí (přijetím spojení, odpovědí na zprávu nebo schválením někoho zpět na získání dovednosti), musí se vrátit na linkedin.com, kde mohou přimět lidi trávit více času.

Stejně jako Facebook využívá LinkedIn asymetrii ve vnímání. Když od někoho obdržíte pozvánku na připojení, představujete si, že tato osoba dělá vědomá volba pozvat vás, i když ve skutečnosti pravděpodobně nevědomky reagovali na seznam doporučených kontaktů LinkedIn. Jinými slovy, LinkedIn změní váš podvědomé impulsy (přidat osobu) do nových sociálních povinností, které miliony lidí cítí povinny splácet. Všichni přitom těží z času, který lidé tomu věnují.

LinkedIn využívá asymetrii ve vnímání.(Foto: Tristan Harris)

Představte si miliony lidí, kteří jsou takto vyrušováni po celý den, pobíhají jako slepice s odříznutými hlavami a navzájem se odplácejí - vše navržené společnostmi, které z toho profitují.

Vítejte na sociálních médiích.

Po přijetí doporučení společnost LinkedIn využívá vaší předpojatosti k odplatě tím, že vám nabízí * čtyři * další lidi, které vám mohou na oplátku potvrdit.(Screenshot: Tristan Harris)

Představte si, že by technologické společnosti byly odpovědné za minimalizaci sociální vzájemnosti. Nebo kdyby existovala nezávislá organizace, která zastupovala zájmy veřejnosti - průmyslové konsorcium nebo FDA pro technologie - která by sledovala, kdy technologické společnosti zneužívají tyto předsudky?

Hijack # 6: Bottomless bowls, Infinite Feeds, and Autoplay

YouTube po odpočítávání automaticky přehrává další video(Screenshot: Tristan Harris)

Další způsob, jak unést lidi, je nechat je konzumovat věci, i když už nemají hlad.

Jak? Snadný. Vezměte si zkušenost, která byla omezená a konečná, a proměňte ji v bezedný tok to jde dál .

Profesor Cornell Brian Wansink to prokázal ve svém studijním představení můžete přimět lidi, aby jedli polévku tím, že jim dáte bezednou misku které se při jídle automaticky doplňují. S miskami bez dna lidé jedí o 73% více kalorií než ti, kteří mají normální misky, a podceňují, kolik kalorií snědli, o 140 kalorií.

Technické společnosti využívají stejný princip. Informační kanály jsou záměrně navrženy tak, aby se automaticky doplňovaly s důvody, které vás udrží v posouvání, a záměrně eliminují jakýkoli důvod, proč byste měli pozastavit, přehodnotit nebo odejít.

To je také důvod, proč video a sociální média jako Netflix, YouTube nebo Facebook automatické přehrávání další video po odpočítávání, místo aby čekal na vaši vědomou volbu (pro případ, že ne). Velkou část provozu na těchto webech řídí automatické přehrávání další věci.

Automatické přehrávání Netflix v akci(Foto: Tristan Harris)

Technické společnosti často tvrdí, že uživatelům pouze usnadňujeme sledování videa chtějí sledovat, kdy skutečně slouží jejich obchodním zájmům. A nemůžete jim to vyčítat, protože zvyšování času je měnou, za kterou soutěží.

Místo toho si představte, zda vás k tomu zmocnily technologické společnosti vědomě svázal své zkušenosti sladit s tím, co by bylo dobře strávený čas pro tebe. Nejen ohraničení Množství času, který strávíte, ale vlastnosti co by byl dobře strávený čas.

Únos 7: Okamžité přerušení vs. úctyhodné doručení

Společnosti tyto zprávy znají které lidi okamžitě přeruší, jsou přesvědčivější při získávání odpovědi lidí než zprávy doručované asynchronně (například e-mail nebo jakákoli odložená doručená pošta).

Vzhledem k výběru by Facebook Messenger (nebo WhatsApp, WeChat nebo SnapChat) ano raději navrhnou svůj systém zasílání zpráv okamžitě přerušit příjemce (a ukázat chatovací pole) místo toho, aby pomáhali uživatelům respektovat vzájemnou pozornost.

Jinými slovy, přerušení je dobré pro podnikání .

Je také v jejich zájmu zvýšit pocit naléhavosti a sociální vzájemnosti. Například Facebook automaticky řekne odesílateli, když jste viděli jeho zprávu, místo aby vám zabránil prozradit, zda jste si ji přečetli (nyní, když víte, že jsem zprávu viděl, cítím se ještě více povinen odpovědět.)

Naproti tomu Apple s úctou umožňuje uživatelům zapínat a vypínat potvrzení o přečtení.

Problém je v tom, že maximalizace přerušení ve jménu podnikání vytváří tragédii ve společných oblastech, ničí rozpětí globální pozornosti a každý den způsobují miliardy zbytečných přerušení. To je obrovský problém, který musíme opravit pomocí standardů sdíleného designu (potenciálně jako součást Dobře strávený čas ).

Hijack # 8: Seskupení vašich důvodů s jejich důvody

Dalším způsobem, jak vás aplikace unesou, je převzetí vaše důvody za návštěvu aplikace (k provedení úkolu) a učinit je neoddělitelnými od obchodních důvodů aplikace (maximalizovat, kolik spotřebujeme, jakmile tam budeme).

Například ve fyzickém světě příběhů o potravinách jsou nejoblíbenějšími důvody pro návštěvu č. 1 a č. 2 náplně lékáren a nákup mléka. Ale obchody s potravinami chtějí maximalizovat, kolik lidé nakupují, a tak umístili lékárnu a mléko do zadní části obchodu.

Jinými slovy, dělají to, co zákazníci chtějí (mléko, farmacie), neoddělitelné od toho, co chce podnik. Pokud by obchody byly skutečně organizované na podporu lidí , mohli by vložte nejoblíbenější položky dopředu .

Technologické společnosti navrhují své webové stránky stejným způsobem. Například pokud chcete vyhledat událost z Facebooku, která se dnes večer děje (váš důvod), aplikace Facebook vám neumožňuje přístup k ní bez předchozího přistání na novinkách (jejich důvody), a to záměrně. Facebook chce převést všechny důvody, proč používáte Facebook, na jejich důvod, kterým je maximalizovat čas, který strávíte spotřebováním věcí .

V ideálním světě vám aplikace vždy dají přímá cesta dostat to, co chcete odděleně z toho, co chtějí.

Představte si digitální listinu práv popisující designové standardy, které přinutily produkty používané miliardami lidí k podpoře zmocňujících způsobů, jak se orientovat směrem ke svým cílům.

Únos č. 9: Nevhodné volby

Bylo nám řečeno, že firmám stačí, aby se rozhodly.

• Pokud se vám nelíbí, můžete vždy použít jiný produkt.
• Pokud se vám nelíbí, můžete se kdykoli odhlásit.
• Pokud jste na naší aplikaci závislí, můžete ji z telefonu kdykoli odinstalovat.

Podniky přirozeně chtějí, aby vám volby, které chtějí, usnadňovali, a možnosti, které nechtějí, aby vám usnadňovaly. Kouzelníci dělají totéž. Usnadníte divákovi výběr věci, kterou chcete, a těžší bude vybrat věc, kterou nemáte.

Například NYTimes.com vám umožňuje svobodně se rozhodnout zrušit vaše digitální předplatné. Ale místo toho, když to uděláte, když kliknete na Zrušit předplatné, oni pošleme vám e-mail s informacemi o tom, jak zrušit svůj účet voláním na telefonní číslo který je otevřen pouze v určitých časech.

NYTimes tvrdí, že dává svobodnou volbu zrušit váš účet(Screenshot: Tristan Harris)

kteří vyhráli krevní linie výzvy

Místo toho, abychom viděli svět z hlediska dostupnost možností , měli bychom na svět pohlížet z hlediska tření potřebné k přijetí rozhodnutí . Představte si svět, kde byly volby označeny tím, jak obtížně se plnily (jako koeficienty tření) a existovala nezávislá entita - průmyslové konsorcium nebo nezisková organizace - která označila tyto obtíže a stanovila standardy pro snadnou navigaci.

Únos č. 10: Předpovědi chyb, strategie Noha ve dveřích

Facebook slibuje snadnou volbu See Photo. Klikli bychom ještě, kdyby to dalo skutečnou cenovku?(Foto: Tristan Harris)

A konečně, aplikace mohou využívat neschopnost lidí předvídat důsledky kliknutí.

Lidé intuitivně nepředpovídají skutečná cena kliknutí když se jim to představí. Prodejci používají techniku ​​„vniknutí do dveří“ tím, že nejprve požadují malou neškodnou žádost (jediným kliknutím zjistíte, který tweet byl retweetován) a odtud eskalovat (proč nezůstanete chvíli?). Tento trik používají prakticky všechny weby zaměřené na zapojení.

Představte si, že by webové prohlížeče a smartphony, brány, skrz které lidé dělají tato rozhodnutí, skutečně dávali pozor na lidi a pomáhali jim předvídat důsledky kliknutí (na základě skutečných údajů o jaké výhody a náklady to vlastně mělo ?).

Proto do svých příspěvků přidávám odhadovanou dobu čtení. Když postavíte skutečné náklady na výběr před lidi, zacházíte s vašimi uživateli nebo publikem důstojně a s respektem. V Dobře strávený čas internet, možnosti by mohly být formulovány z hlediska předpokládaných nákladů a přínosů, takže lidé byli oprávněni činit informovaná rozhodnutí ve výchozím nastavení, nikoli prováděním práce navíc.

TripAdvisor používá techniku ​​„noha ve dveřích“ a žádá o kontrolu jediným kliknutím (Kolik hvězdiček?), Zatímco za kliknutím skrývá třístránkový průzkum otázek.(Foto: Tristan Harris)

Shrnutí a jak to můžeme opravit

Jste naštvaní, že technologie unese vaši agenturu? Já jsem také. Uvedl jsem několik technik, ale jsou jich doslova tisíce. Představte si celé regály, semináře, workshopy a školení, které učí techniky začínajících technologických podnikatelů, jako jsou tyto. Představte si stovky inženýrů, jejichž úkolem je každý den vymýšlet nové způsoby, jak vás unést.

Nejvyšší svoboda je svobodná mysl a potřebujeme technologii, která je v našem týmu, aby nám pomohla žít, cítit, myslet a jednat svobodně.

Potřebujeme, aby naše smartphony, obrazovky s oznámeními a webové prohlížeče byly exoskeletony pro naši mysl a mezilidské vztahy, které kladou na první místo naše hodnoty, ne naše impulsy. Čas lidí je cenný . A měli bychom jej chránit stejně přísně jako soukromí a další digitální práva.

Tristan Harris byl produktovým filozofem ve společnosti Google až do roku 2016, kdy studoval, jak technologie ovlivňují pozornost, pohodu a chování miliardy lidí. Další zdroje o Time Well Spent najdete na http://timewellspent.io .

UPDATE: První verzi tohoto příspěvku chyběly poděkování těm, kteří inspirovali mé myšlení po mnoho let včetně Joe Edelman , Nebuď Raskin Raph D'Amico, Jonathan Harris a Damon Horowitz .

Moje myšlení o nabídkách a rozhodování je hluboce zakořeněno v Joe Edelman's práce na lidských hodnotách a výběru .