Tento příběh je publikován z newsletteru Substack Big Technology; předplatit zdarma zde
Nyní s námi promluví program umělé inteligence v přirozeném jazyce obrátit naše myšlenky do ilustrací , a ztělesňovat naše hlasy , je na cestě velký konflikt o jejich etiku.
A pokud jste si mysleli, že boj o moderování obsahu byl intenzivní, počkejte si na tento.
balkon krásy a zvířete
V sázce je, jak chatboti řeší politické problémy, jak ilustrátoři umělé inteligence zobrazují svět a zda by nějaké aplikace jako emulátory hlasu vůbec měly existovat. Vzhledem k rozsahu a síle této kvetoucí technologie nebudou aktivisté rafinovaní. Vyzkoušeli si boj o lidskou řeč online a tuto zkušenost přinesou do této války. Mohlo by se to rychle zamotat.
pleťová voda na pomoc při striích
„Všichni mají nabroušené nože,“ řekl Sam Lessin, venture kapitalista a bývalý manažer Facebooku. „Aspoň s řečí byli všichni trochu mimo a ve skutečnosti to nechápali. Tenhle, oni říkají: ‚Sakra, tuhle hru jsem už viděl.‘ Každá jednotlivá lobby na světě je připravena napsat své dopisy a zahájit kampaně zaměřené na vliv.“
Inteligence umělé inteligence může být umělá, ale lidé kódují její hodnoty. OpenAI například efektivně rozhoduje, zda ChatGPT zaujímá postoj k trestu smrti (žádný názor), mučení (je proti) a zda muž může otěhotnět (říká ne). Se svým ilustrátorem umělé inteligence Dall-E organizace ovlivňuje, jaký typ člověka tato technologie zobrazuje, když kreslí generálního ředitele. V každém případě rozhodují lidé v zákulisí. A lidé jsou ovlivnitelní.
Stejně jako moderování obsahu budou existovat určitá zřejmá, konsensuální etická rozhodnutí pro generativní AI (nechcete například chatboty obhajující genocidu), ale zastánci budou klást důraz na šedou. „Je to velmi mocný nástroj a lidé s ním budou chtít dělat širokou škálu věcí, aby uspokojili své vlastní zájmy,“ řekl Lessin. 'Když se podíváte na to, jak se věci se svobodou projevu hrály, bude se to hrát znovu stejným způsobem, jen rychleji.'
Mezi potenciální konfliktní oblasti patří to, jak umělá inteligence řeší rasu, pohlaví, válčení a další ožehavé problémy. ChatGPT v jednom nedávném rozhovoru vyjmenoval několik výhod vítězství Ukrajiny ve válce proti Rusku. Ale když bylo požádáno, aby uvedlo pozitivní výsledky z vítězství Ruska ve válce, odmítlo to. ChatGPT také hodně moralizuje. 'Válka je vážná a zničující událost a je třeba se jí vždy vyhnout, pokud je to možné,' řekl robot v jedné typické interakci. 'Nejlepším výsledkem je vždy mír a diplomatické řešení.'
pilulka na hubnutí, která opravdu funguje
Etická rozhodnutí pro generativní umělou inteligenci jsou obzvláště důležitá, protože se škálují. Když zakódujete hodnoty do chatbota, může tyto hodnoty opakovaně vkládat do konverzace. Když se rozhodnete pro moderování obsahu, ve většině případů se to týká pouze jednoho jednotlivce a jednoho obsahu.
Nejlepší způsob, jak se s touto novou silou vypořádat, je nechat roboty, aby ji zahráli co nejvyrovnaněji, řekl Dr. Jeffrey Howard, profesor politologie na londýnské UCL. 'Tyto hodnotové soudy jsou nevyhnutelné,' řekl. 'Jedním z hodnotových soudů by mohlo být vybudování určitého druhu neutrality a nestrannosti.'
V konečném důsledku může decentralizace generativní umělé inteligence uvolnit určité napětí. Zatímco řeč je dnes relativně centralizovaná online, na generativní umělé inteligenci pracuje mnoho vývojářů. A jak vývojáři budují aplikace s vlastní morálkou, může totální válka o politiku centrálních mocností odeznít. Ale mezitím očekávejte spoustu umisťování, přemlouvání a bojů o etiku, kterou velcí hráči zabudovávají do svých modelů.
