El director de ‘Westworld’, Jonathan Nolan, sobre el futur de la IA i per què els humans som tan estranys



El director de ‘Westworld’, Jonathan Nolan, sobre el futur de la IA i per què els humans som tan estranys

Només ho direm: Westworld podria ser el pròxim èxit de l’històric estable programa de HBO.

A primera vista, la trama sembla prou senzilla: un parc immersiu i futurista de temàtica occidental proveït de robots humanoides que obeeixen tots els capricis (bons o dolents) dels visitants. El drama, que es va estrenar a principis d’octubre, té tots els marcadors genealògics adequats: conceptualitzat per Michael Crichton, que va supervisar la pel·lícula original de 1973. Una trama infosa d’intel·ligència artificial i robots autònoms. Codirigit per Lisa Joy i Jonathan Nolan, sí, com en el noi que va crear Persona d'interès , va escriure obres mestres fantàstiques com Interestel·lar i Record , i coescrita El Prestige, The Dark Knight i The Dark Knight Rises amb el seu germà, Christopher Nolan.

Però, com amb qualsevol projecte de Jonathan Nolan, Westworld és molt més del que sembla a la superfície. Fitness masculí va parlar amb Nolan sobre l’entrellaçament de robots i la cultura pop, la indústria de la intel·ligència artificial multimilionària que s’acosta ràpidament i com Westworld demostra que la humanitat és tan maleïda d’estranya.

RELACIONAT: Un glossari 'Westworld': tot el que heu de saber sobre la nova sèrie >>> Ingrid Bolsø Berdal com a armistici a HBO

A la part superior: Ingrid Bolsø Berdal com a armistici a 'Westworld' de HBO. Imatge cortesia de HBO.

Fitness masculí : Quin era el vostre fitxer adjunt Westworld ?

Jonathan Nolan : Vaig veure la pel·lícula original quan era petit, i em va espantar la merda. Encara no puc mirar a Yul Brynner sense experimentar una ansietat lleu. [El productor executiu] JJ [Abrams] va trucar i estava interessat en les preguntes més grans amb què la pel·lícula, francament, no té temps de jugar.

El punt de partida de la pel·lícula original era la perspectiva de: I si hi hagués un lloc on poguessis anar a representar totes les teves fantasies sense judici? La regla de Las Vegas: el que passa a Westworld es queda a Westworld. I aquesta és una idea fantàstica i que explorem completament.

Però el contrari era que us porteu la vostra identificació de vacances com a convidat i els destinataris són els amfitrions, els robots, aquestes persones artificials que han estat dissenyades per ser seduïdes o destruïdes pels hostes, i després se’ls esborren els records i els tornen al món, ni més no.

Va ser una deliciosa inversió. La pel·lícula original està plena d’idees, però ha de continuar 110 minuts. Va considerar que hi havia una gran oportunitat per a una sèrie aquí, i també va pensar que seria una gran possibilitat intentar explorar també la perspectiva del robot, de manera que vam sentir que volíem fer aquest front i centre. Va ser una manera fantàstica i fresca d’entrar en aquesta història.

MF: Sempre us ha atret la IA i la robòtica?

JN: M’ha fascinat la IA. Ha aparegut de manera destacada en els darrers dos projectes en què he treballat: els robots Interestel·lar i tota la premissa de Persona d'interès , el meu primer espectacle. Una de les coses que no es veuen molt al cinema i a la televisió va ser una visió més simpàtica de la IA. Blade Runner , que és, per descomptat, l’avi de totes aquestes pel·lícules, i una pel·lícula brillant, hi arriba, però no comença aquí, segons com llegeixis la pel·lícula. No va ser fins a la pel·lícula de Spike Jonze Ella que realment vau començar a investigar la idea de dues coses. Com seria una IA? En altres paraules, no només què en pensem, sinó què pensaran de nosaltres? I en què serà diferent el seu pensament del nostre? No només com s’acostarà al nostre, sinó també mesurant la consciència. Hi ha aquest discurs que Ford, el personatge d’Anthony Hopkins, té molt en la temporada, on parla de que som el criteri de consciència i que som una mena de criteri fotut.

MF: Llavors, prenent totes aquestes dades que els hem proporcionat, i què n'aprenen?

JN: Sí, exactament. La funció del parc és que els amfitrions no recordin les coses que els fan els hostes. Però sí que ho fan, a nivell subconscient: corregen l’error. Cada vegada responen millor a nosaltres. Han estat dissenyats per atendre’ns. Això és el que ens va resultar tan deliciós. La consciència hauria sorgit en un lloc on menys ho desitjaves, en un lloc on els humans mostren el seu pitjor comportament i alguns dels seus millors comportaments. Una vegada més, aquí no es tracta només d’una foscor fantasia. Podríeu portar els vostres fills a Westworld i anar a pescar i estar segurs que no serien segrestats ni assassinats per un lleó de muntanya. És per a tothom, com Las Vegas és per a tothom. A excepció de molta gent, Vegas és una fantasia fosca, de manera que la IA, mirant això i preguntant-se què diu de nosaltres.

Després, també volia qüestionar-me si volen ser o no com nosaltres en primer lloc. Em va fascinar i vam fer moltes lectures. Vam llegir molt sobre l’estat de la tècnica en termes d’intel·ligència artificial i hi havia un munt d’idees realment interessants i força desafiadores i fosques que sortien d’aquest món, perquè ens trobarem amb aquest problema. tard o d'hora. Ara ningú no pensa en Siri com a viu, però es convertirà en un llindar quasi invisible que creuarem en el qual cada vegada és més difícil convèncer-se d’això.

MF: Igual que Jibo, al MIT: un robot que té un aspecte amable.

JN: 100%: un robot amb IA pot simular emocions. Els humans som realment estranys. Aquesta va ser la manera de treure’s de treballar a Westworld. Els humans som molt estranys. Tenim la capacitat d’aplicar empatia a gairebé qualsevol cosa: dibuixos animats, robots, peluixos de la meva filla. Nosaltres gairebé voler empatitzar amb les coses. També tenim la possibilitat de desactivar-ho molt ràpidament. Testimoni de tota la història de la humanitat.

És una relació molt estranya que tindrem amb aquestes funcions. Sempre pensem en la IA com en algun lloc del futur llunyà. Crec que en realitat som molt més a prop del que ningú s’adona i, per tant, per a nosaltres hi havia un cert nivell d’urgència en les preguntes que intentem fer al programa.

MF: També teníeu una mica més de llibertat, perquè ajustàveu la premissa original en què us enfocava a això des del punt de vista dels personatges?

JN: Sí, definitivament. El cinema és una màquina d’empatia. Les regles gramaticals, on es posa la càmera, la tècnica del rodatge i la narració visual, es tracta de posar a la pantalla a tu, membre del públic, el paper del protagonista. Arribes a entendre’ls. Arribes a sentir-los. Arribes a sentir el seu ascens i caiguda com si fos el teu. És una eina increïblement potent per intentar que el públic entengui i emocioni per aquestes coses que són gairebé humà , que no són humans, que són una mica diferents. Tony Hawk patina durant una exposició prèvia a la competició Skateboard Vert als X Games Austin el 5 de juny de 2014 al State Capitol d’Austin, Texas. (Foto de Suzanne Cordeiro / Corbis a través de Getty Images)

Thandie Newton com a Maeve i Rodrigo Santoro com a Hector Escaton a ‘Westworld’ de la HBO. Imatge cedida per HBO.

MF: heu mencionat la vostra familiaritat i el vostre ensurt per veure l’original Westworld . Alguna vegada havíeu pensat en el passat per recuperar aquest concepte, excepte fer-ho una mica diferent?

JN: Com deia, crec que he trobat el meu tema. Em fascina això. Segueix apareixent en projectes en els quals estic treballant. Escriure els robots per Interestel·lar era un projecte en el qual vaig estar treballant durant molt de temps. El més destacat d’aquest projecte per a mi va ser la relació entre els membres de la tripulació humana i els membres de la tripulació artificial. Estàs veient aquella pel·lícula, esperant el moment en què els robots es tornarien malvats o ferien desaparèixer tothom d’una clau d’aire. Però no ho fan. Representen el millor dels atributs humans. Són valents, lleials i ferms.

Crec que hem de ser extremadament curosos amb la IA? Stephen Hawking i Elon Musk i diversos altres llums ens demanen que premem el botó de pausa i, com a mínim, conversem sobre el que estem fent aquí, perquè entre Facebook i Alphabet i, en concret, DeepMind, hi ha una gran quantitat de diners. abocat a resoldre això. Això ja no és una preocupació esotèrica. Aquest és un problema industrial.

La muntanya del joc de trons menja una gran quantitat d'aliments per a la seva formació Strongman >>>

MF: Oh, sí, una indústria de mil milions de dòlars.

JN: No crec que la gent s’adoni de quants diners hi apliquen Larry Page i Mark Zuckerberg, i un munt de persones de les quals mai no heu sentit parlar i que no són a Silicon Valley, que també hi aboquen diners. Watson s’ha convertit en una part fonamental del negoci d’IBM. Això és el que estan construint.

En Persona d'interès , vam tractar la idea d'intel·ligència en xarxa en una IA distribuïda que intentava ajudar la gent i intentava fer del món un lloc millor. Aquí estem veient una altra manera. La IA sortirà del núvol? En Westworld , es tracta del contrari. Esteu construint aquestes criatures. La teoria és, almenys, que els podeu fer mal, matar-los, maltractar-los i no importa perquè no són reals.

Sembla extravagant, però és exactament el que fem als nostres videojocs cada dia. No s’observa cap remordiment quan s’activa Call of Duty i segar l’equip contrari. No se sent malament quan atropella la gent Grand Theft Auto . Lisa [Joy, la dona de Jonathan i Westworld co-creador] no és gaire un jugador, però com que el joc és un component tan important del que tracta la sèrie i del seu aspecte de joc, hem jugat a alguns Grand Theft Auto i em va fer gràcia veure que obeïa totes les lleis de trànsit, que eren encantadores, però no va tenir cap idea. Se suposa que és anti-social en aquests jocs. I, tanmateix, no us sentiu remotament malament en apagar la Xbox quan hàgiu acabat de jugar a aquests jocs. No atribuïu cap sensibilitat a aquestes coses i no ho hauríeu de fer.

No són sensibles, però en algun moment ho seran. Tot i que hem estat fent aquest programa, els avenços en realitat intel·lectual i intel·ligència artificial de personatges que no són jugadors, és com si arribéssim a un punt en què es convertís realment confús i moralment relliscós. Aquí

Rodrigo Santoro com a Hector Escaton a ‘Westworld’ de HBO. Cortesia de HBO.

MF: Realment heu fet una immersió profunda per a la investigació, tot i que ja en teníeu immers. Hi havia alguna cosa en particular a la qual llegís, miressis, viatgessis?

JN: Sí, hem investigat una bona quantitat. Vam anar a Las Vegas i vam examinar la manera com es dissenyen i es dissenyen els casinos, i la forma en què funciona la Strip per atraure’t a diferents experiències. Vam jugar a molts videojocs. Hem investigat l’estat de l’art en investigació de RA, aprenentatge profund i el conjunt de regles sota les quals es creen IAs o agents intel·ligents industrials i, a continuació, el conjunt de regles en què es destrueixen. Algunes de les preguntes que es fan als nostres amfitrions es basen en les consultes que utilitzen investigadors reals d’IA per determinar si l’agent intel·ligent que estan construint és o no problemàtic.

Per exemple: Menteix? Un dels investigadors que vàrem examinar preguntaria a aquests petits agents dient: “Atresora recursos de manera incontrolable? Menteix? Es pregunta si està o no en una simulació? En qualsevol d’aquestes circumstàncies, per molt prometedor que fos aquella iteració particular d’una IA, l’han esborrat perquè, per què aprofitar l’oportunitat?

I després llegim molt sobre la consciència, que encara és en gran mesura el domini de la filosofia i no de la ciència ni tan sols de la informàtica. Així de poc encara entenem la nostra pròpia comprensió. Els informàtics no volen fotre-s’hi, ja que és contraproduent del que volen fer, o bé et trobes en un forat negre filosòfic. La neurociència ha recorregut un llarg camí, però encara estem molt lluny d’entendre què és la consciència, què vol dir que podem considerar la nostra pròpia existència.

'Westworld' de HBO és el seguiment del Joc de Trons que mai no sabies que necessitaves >>>

MF: havies esmentat que parlaves amb la gent. Hi va haver algun científic que va fer consultes sobre això, o no realment, només consultes, només parlant amb ells?

JN: Us dic el que és realment interessant: vam tenir moltes converses informals amb la gent, i això us ho explica molt. En aquest moment no hi ha molta gent a Silicon Valley que estigui disposada a deixar constància de l’estat del que està passant. Quan es tracta d’un ASI, o una superintel·ligència artificial, sembla una conversa que potser hauríem d’arrossegar una mica als focus. Dit d’una altra manera, si construireu Déu, no hauríem de dir tots una mica sobre com funcionarà?

MF: Westworld sembla un dels vostres projectes més grans, tant en abast com en cronologia. Va ser un repte mantenir tot això avançant durant els anys que vau dissenyar això?

JN: Definitivament difícil. Combinava tota la complexitat de fer una pel·lícula i fer una sèrie. He fet les dues coses, i això definitivament va ser més que la suma de les seves parts. Era més semblant a fer una pel·lícula de 10 hores, molt desafiant, però vam tenir la fortuna increïble de col·laborar amb una xarxa ambiciosa, amb un equip fantàstic i un repartiment amb un talent sorprenent.

El nostre repartiment i la nostra tripulació són persones molt intel·ligents i curioses. Especialment el brillant Tony Hopkins. En els nostres intercanvis sobre el seu personatge, les motivacions del seu personatge i la seva història, aporta, com feien tants dels nostres actors, tanta riquesa i pensament a aquest projecte. Tenia tants punts de connexió que miraven més enllà de l’aspecte de ciència-ficció. La IA és un tema fascinant per si mateix, però també ho connecta amb la història. Sir Anthony és un noi molt ben llegit, i les converses sobre aquest moment i la seva connexió amb tants altres moments de la història de la humanitat van ser absolutament fascinants i van fer que el personatge i tota la història fos molt més rica.

Aquest espectacle tracta sobre la naturalesa humana. Es tracta d’éssers que s’han creat per assemblar-se als humans i, després, d’éssers humans en un entorn en el qual se’ls ha dit que poden actuar com vulguin sense conseqüències. Hi havia molt de què parlar amb els actors. Hi havia molt de menjar per pensar en aquell plató.

Com es queda Nikolaj Coster-Waldau (també conegut com Jaime Lannister) en la forma de Game of Thrones >>>

MF: Quan ho vas plantejar Westworld ho vau considerar primer com a ciència-ficció o vau entrar en això com a proto-western? O la vostra opinió sobre el que Lisa i vosaltres creavem va canviar amb el pas del temps?

JN: Aquesta és una gran pregunta. Havent vist la pel·lícula original, sabia que havíeu d’abraçar els dos gèneres, i això era una de les coses que més em feia il·lusió. És una pel·lícula western, per tant, és una pel·lícula de gènere, però també és una pel·lícula de ciència-ficció que qüestiona per què ens agrada veure westerns. Què té de atractiu i durador la narració de gèneres, i per què, a més de l’economia de Hollywood, ens interessa tant una forma d’explicar històries? Cremem aquestes coses. El western, encara és un gènere durador, però va tenir el seu apogeu als anys 30, 40 i 50. Ara són pel·lícules de superherois. Per tant, us pregunteu: quines són les preguntes que intentem fer a través d’aquest objectiu de gènere? Què passa amb el noi bo i el dolent i la frontera oberta? Hi ha alguns anàlegs realment interessants entre tots dos. Tots dos volen sortir cap a un territori desconegut i els seus perills. Realment, va ser molt divertit jugar amb la juxtaposició d’ambdós gèneres.

Per accedir a vídeos d’engranatges exclusius, entrevistes amb famosos i molt més, subscriu-te a YouTube.