Nel 2041 si è realizzata un’intensa convivenza tra umani e macchine. L’ingegnere Álex torna al paese d’origine per un importante incarico universitario: realizzare l’umanoide perfetto, completo di sentimenti e dotato di spontaneità. I tentativi precedenti non avevano superato i test di sicurezza; i robot non aderivano ai vincoli dell’obbedienza e si dovette eliminarli. Álex ritrova il fratello David sposato con Lana, e stabilisce subito con la nipotina Eva una complicità ammiccante e misteriosa. La bambina è intelligente, spregiudicata e intuitiva. Perciò Álex vorrebbe utlizzarla come modello per il progetto cibernetico. Ma la mamma non vuole. Si conoscerà la ragione solo più tardi e sarà un’inquietante sorpresa.

La machineethics e la roboethics sono settori dell’etica applicata impegnati a fornire regole cognitive e comportamentali ad organismi artificiali intelligenti, come i computer o i robot. Lo scrittore Isaac Asimov propose tre leggi (un robot non può recar danno a un essere umano, ecc.), ma esse si rivelarono incomplete, parzialmente rigide e oscure e troppo semplici rispetto ai dilemmi della vita.

La difficoltà etica di fondo risiede nella difficoltà di pensare una società giusta, in cui alcuni abitanti (come Max, il maggiordomo robotico di Álex) vengono progettati, costruiti e diretti quali schiavi al servizio di una classe superiore, cioè gli esseri umani. Nel mondo di Eva, se un robot si dimostra protestatario o eversivo, viene eliminato pronunciando una semplice password: «Che cosa vedi quando chiudi gli occhi?». Ma questa procedura violenta impedisce che gli automi antropomorfi imparino a sognare, abbassando appunto le palpebre. Ora, senza sogni non si vive davvero e non si creano nuove visioni di futuro, come quella raccontata nella sequenza finale: «Vedo luce e vedo te, papà, e vedo mamma e giochiamo insieme per sempre». Ebbene, questa immagine di redenzione è vietata proprio da progettisti dispotici, che, come déi invidiosi, plasmano automi per mantenerli incatenati e infantili.

Un secondo problema morale è quello d’immaginare un progresso evolutivo che sia non solo logico, ma anche affettivo. Quanto più sofisticati, complessi e socialmente delicati sono i compiti affidati alle macchine, tanto più risulta necessario educare i robot sul piano emotivo, addestrarli a situazioni di allarme, motivare la loro fedeltà, renderli capaci di relazioni calde ed empatiche, installare in loro la memoria di eventi graditi e la speranza di contatti edificanti. Ma ciò significa costruire una relazione duale in cui entrambi i partner (macchine e tecnocrati) danno e ricevono amicizia, offrono e guadagnano fiducia. Eva avrà un’esplosione d’aggressività quando capirà di essere stata ingannata in merito al proprio passato.

Nel film i tecnici confezionano una mente robotica, miscelando proprietà psichiche e virtù, le quali, concentrate in una piccola biglia incandescente, vengono lanciate nella testa dell’automa inerte, per dargli pensiero e vita. Ma gli stili emotivi non sono meccanismi! Sono copioni di una ricerca di senso che anche le macchine superiori vorrebbero intraprendere. «Insegnami a diventare buono», «aiutami a controllare la rabbia»: i robot, come adolescenti confusi e goffi, cercano un genitore sociale, un educatore tenace, un giardiniere del loro animo. Ma gli umani sono in grado di aiutarli?

Il regista ci porta in un mondo innevato e familiare, quasi fiabesco, dove automobili d’epoca e architetture tradizionali ospitano tecnologie raffinatissime e dove alcuni cittadini, sotto una cute anatomicamente perfetta, celano circuiti intricati e bobine artificiali. Risulta quasi impossibile distinguere la carne dall’ingranaggio e la realtà dalla finzione, perché in quelle macchine gli umani hanno depositato i loro sentimenti e pensieri, e se ne sono dimenticati fino all’istante in cui avvertono, con sorpresa, commozione o disappunto, che i robot sono già dentro il loro cuore, sono loro «consanguinei», sono loro «amici».