La storia dell’IA raccontata da chi l’ha inventata

Posted on

Benvenuto a Ero lì quando, un nuovo progetto di storia orale dal Nelle macchine di cui ci fidiamo podcast. Presenta storie di come sono avvenute le scoperte nell’intelligenza artificiale e nell’informatica, raccontate dalle persone che le hanno viste. In questo primo episodio, incontriamo Joseph Atick, che ha contribuito a creare il primo sistema di riconoscimento facciale commercialmente valido.

Titoli di coda:

Questo episodio è stato prodotto da Jennifer Strong, Anthony Green ed Emma Cillekens con l’aiuto di Lindsay Muscato. È curato da Michael Reilly e Mat Honan. È mixato da Garret Lang, con sound design e musica di Jacob Gorski.

Trascrizione completa:

[TR ID]

Jennifer: Sono Jennifer Strong, ospite di Nelle macchine di cui ci fidiamo.

Voglio parlarvi di qualcosa su cui stiamo lavorando da un po’ dietro le quinte.

È chiamato Ero lì quando.

È un progetto di storia orale che racconta le storie di come sono avvenute le scoperte nell’intelligenza artificiale e nell’informatica… raccontate dalle persone che le hanno viste.

Joseph Atick: E quando sono entrato nella stanza, ha individuato la mia faccia, l’ha estratta dallo sfondo e ha pronunciato: “Vedo Joseph” e quello è stato il momento in cui i capelli sulla schiena… mi è sembrato che fosse successo qualcosa. Siamo stati testimoni.

Jennifer: Stiamo dando il via alle cose con un uomo che ha contribuito a creare il primo sistema di riconoscimento facciale commercialmente valido… negli anni ’90…

[IMWT ID]

Sono Joseph Atick. Oggi sono il presidente esecutivo di ID for Africa, un’organizzazione umanitaria che si occupa di fornire alle persone in Africa un’identità digitale in modo che possano accedere ai servizi ed esercitare i propri diritti. Ma non sono sempre stato nel campo umanitario. Dopo aver conseguito il dottorato in matematica, insieme ai miei collaboratori ho fatto alcune scoperte fondamentali, che hanno portato al primo riconoscimento facciale commercialmente valido. Ecco perché le persone si riferiscono a me come il padre fondatore del riconoscimento facciale e dell’industria biometrica. L’algoritmo per come un cervello umano avrebbe riconosciuto i volti familiari è diventato chiaro mentre facevamo ricerca, ricerca matematica, mentre ero all’Institute for Advanced Study di Princeton. Ma era lontano dall’avere un’idea di come avresti implementato una cosa del genere.

È stato un lungo periodo di mesi di programmazione e fallimento e programmazione e fallimento. E una notte, di prima mattina, in realtà, avevamo appena finalizzato una versione dell’algoritmo. Abbiamo inviato il codice sorgente per la compilazione per ottenere un codice di esecuzione. E siamo usciti, sono uscito per andare in bagno. E poi quando sono tornato nella stanza e il codice sorgente era stato compilato dalla macchina ed era tornato. E di solito dopo aver compilato lo esegue automaticamente, e quando sono entrato nella stanza, ha individuato un essere umano che si muoveva nella stanza e ha individuato la mia faccia, l’ha estratto dallo sfondo e ha pronunciato: “Vedo Joseph”. e quello è stato il momento in cui i capelli sulla schiena—mi sono sentito come se fosse successo qualcosa. Siamo stati testimoni. E ho iniziato a chiamare le altre persone che erano ancora nel laboratorio e ognuna di loro sarebbe entrata nella stanza.

E direbbe: “Vedo Norman. Vedrei Paolo, vedrei Giuseppe». E faremmo a turno a correre per la stanza solo per vedere quanti ne può individuare nella stanza. È stato, è stato un momento di verità in cui direi che diversi anni di lavoro hanno finalmente portato a una svolta, anche se teoricamente non era necessaria alcuna ulteriore svolta. Solo il fatto che abbiamo capito come implementarlo e finalmente abbiamo visto quella capacità in azione è stato molto, molto gratificante e soddisfacente. Avevamo sviluppato un team che è più un team di sviluppo, non un team di ricerca, che si è concentrato sul mettere tutte queste capacità in una piattaforma PC. E quella è stata la nascita, davvero la nascita del riconoscimento facciale commerciale, direi, nel 1994.

La mia preoccupazione è iniziata molto rapidamente. Ho visto un futuro in cui non c’era posto dove nascondersi con la proliferazione di fotocamere ovunque e la mercificazione dei computer e le capacità di elaborazione dei computer che diventavano sempre migliori. E così nel 1998, ho fatto pressioni sull’industria e ho detto che dobbiamo mettere insieme dei principi per un uso responsabile. E mi sono sentito bene per un po’, perché sentivo che avevamo capito bene. Ho sentito che abbiamo messo in atto un codice di utilizzo responsabile da seguire da qualunque sia l’implementazione. Tuttavia, quel codice non ha resistito alla prova del tempo. E il motivo è che non avevamo previsto l’emergere dei social media. Fondamentalmente, nel momento in cui abbiamo stabilito il codice nel 1998, abbiamo detto che l’elemento più importante in un sistema di riconoscimento facciale era il database taggato di persone conosciute. Abbiamo detto, se non sono nel database, il sistema sarà cieco.

Ed è stato difficile costruire il database. Al massimo potremmo costruirne migliaia 10.000, 15.000, 20.000 perché ogni immagine doveva essere scansionata e doveva essere inserita a mano: il mondo in cui viviamo oggi, ora siamo in un regime in cui abbiamo permesso alla bestia di uscire dal sacco nutrendolo con miliardi di volti e aiutandolo taggandoci. Um, ora siamo in un mondo in cui ogni speranza di controllare e richiedere a tutti di essere responsabili nell’uso del riconoscimento facciale è difficile. E allo stesso tempo, non mancano i volti noti su internet perché si può semplicemente raschiare, come è successo di recente da alcune aziende. E così ho iniziato a farmi prendere dal panico nel 2011 e ho scritto un articolo di opinione dicendo che è ora di premere il pulsante del panico perché il mondo si sta dirigendo in una direzione in cui il riconoscimento facciale sarà onnipresente e i volti saranno disponibili ovunque nelle banche dati.

E all’epoca la gente diceva che ero un allarmista, ma oggi si stanno rendendo conto che è esattamente quello che sta succedendo oggi. E quindi dove andiamo da qui? Ho fatto pressioni per una legislazione. Ho fatto pressioni per quadri legali che rendano una responsabilità per te usare la faccia di qualcuno senza il loro consenso. E quindi non è più una questione tecnologica. Non possiamo contenere questa potente tecnologia con mezzi tecnologici. Ci deve essere una sorta di quadro giuridico. Non possiamo permettere che la tecnologia ci superi troppo. Prima dei nostri valori, prima di ciò che pensiamo sia accettabile.

La questione del consenso continua ad essere una delle questioni più difficili e impegnative quando si tratta di tecnologia, il solo preavviso a qualcuno non significa che sia sufficiente. Per me il consenso deve essere informato. Devono capire le conseguenze di ciò che significa. E non solo per dire, beh, abbiamo messo un’iscrizione e questo è bastato. L’abbiamo detto alla gente, e se non avessero voluto, avrebbero potuto andare ovunque.

E scopro anche che c’è, è così facile lasciarsi sedurre da caratteristiche tecnologiche appariscenti che potrebbero darci un vantaggio a breve termine nelle nostre vite. E poi, in fondo, riconosciamo di aver rinunciato a qualcosa che era troppo prezioso. E a quel punto, abbiamo desensibilizzato la popolazione e arriviamo a un punto in cui non possiamo tirarci indietro. Questo è ciò che mi preoccupa. Sono preoccupato per il fatto che il riconoscimento facciale attraverso il lavoro di Facebook e Apple e altri. Non sto dicendo che sia tutto illegittimo. Molto è legittimo.

Siamo arrivati ​​a un punto in cui il pubblico in generale potrebbe essere diventato indifferente e potrebbe diventare desensibilizzato perché lo vede ovunque. E forse tra 20 anni uscirai di casa. Non avrai più l’aspettativa di non esserlo. Non sarà riconosciuto da decine di persone che incontrerai lungo la strada. Penso che a quel punto il pubblico sarà molto allarmato perché i media cominceranno a riferire sui casi in cui le persone sono state perseguitate. Le persone sono state prese di mira, le persone sono state persino selezionate in base al loro patrimonio netto per strada e rapite. Penso che ci siano molte responsabilità nelle nostre mani.

E quindi penso che la questione del consenso continuerà a perseguitare l’industria. E finché quella domanda non sarà un risultato, forse non sarà risolta. Penso che dobbiamo stabilire dei limiti su cosa si può fare con questa tecnologia.

La mia carriera mi ha anche insegnato che essere troppo avanti non è una buona cosa perché il riconoscimento facciale, come lo conosciamo oggi, è stato effettivamente inventato nel 1994. Ma la maggior parte delle persone pensa che sia stato inventato da Facebook e dagli algoritmi di apprendimento automatico, che sono ora proliferando in tutto il mondo. Fondamentalmente, a un certo punto nel tempo, ho dovuto dimettermi dall’incarico di CEO pubblico perché stavo limitando l’uso della tecnologia che la mia azienda avrebbe promosso a causa della paura di conseguenze negative per l’umanità. Quindi sento che gli scienziati devono avere il coraggio di proiettarsi nel futuro e vedere le conseguenze del loro lavoro. Non sto dicendo che dovrebbero smettere di fare scoperte. No, dovresti andare a tutta forza, fare più scoperte, ma dovremmo anche essere onesti con noi stessi e fondamentalmente avvisare il mondo e i politici che questa scoperta ha vantaggi e svantaggi. E quindi, nell’usare questa tecnologia, abbiamo bisogno di una sorta di guida e framework per assicurarci che sia incanalata per un’applicazione positiva e non negativa.

Jennifer: Ero lì quando… è un progetto di storia orale con le storie di persone che hanno assistito o creato scoperte nell’intelligenza artificiale e nell’informatica.

Hai una storia da raccontare? Conosci qualcuno che lo fa? Inviaci un’e-mail all’indirizzo podcasts@technologyreview.com.

[MIDROLL]

[CREDITS]

Jennifer: Questo episodio è stato registrato a New York nel dicembre del 2020 e prodotto da me con l’aiuto di Anthony Green ed Emma Cillekens. Siamo a cura di Michael Reilly e Mat Honan. Il nostro tecnico del mix è Garret Lang… con sound design e musica di Jacob Gorski.

Grazie per l’ascolto, sono Jennifer Strong.

[TR ID]

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *