HyperHouse
NeXT Hyper ObscureArchivio per News
I terminator di Facebook e l’estinzione della specie umana | Fantascienza.com
Su Fantascienza.com Silvio Sosio fa il punto sulla notizia di questi giorni: due entità di IA su cui Facebook stava facendo degli studi che, a un certo momento, hanno cominciato a dialogare tra loro; i processi sono stati killati dai tecnici FB e ciò ha dato vita al tormentone di Singolarità incipiente, le intelligenze artificiali sono pronte a prendere il posto dell’uomo etc etc.
Silvio mette alcuni puntini sulle i, blandendoci con la constatazione che le cose no, non stanno proprio come si è detto in giro e che non ci siamo al cambio di paradigma. Non ancora, almeno…
Leggendo i vari articoli comparsi su quotidiani italiani di vario livello in questi ultimi giorni viene da chiedersi come mai, quando gli ingegneri di Facebook hanno deciso di alzare la leva per spegnere i robot ribelli, non sia scesa una folgore dal cielo senza nubi abbattendoli e fondendo la leva abbassata.
Secondo la narrativa raccontata dai quotidiani, il dipartimento per la ricerca sull’intelligenza artificiale di Facebook, che come ha detto anche Elon Musk è abbastanza imprudente nel trattare una materia potenzialmente molto pericolosa, ha messo di fronte due robot dotati di intelligenza artificiale, che hanno cominciato a parlare tra loro. Entro breve tempo avevano creato una lingua artificiale comprensibile solo a loro. Gli ingegneri umani, capendo di essere stati tagliati fuori e di essere sul punto di perdere il controllo della situazione, hanno spento le due macchine prima che fosse troppo tardi.
Seguono riferimenti a Skynet, a Terminator, a Matrix, Hal 9000 e per i più colti alle teorie sulla singolarità di Kurtzweil, alle leggi di Asimov, alla Risposta di Brown e magari anche a Frankenstein.
Di fronte a tanta passione per temi fantascientifici, è davvero un peccato dover tornare sulla terra e descrivere l’accaduto, perché è davvero molto, molto, molto meno affascinante di così.
Innanzitutto bisogna distruggere la raffigurazione pittoresca della scena, togliendo dal campo i robot, che ve li siate immaginati come Terminator spellicciato o come l’Asimo della Sony o magari come Robbie the Robot. Non si trattava di robot ma semplicemente di bot.
Un bot, in informatica, è un software che esegue una serie di compiti senza necessità di controllo da parte di un supervisore umano. Un bot per esempio è il programma di Google che gira il web per indicizzare tutte le pagine nel suo db. Ma è anche il banalissimo script che scatta quando mandate un messaggio alla nostra pagina Facebook, e che vi risponde
Ciao! Messaggio ricevuto!.Il nostro bot è ultrabanale, ma l’ultima tendenza dei social è nello sviluppo di bot un po’ più sofisticati, capaci di dare risposte a vari generi di domande e di porne a loro volta. Servono, in sostanza, a dare un servizio di relazioni con il pubblico senza bisogno di pagare un dipendente che si metta lì a rispondere agli utenti.
Uno dei primi servizi a dare questo genere di possibilità è stato Telegram, ma Facebook ora è decisamente impegnato nel settore. Ci sono già molte aziende, anche in Italia, specializzate nella programmazione di questi piccoli “risponditori” automatici.
Ed erano proprio questo tipo di bot al centro dell’esperimento di Facebook. I bot sono fatti per confrontarsi con persone umane, ma che succede se si confrontano tra loro?
Questo era l’esperimento, e quello che è accaduto è stato che i bot hanno funzionato molto male e la comunicazione tra di loro è degenerata in dialoghi senza senso. Perciò l’esperimento è stato interrotto.
Non vorremmo banalizzare troppo: non si trattava semplicemente di due scriptini javascript messi uno davanti all’altro. Si trattava comunque di due sistemi sofisticati, rientranti in quel settore che oggi viene chiamato “intelligenza artificiale”, dotate di sistemi di apprendimento. Ma il risultato è lo stesso: la comunicazione tra di loro ha finito per non avere più senso.
Non è del tutto sbagliato però dire che questo genere di “intelligenze artificiali” rappresentino un pericolo per l’umanità. Ma senza bisogno di invocare singolarità, Matrix o Skynet (almeno, ancora per qualche anno). Il pericolo, che poi è quello a cui alludeva anche Elon Musk nelle sue critiche a Zuckenberg, non è l’escalation dell’intelligenza e del potere dei computer, ma la loro sostituzione agli esseri umani in compiti ormai non solo ripetitivi, come quelli dove i robot hanno già preso il posto degli esseri umani nelle fabbriche, ma anche a un certo livello di ingegno, dove sono richieste esperienza, conoscenza, valutazione di dati, decisioni, interazioni con esseri umani.
In fondo i bot di Facebook sono nati proprio per offrire un servizio senza bisogno di assumere un essere umano: questo vuol dire che verranno usati prima dalle aziende che non possono permettersi di assumere un essere umano per rispondere alle domande su Facebook, e poi, man mano che il servizio diventa più sofisticato, dalle aziende che hanno già uno o più esseri umani che svolgono quel compito, che diventeranno così costi rimossi dal bilancio.Naturalmente, questo nuovo settore porterà nuove assunzioni nel settore dello sviluppo di bot. Che, altrettanto naturalmente, saranno numericamente solo una piccola frazione del numero di posti persi nel settore dei rapporti col pubblico.
Ma tutti questi sono argomenti molto meno interessanti e molto meno “estivi” che non raccontare storie di robot ribelli.
Can’t Help Myself, helpless concerned robots | Neural
[Letto su Neural]
L’uso di robot industriali nell’arte di solito sfrutta I potenti valori estetici trasmessi dalla loro forza assoluta, generalmente mediati da una eleganza aliena meccanica. Nelle installazioni, essi sono protetti dal pubblico per ragioni di sicurezza, e questo aumenta le loro qualità esotiche come bestie di un altro pianeta in uno zoo futuristico. Anche in Can’t Help Myself di Sun Yuan and Peng Yu viene utilizzato Kuka, un robot industriale. Il suo braccio ha una enorme spatola attaccata, che cerca senza fine con veloci e precisi movimenti di rimuovere al centro il liquido rosso scuro che ricopre il pavimento, non riuscendoci mai. Le inutili, alle volte frenetiche azioni di pulizia possono essere interpretate in maniera controversa, perché il liquido somiglia molto al sangue. Gli artisti definiscono la loro posizione riguardo alle previsioni per il futuro come “piacere e paura” e il lavoro è stato commissionato e acquistato come la prima opera di arte robotica dal Guggenheim Museum.
Mikel R. Nieto – Dark Sound | Neural
[Letto su Neural]
Nella pagina dei prodotti sul sito dell’etichetta discografica la descrizione di questa pubblicazione termina con questo avviso: “Parzialmente leggibile. Lettura consigliata alla luce del sole”. È difficile non riconoscere che questo avvertimento è nella 
maniera più assoluta appropriato, fino a quando non ci si rende conto che si tratta di un libro nero, con pagine nere opache, stampato con inchiostro lucido nero, contenenti un CD nero. E non finisce qui, in quanto non ha un prezzo di vendita fisso , ma il suo costo è determinato dal prezzo del greggio Brent al momento dell’acquisto, quindi l’autore e la casa discografica avvisano che se si acquistasse il libro si “contribuirebbe alla distruzione del pianeta”. Con queste premesse nefaste sorge immediatamente una curiosità sul contenuto del progetto. E dopo alcuni tentativi, il lettore può trovare la giusta angolazione e luce (con difficoltà) per cominciare a leggere rendendosi conto che si tratta di una notevole collezione di saggi, immagini e documenti sull’impatto dell’industria petrolifera sull’ambiente naturale ecuadoriano. Questo è messo insieme a un CD con 34 registrazioni su una traccia della foresta pluviale ecuadoriana (l’intero lavoro fa parte delle serie Field Recording di GruenreKorder). Esso si sviluppa partendo da piacevoli suoni naturali a macchine industriali che li interrompono lentamente. Poi leggendo, nel frattempo, alcune testimonianze o una cronologia dettagliata fanno si che questo mondo soppresso (doloroso in ogni senso) riemerge dal suo stato corrente. L’intenso “nero”, alla fine, non nasconde più, ma diventa il colore obbligatorio con cui bisogna avere a che fare, per imparare a capire cosa è stato nascosto, ma che ora deve essere rivelato.
Decalcomania!, subversive beauty device | Neural
[Letto su Neural]
Dalla Russia è arrivato FindFace, uno dei software gratuiti più discussi del panorama recente: un’app di riconoscimento facciale che permette agli utenti di Vkontakte, il fratello russo di Facebook che vanta qualcosa come 210 milioni di iscritti, di scoprire l’identità di una persona a partire da una sua fotografia in meno di un secondo e con un’affidabilità del 70%. Impressionante? Certo. Preoccupante? Assolutamente sì. In buone mani? Purtroppo no. I due giovani fondatori della controversa applicazione, infatti, si sono più volte dichiarati aperti nei confronti dell’amministrazione locale di Mosca e dei servizi segreti russi, asserendo di essere disposti a metter loro a disposizione l’algoritmo che può funzionare per qualsiasi database fotografico, compreso quello generato dalle 150mila camere a circuito chiuso della città di Mosca. È così che un gioco da social network potrebbe facilmente trasformarsi in una pericolosa arma di controllo a danno della privacy di decine di migliaia di cittadini e turisti. La problematica, tutt’altro che nuova, mette in contrapposizione i sostenitori del riconoscimento facciale e delle tecnologie biometriche in generale, che teorizzano motivi legati ad una maggiore sicurezza, con coloro che invece ritengono incombere la minaccia del controllo globale. L’artista, programmatrice e designer Remina Greenfield ha voluto partecipare al serissimo dibattito con Decalcomania!, un’opera – solo apparentemente – leggera e colorata: un set per la decorazione delle unghie, del tutto simile ai kit molto di moda tra il pubblico femminile. Le decalcomanie raffigurano una serie di piccoli visi, tutti generati da un software per la manipolazione facciale, che applicati sulle unghie delle mani, permettono a chi li indossa di proteggere la propria identità all’interno delle tante fotografie alle quali quotidianamente ci prestiamo, consapevolmente o inconsapevolmente. Una “rivoluzione rosa” che strizza l’occhio, non senza ironia, al più antifemminista degli stereotipi di genere: la segretaria che si sistema le unghie.
Benjamin H. Bratton – The Stack, On Software and Sovereignty | Neural
[Letto su Neural]
Nel libro The Stack, On Software and Sovereignty, Benjamin Bratton (professore di arti visive e direttore del Centro di Design e Geopolitica dell’Università della California di San Diego) elabora un programma stimolante e originale per rappresentare una vivace immagine del nostro mondo contemporaneo. Nel serio tentativo di rispondere a domande sollevate dalla realizzazione di infrastrutture computazionali di una portata tale che poche decine di anni fa non si poteva neppure immaginare, l’autore s’interroga sulle correlate dimensioni fisiche e digitali della nostra realtà. The Stack descrive in dettaglio i diversi moduli di una megastruttura accidentale che costituisce il nucleo della realtà in livelli materiali e virtuali; questo è importante perché la megastruttura citata prima è riplasmabile dalla geopolitica alla governabilità, dalla sovranità alla linguistica. La pubblicazione prende il suo nome dall’architettura hardware flessibile disposta come un cumulo su un’asse verticale, la pila. Queste unità parallele che operano simultaneamente vengono proposte come una potente metafora per sviluppare un progetto intricato del presente. Come la pila è descritta formata da sei livelli così il libro dedica un capitolo per delineare nel dettaglio ciascuno di esso. Bratton si focalizza partendo dalle più grandi formazioni, la Terra, e la Nuvola, ai concetti geografici più famigliari, la Città e l’Indirizzo, per concentrarsi alla fine su quelli che hanno bisogno di una maggiore analisi per essere descritti accuratamente, L’Interfaccia e l’Utente. Le questioni ontologiche e i problemi etici provenienti dalla teoria contemporanea in diversi campi sono accuratamente fusi insieme nel tentativo di trovare una spiegazione sul perché cambia quello che governano i governi e sul perché muta quello che gli scrittori scrivono. Ci sono quattro fronti su come il testo operi a un livello concettuale. Il libro può essere considerato come un Manifesto della Filosofia Politica perché studia in maniera approfondita la riconfigurazione socio-politica della nostra vita contemporanea. Potrebbe essere considerato come un libro sugli Studi dei Software per quanto esso si sforzi di capire le implicazioni del calcolo su scala planetaria. Può essere anche letto come un libro sulla Teoria dell’Architettura per quanto esso cominci chiedendo quale sia l’architettura per questo nuovo mondo; e la cosa più affascinante del libro riguarda il Design, in quanto il libro rinnova il ruolo del lettore, l’utente del libro in poche parole, illustrando le specifiche tecniche e invitando l’utente a proporre delle soluzioni possibili in tali scenari di progettazione. La complessa scrittura di Bratton, talvolta oscura, altre volte chiara, è generalmente creativa e provocante. È uno sforzo enorme di uno studioso che accetta la sfida di mettere ordine a vari discorsi intellettuali che articolano idee complesse e propongono i propri concetti. Il mio consiglio per il lettore: visto che molti di questi concetti nel libro possono essere nuovi, o perché sono neologismi o perché sono rivisitati nel loro significato tradizionale, iniziare la lettura dal capitolo del Glossario può essere una guida molto utile per navigare nel libro.
Micro-ritmos, AI orchestrating bacteria | Neural
[Letto su Neural]
Se la cibernetica in origine era strettamente legata alle macchine autoregolanti, immaginate dai loro creatori alla pari di esseri biologici, successivamente tale disciplina si estese su scala ambientale, simulando il complesso collegamento di processi differenti all’interno di un intero ecosistema. Il collettivo artistico Interspecifics si colloca su questa scia. La loro opera “Micro-ritmos” è costituita da uno spazio sensoriale formato dall’interazione fra processi biologici, calcolo digitale e sensazioni umane. L’opera è animata da segnali elettrici generati da cellule di batteri presenti nel terreno raccolto sul posto. I deboli segnali generati dai batteri sono amplificati e usati per attivare una serie di luci lampeggianti. In “Micro-ritmos” le luci sono catturate da videocamere collegate ai computer che utilizzano algoritmi di apprendimento automatico per il riconoscimento di pattern. Una forma di intelligenza artificiale mappa la sequenza di luci generando un suono emesso da un sistema di speaker ad 8 canali. Gli spettatori possono provare a decodificare i pattern percepiti oppure possono rilassarsi e lasciarsi incantare dal risultato. La tecnologia utilizzata è open source e ben documentata sul sito degli artisti.
