Condividi

Etica, algoritmi e sentimenti

Alla rivoluzione digitale serve un cuore – C’è una ragione se i dipartimenti di Filosofia delle università conoscono una nuova primavera – Qualche libro per schiarirsi le idee

Etica, algoritmi e sentimenti

Il bisogno di filosofia

La filosofia è in grande spolvero. Sempre più giovani si iscrivono ai dipartimenti di filosofia delle università di tutto il mondo. Sempre più temi di contenuto filosofico trovano spazio nella discussione pubblica. Sempre più è necessario avere nel proprio curriculum qualche tipo di formazione filosofica. Anche la finanza cerca filosofi. Li cerca anche l’industria mineraria.

Il presidente Macron è laureato in filosofia. Alle volte si vede che lo è. Il grande magnate dei media Rupert Murdoch ha una laurea in filosofia, anche se qui si vede di meno. Ma la visione c’è.

Susan Wojcicki, capo di YouTube, ha una laurea in filosofia. Il candidato democratico Pete Buttigieg, che adesso è in testa al plotone dei candidati alla nomination del partito democratico, è un filosofo. E non ne fa mistero, anzi è un leitmotiv che gli serve a bilanciare la sua modesta esperienza politica di sindaco di una cittadina dell’Indiana.

La lista potrebbe continuare. Preferiamo rimandare a un articolo di Alberto Magnani sul “Sole 24 Ore” dal titolo Le «inutili» lauree umanistiche danno sempre più lavoro.

Perché la “competenza filosofica” è sempre più ricercata in un mondo che appare dominato dalla tecnologia e dalle sue applicazioni pratiche? Per tre motivi convergenti.

Il bisogno di comportamenti etici

Il primo è che alcune branche della filosofia, come la linguistica, la semiotica, la logica e anche la psicologia, sono discipline indispensabili allo sviluppo dell’intelligenza artificiale. Il secondo è che gli

studi filosofici danno luogo a una metaformazione che supera lo stretto specialismo e predispone ad affrontare la complessità che richiede più pensiero, astrazione e visione e meno “saper fare”.

Il terzo, forse più importante degli altri, è che l’etica, a tutti i livelli, sta diventando il fondamento del mondo del futuro. L’umanità ha sempre più bisogno di comportamenti etici per affrontare le sfide enormi del presente e dell’immediato futuro.

La chiave “etica”, nei comportamenti privati, pubblici e collettivi è diventata un requisito di responsabilità che non può più essere una foglia di fico sul cinismo e l’avidità. Non può, anche perché non può essere più un mero articolo dello statuto di un’organizzazione. Deve diventare quasi una seconda natura delle persone e delle organizzazioni. Deve essere drammaticamente operativo. Questo permetterà anche ai governi di deregolare e semplificare e ai cittadini di essere più liberi in uno Stato invisibile.

L’epitaffio sulla tomba di Kant “Il cielo stellato sopra di me e la legge morale dentro di me” è davvero il manifesto futurista del XXI secolo.

Lo scientismo spiega qualcosa?

Eppure l’egemonia della tecnologia sulle altre attività umane sembrava essere la realizzazione del pensiero scientista al suo massimo grado di evoluzione. La filosofia sembrava un pensare circolare in via di estinzione, come la meravigliosa tigre bianca della Siberia.

Ma l’intuizione di un altro grande filosofo contemporaneo che può “gareggiare” con Kant per profondità di pensiero, aveva già messo una pietra tombale sullo scientismo tecnologico sessanta anni fa. In una prolusione del 1960 Martin Heidegger ammonì l’umanità che “le conseguenze della tecnologia sono tutt’altro che tecnologiche”. Vanno cioè a impattare la metafisica, l’essenza dell’essere.

E così è, come oggi lo iniziamo a vedere bene. Come si può ancora introdurre una qualche tecnologia senza pensare alle sue conseguenze più vaste sulle comunità da dove essa scaturisce a va a impattare? Non si può agire bellamente come si è agito finora nelle valli del silicio.

La posta in gioco dell’algoritmo

La copertina di “Cromosoma innovazione” che affronta con contributi importanti la questione dell’impatto della tecnologia sulle organizzazioni, impatto paragonabile a quello di un meteorite. Disponibile in libro e in ebook. Recentemente è uscito in lingua italiana (edito da Guerini in cartaceo e da goWare in ebook) un libro che raccoglie alcuni contributi di protagonisti della rivoluzione tecnologica come Don Tapscott, autore di Wikinomics; Tim O’Reilly, inventore del 2.0; Ginni Rometty, CEO di IBM; Andrew W. Moore, responsabile AI di Google; Reid Hoffman co-founder di Linkedin.

Il libro ospita anche gli interventi di alcuni studiosi della MIT Sloan School of Management di Boston, uno dei principali think tank al mondo per lo studio dell’impatto della tecnologia sull’economia, sul sistema delle imprese e sulla società.

L’edizione italiana di What the Digital Future Holds: 20 Groundbreaking Essays on How Technology is Reshaping the Practice of Management ha come titolo Cromosoma innovazione. Si tratta del primo volume della collana “The Future of Management”, che offre percorsi di lettura tratti dalla prestigiosa MIT Sloan Management Review. L’edizione italiana, a cura di Alberto Mattiello, è pubblicata in collaborazione con Confindustria Piccola Industria.

Indubbiamente la tecnologia, come recita il sottotitolo del libro, riscrive la genetica delle organizzazioni. Questa riscrittura del codice genetico sarà condotta con un “linguaggio” che include l’etica e la responsabilità sociale verso le collettività? Oppure prevarranno algoritmi progettati in modo agnostico rispetto alle questioni etiche implicite nelle conseguenze dell’algoritmo?

Bene, due dei venti contributi di Cromosoma innovazione provano a discutere questo punto. Per gentile concessione dell’editore li riproduciamo integralmente di seguito.

Etica e algoritmi 

di Bidhan L. Parmar e Robert E. Freeman 
Professori della University of Virginia e autori di Stakeholder Capitalism 

Chi progetta gli algoritmi? 

Siamo noi a progettare gli algoritmi o sono gli algoritmi a progettare noi? Siamo davvero sicuri di avere il controllo del nostro comportamento? Non sarà forse che le nostre azioni sono il prodotto di un contesto che è stato sapientemente creato da dati, analisi e codice? 

I progressi nella tecnologia informatica generano sicuramente dei benefici per la nostra vita. Abbiamo accesso a servizi e raccomandazioni su misura, possiamo delegare compiti ordinari come guidare, pulire i pavimenti, fare la spesa e scegliere i cibi. Ma implica anche dei potenziali costi. 

I timori sul futuro del lavoro hanno portato a discutere di redditi base universali o, in altre parole, di un salario solo per il fatto di essere un umano. I timori sulla natura delle interazioni umane dominano le discussioni. Spaziano da come mettere via il telefono e avere conversazioni reali con qualcuno alla potente dinamica di una società in cui molte persone sono connesse a maschere di realtà virtuale. 

Questi temi sottendono una preoccupazione più grande: che forma daremo al nostro futuro? Che mondo ci aiuterà a creare la tecnologia informatica? 

I progressi nell’IT hanno reso l’uso dei dati, in particolare dei dati sul nostro comportamento, parte integrante dell’esperienza online. 

Il codice non è neutro 

Le aziende adattano le loro offerte in base alla tecnologia che impieghiamo: alcuni anni fa si è scoperto che il sito di viaggi Orbitz dirottava gli utenti di Mac sui servizi di viaggio più costosi rispetto ai proprietari di un PC. Siti di incontri come eHarmony e Tinder suggeriscono i partner in base alle preferenze dichiarate e a quelle implicite. Vengono suggerite nuove storie in base a quel che abbiamo letto prima e alle nostre attività sui social network. 

Yahoo, Facebook e Google adattano l’ordine, la visualizzazione e la facilità di scelta per spingerci a trascorrere più tempo sulle loro applicazioni, in modo che possano raccogliere ancora più dati e inserirsi ulteriormente nelle nostre transazioni quotidiane. 

Progressivamente, il mondo fisico viene influenzato dai dati. Pensiamo alle auto autonome o ad assistenti virtuali come Siri e Amazon Echo. Ci sono addirittura giocattoli come Hello Barbie che ascoltano, registrano e analizzano i discorsi dei nostri figli per poi personalizzare le interazioni e adattarle meglio. 

E se le nostre vite sono sempre più influenzate dagli algoritmi, dovremmo chiederci: quale sarà l’effetto? 

Per prima cosa, è importante osservare che il codice usato per giudicarci in base al nostro gusto in fatto di scarpe o a come andiamo a lavorare è scritto da esseri umani, che decidono il significato da attribuire ai dati e come questi dovrebbero condizionare i nostri comportamenti. 

Quel codice non è neutro: contiene molti giudizi su chi siamo, chi dovremmo diventare e come dovremmo vivere. Dovremmo avere accesso a molte scelte, o dovremmo essere velatamente influenzati su cosa comprare su un particolare sito? 

La valenza etica dell’algoritmo 

Pensiamo alle sfide etiche di scrivere gli algoritmi per un’auto autonoma. In certe sfortunate circostanze, dove non è possibile evitare un incidente, l’algoritmo che fa andare la macchina dovrà presumibilmente scegliere se sacrificare i suoi occupanti o rischiare di ferire, magari mortalmente, i passeggeri di un’altra macchina o dei pedoni. 

Gli sviluppatori come scriveranno questo codice? Nonostante i progressi nella tecnologia informatica, la raccolta e l’analisi dei dati, il nostro giudizio su mortalità ed etica sono importantissimi, forse come mai prima d’ora. 

Dobbiamo pensare a come avere conversazioni migliori sul ruolo di scopo, etica e valori in questo mondo digitale, invece di limitarci a presupporre che si tratti di questioni già risolte e che non si pongono perché «tanto è solo un algoritmo». 

Perché alla trasformazione digitale serve un cuore 

di George Westerman 
Ricercatore presso MIT Sloan e autore di Leading Digital: Turning Technology into Business Transformation 

Un nuovo tipo di organizzazione 

Tre forze guidate dalla tecnologia stanno trasformando la natura del management. Grazie all’automazione, sempre più aziende possono lavorare senza impiegare lavoratori umani. Il management guidato dai dati integra l’intuizione e l’esperienza con dati ed esperimenti. La fluidità di risorse assegna alle mansioni le persone in grado di svolgerle meglio, che siano interne o esterne all’organizzazione. 

Viste nel complesso, queste tre forze aiutano i leader a ripensare a come organizzare e gestire il lavoro. I compiti che in passato erano considerati di dominio esclusivo delle persone — come gestire le richieste di clienti, guidare veicoli o scrivere articoli di giornale — ora possono essere svolti da macchine. 

I dipendenti a ogni livello disporranno delle informazioni necessarie per prendere decisioni e correggere le proprie prassi. I computer possono diagnosticare le situazioni e identificare le difficoltà che le persone non vedono. 

Le informazioni in tempo reale consentono di condurre esperimenti invece di ipotizzare se potrebbe funzionare. I dipendenti possono organizzarsi autonomamente, ottenere il supporto di esperti interni ed esterni all’azienda per portare a termine il lavoro. E le aziende possono gestire le fluttuazioni nelle esigenze di risorse attraverso l’outsourcing, sia che passi per relazioni a lungo termine, per contratti orari o per lavoro a cottimo. 

Il potenziamento della dimensione digitale 

Queste forze sono, complessivamente, positive. Aiuteranno i manager ad aumentare la produttività, l’innovazione e la soddisfazione del cliente nei prossimi anni. Ma chi guida un’azienda tradizionale deve fare attenzione a evitare che tali forze spingano l’approccio al management agli estremi. 

Nella loro conclusione logica, queste tre forze digitali possono trasformare il management nel peggiore dei modi. Accelerare la fluidità delle risorse può trasformare tutti i lavoratori in contraenti, pagati solo quando servono all’azienda e costretti a fare mille lavoretti per raggiungere un salario. La gestione guidata dai dati può diventare un Grande Fratello, che valuta ogni azione dei dipendenti e porta ad assumere o licenziare rapidamente esclusivamente sulla base dei numeri. L’automazione può rimpiazzare i lavoratori e aumentare costantemente la pressione su quelli che restano. Se non controllate, le tre forze digitali possono trasformare la relazione di lavoro in una fredda transazione di mercato — un approccio interessante a livello logistico ma che può avere ripercussioni a lungo termine sia sui lavoratori che sulle aziende. 

Questa nuova visione del lavoro sta già prendendo forma in alcune aziende. Amazon.com Inc. applica un intenso approccio guidato dai dati alla gestione delle persone. Come riferiva il New York Times nel 2015, assume solo i migliori, li paga bene, li fa lavorare sodo e sfoltisce regolarmente la forza lavoro per rimuovere chi ritiene poco performante. Uber Technologies Inc. impiega a tempo pieno un numero relativamente ridotto di dipendenti molto bravi e assume la maggior parte dei conducenti attraverso contratti che modifica per rispondere ai cambiamenti dell’ultimo minuto nella domanda del mercato. Uber ora sta pilotando una flotta di veicoli senza conducente. 

Verso un nuovo modello di relazioni industriali 

Quando si prova a capire la rapidità dell’innovazione digitale, si può essere tentati di vedere nelle aziende native digitali una sorta di archetipo manageriale a cui ispirarsi. 

Sicuramente possiamo, e dobbiamo, imparare molto da queste aziende. Ma è meglio pensarci bene prima di adottare ogni singola tecnica di management della Silicon Valley. La maggior parte delle aziende non dispone delle risorse per attrarre e pagare i migliori sulla piazza. 

E molti lavoratori altamente performanti non si troverebbero bene in uno schema di lavoro basato su transazioni, preferendo invece puntare sulla sicurezza o un miglior equilibrio lavoro-vita privata. Le aziende tradizionali, anche in settori non tecnologici o in sedi meno esotiche, possono attrarre ottimi lavoratori se propongono la giusta combinazione di salario, missione e condizioni di lavoro. 

Al di là del semplice fatto di trovare dipendenti, occorre chiedersi se i contratti di lavoro basati sul mercato siano la forma di contratto sociale migliore per un’azienda tradizionale. Queste prassi, che funzionano bene in alcune aziende a rapida crescita, potrebbero rivelarsi meno efficaci quando la crescita rallenta o avvengono degli imprevisti. 

Pagare le persone solo per il lavoro svolto riduce le opportunità di spingere l’innovazione e la coesione dei dipendenti. E certamente simili prassi non promuovono la lealtà. Molti autisti di Uber lavorano anche per la concorrenza; sono autisti di Uber solo fino a quando non trovano una proposta migliore. 

Amazon è tra le aziende più innovative del settore ma è anche nota per l’elevato turnover dei lavoratori. La lealtà aiuta le aziende a tirare avanti quando non possono permettersi paghe da capogiro; i dipendenti lavorano duro e creano innovazione perché credono nell’azienda e in chi la guida. E quando arrivano tempi difficili, la lealtà è quel che permette alle aziende di conservare le persone migliori. 

Serve un cuore alla dimensione digitale 

Credo fermamente nella trasformazione digitale e non voglio certo scoraggiare le aziende che intendono adottare pratiche di management potenziate dalla dimensione digitale. Ma quando si costruisce una visione per il futuro dell’azienda, bisogna pensare alle forze digitali come a vitamine o farmaci. La giusta dose, assunta nel modo giusto, può dare risultati stupefacenti. Ma l’abuso, o l’assunzione alle condizioni sbagliate, possono avvelenare. 

In breve, alla trasformazione digitale serve un cuore. In un’epoca di innovazione digitale, i leader in ogni settore devono puntare a trasformare ogni parte dell’azienda, dall’esperienza cliente ai modelli di business fino alla gestione delle operazioni. Non devono però dimenticare che sono le persone i veri motori di un’azienda. 

La visione del management nei prossimi cinque o dieci anni non deve vedere i dipendenti come risorse a contratto che lavorano come macchine sotto una costante supervisione. Non deve essere un mondo in cui l’automazione schiaccia i lavoratori — e i manager — buttandoli fuori dal sistema. 

Deve essere un futuro in cui i computer aiutano i dipendenti a collaborare in modo fluido, prendere decisioni in modo scientifico e migliorare la gestione grazie all’automazione. Sulla lunga distanza, le aziende digitalmente assennate che punteranno al cuore e alla testa dei lavoratori supereranno quelle che trattano le persone come macchine. 

Passi tratti da MIT Sloan Management Review, Cromosoma innovazione. 20 visioni dal MIT per capire come la tecnologia riscrive la genetica delle organizzazioni, edizione italiana, a cura di Alberto Mattiello, Guerini/goWAre, in collaborazione con Confindustria Piccola Industria. (Disponibile in libreria e negli store online in formato cartaceo ed ebook). Libro euro 22,50, ebook euro 14,99. 

Commenta