Partagez

Éthique, algorithmes et sentiments

La révolution numérique a besoin d'un cœur – Il y a une raison pour laquelle les départements universitaires de philosophie connaissent un nouveau printemps – Quelques livres pour se vider la tête

Éthique, algorithmes et sentiments

Le besoin de philosophie

La philosophie est en pleine forme. De plus en plus de jeunes s'inscrivent dans les départements de philosophie des universités du monde entier. De plus en plus de sujets de contenu philosophique trouvent leur place dans le débat public. De plus en plus, il est nécessaire d'avoir une sorte de formation philosophique dans son cursus. La finance cherche aussi des philosophes. L'industrie minière les recherche également.

Le président Macron est diplômé en philosophie. Parfois, cela montre que c'est le cas. Le grand magnat des médias Rupert Murdoch a un diplôme de philosophie, bien qu'il en ait moins vu ici. Mais la vision est là.

Susan Wojcicki, responsable de YouTube, est diplômée en philosophie. Le candidat démocrate Pete Buttigieg, qui dirige désormais le champ des candidats à l'investiture du parti démocrate, est un philosophe. Et il ne s'en cache pas, au contraire c'est un leitmotiv qui lui sert à contrebalancer sa modeste expérience politique de maire d'une petite ville de l'Indiana.

La liste pourrait s'allonger encore. Nous préférons nous référer à un article d'Alberto Magnani dans le "Sole 24 Ore" intitulé Les diplômes de sciences humaines "inutiles" donnent de plus en plus de travail.

Pourquoi la « compétence philosophique » est-elle de plus en plus recherchée dans un monde qui semble dominé par la technologie et ses applications pratiques ? Pour trois raisons convergentes.

La nécessité d'un comportement éthique

La première est que certaines branches de la philosophie, comme la linguistique, la sémiotique, la logique ou encore la psychologie, sont des disciplines indispensables au développement de l'intelligence artificielle. La seconde est que le

les études philosophiques donnent lieu à une métaformation qui dépasse la spécialisation étroite et nous prépare à affronter la complexité qui demande plus de réflexion, d'abstraction et de vision et moins de "savoir-faire".

La troisième, peut-être plus importante que les autres, c'est que l'éthique, à tous les niveaux, devient le fondement du monde de demain. L'humanité a de plus en plus besoin d'un comportement éthique pour faire face aux énormes défis du présent et de l'avenir immédiat.

La clé « éthique » dans les comportements privés, publics et collectifs est devenue une exigence de responsabilité qui ne peut plus être une feuille de vigne sur le cynisme et la cupidité. Il ne peut pas, aussi parce qu'il ne peut plus être un simple article des statuts d'une organisation. Cela doit devenir presque une seconde nature pour les personnes et les organisations. Il doit être dramatiquement opérationnel. Cela permettra également aux gouvernements de déréglementer et de simplifier et aux citoyens d'être plus libres dans un État invisible.

L'épitaphe sur la tombe de Kant « Le ciel étoilé au-dessus de moi et la loi morale en moi » est véritablement le manifeste futuriste du XXIe siècle.

Le scientisme explique-t-il quelque chose ?

Pourtant, l'hégémonie de la technologie sur les autres activités humaines semblait être la réalisation de la pensée scientiste à son plus haut niveau d'évolution. La philosophie ressemblait à une pensée circulaire au bord de l'extinction, comme le beau tigre blanc de Sibérie.

Mais l'intuition d'un autre grand philosophe contemporain qui peut « rivaliser » avec Kant pour la profondeur de la pensée, avait déjà mis une pierre tombale au scientisme technologique il y a soixante ans. Dans un discours d'ouverture de 1960, Martin Heidegger a averti l'humanité que "les conséquences de la technologie sont tout sauf technologiques". Autrement dit, ils ont un impact sur la métaphysique, l'essence de l'être.

Et il en est ainsi, car aujourd'hui nous commençons à le voir clairement. Comment une technologie peut-elle encore être introduite sans penser à ses conséquences plus larges sur les communautés dont elle est issue et impacte ? On ne peut pas agir magnifiquement comme cela a été fait jusqu'ici dans les vallées du silicium.

Les enjeux de l'algorithme

La couverture de « Chromosome innovation » qui traite de la question de l'impact de la technologie sur les organisations aux apports importants, un impact comparable à celui d'une météorite. Disponible en livre et ebook. Un livre a récemment été publié en italien (publié par Guerini en version papier et par goWare en ebook) qui rassemble quelques contributions de protagonistes de la révolution technologique tels que Don Tapscott, auteur de Wikinomics ; Tim O'Reilly, inventeur du 2.0 ; Ginni Rometty, PDG d'IBM ; Andrew W. Moore, responsable de l'IA chez Google ; Reid Hoffman co-fondateur de LinkedIn.

Le livre contient également les interventions de certains chercheurs de la MIT Sloan School of Management de Boston, l'un des principaux groupes de réflexion au monde pour l'étude de l'impact de la technologie sur l'économie, sur le système d'entreprise et sur la société.

L'édition italienne de What the Digital Future Holds: 20 Groundbreaking Essays on How Technology is Reshaping the Practice of Management s'intitule Cromosoma innovation. Il s'agit du premier tome de la série « The Future of Management », qui propose des parcours de lecture tirés de la prestigieuse MIT Sloan Management Review. L'édition italienne, éditée par Alberto Mattiello, est publiée en collaboration avec Confindustria Piccola Industria.

Sans aucun doute la technologie, comme le dit le sous-titre du livre, réécrit la génétique des organisations. Cette réécriture du code génétique sera-t-elle menée avec un "langage" incluant éthique et responsabilité sociale envers les communautés ? Ou les algorithmes conçus de manière agnostique aux problèmes éthiques implicites dans les conséquences de l'algorithme prévaudront-ils ?

Eh bien, deux des vingt contributions de Chromosome innovation essaient de discuter de ce point. Avec l'aimable autorisation de l'éditeur, ils sont reproduits intégralement ci-dessous.

Éthique et algorithmes 

di bidhan L. parmar et Robert E. Freeman 
Professeurs de l'Université de Virginie et auteurs de Des parties prenantes Capitalisme 

Qui conçoit les algorithmes ? 

Concevons-nous les algorithmes ou les algorithmes nous conçoivent-ils ? Sommes-nous vraiment sûrs de contrôler notre comportement ? Se pourrait-il que nos actions soient le produit d'un contexte créé de manière experte par des données, des analyses et du code ? 

Les progrès de la technologie de l'information génèrent certainement des avantages pour nos vies. Nous avons accès à des services et des recommandations sur mesure, nous pouvons déléguer des tâches ordinaires telles que conduire, nettoyer les sols, faire les courses et choisir les aliments. Mais cela vient aussi avec des coûts potentiels. 

Les inquiétudes concernant l'avenir du travail ont conduit à des discussions sur les revenus de base universels, ou, en d'autres termes, un salaire juste pour être humain. Les préoccupations concernant la nature des interactions humaines dominent les discussions. Ils vont du fait de ranger votre téléphone et d'avoir de vraies conversations avec quelqu'un à la puissante dynamique d'une société où de nombreuses personnes sont connectées à des masques de réalité virtuelle. 

Ces thèmes sous-tendent une préoccupation plus grande : sous quelle forme façonnerons-nous notre avenir ? Quel monde l'informatique nous aidera-t-elle à créer ? 

Les progrès de l'informatique ont fait de l'utilisation des données, en particulier des données sur notre comportement, une partie intégrante de l'expérience en ligne. 

Le code n'est pas neutre 

Les entreprises adaptent leurs offres en fonction de la technologie que nous utilisons : il y a quelques années, le site de voyage Orbitz détournait les utilisateurs de Mac vers des services de voyage plus coûteux que les propriétaires de PC. Les sites de rencontres comme eHarmony et Tinder suggèrent des partenaires en fonction de vos préférences déclarées et implicites. De nouvelles histoires sont proposées en fonction de ce que nous avons déjà lu et de nos activités sur les réseaux sociaux. 

Yahoo, Facebook et Google ajustent l'ordre, l'affichage et la facilité de choix pour nous inciter à passer plus de temps sur leurs applications, afin qu'ils puissent collecter encore plus de données et s'insérer davantage dans nos transactions quotidiennes. 

Progressivement, le monde physique est influencé par les données. Pensons aux voitures autonomes ou aux assistants virtuels comme Siri et Amazon Echo. Il existe même des jouets comme Hello Barbie qui écoutent, enregistrent et analysent les discours de nos enfants pour ensuite personnaliser les interactions et mieux les adapter. 

Et comme nos vies sont de plus en plus impactées par les algorithmes, nous devrions nous demander : quel en sera l'effet ? 

Tout d'abord, il est important de noter que le code utilisé pour nous juger en fonction de nos goûts en matière de chaussures ou de notre façon de travailler est écrit par des humains, qui décident du sens à attribuer aux données et de la manière dont elles doivent influencer nos comportements. 

Ce code n'est pas neutre : il contient de nombreux jugements sur qui nous sommes, qui nous devrions devenir et comment nous devrions vivre. Devrions-nous avoir accès à de nombreux choix ou devrions-nous être subtilement influencés par ce qu'il faut acheter sur un site particulier ? 

La valeur éthique de l'algorithme 

Réfléchissons aux enjeux éthiques de l'écriture des algorithmes d'une voiture autonome. Dans certaines circonstances malheureuses, où un accident ne peut être évité, l'algorithme qui fait fonctionner la voiture devra vraisemblablement choisir de sacrifier ses occupants ou de risquer de blesser, éventuellement mortellement, les passagers d'une autre voiture ou des piétons. 

Comment les développeurs vont-ils écrire ce code ? Malgré les progrès de la technologie de l'information, de la collecte et de l'analyse des données, nos jugements sur la mortalité et l'éthique sont de la plus haute importance, peut-être plus que jamais. 

Nous devons réfléchir à la manière d'avoir de meilleures conversations sur le rôle du but, de l'éthique et des valeurs dans ce monde numérique, au lieu de simplement supposer que ces problèmes ont déjà été résolus et ne se posent pas parce que "ce n'est de toute façon qu'un algorithme". 

Parce que la transformation numérique a besoin d'un cœur 

par Georges Westerman 
Chercheur au MIT Sloan et auteur de piste Numérique: Tournant Technologie développement  La Brochure  De La Carrosserie  

Un nouveau type d'organisation 

Trois forces axées sur la technologie transforment la nature de la gestion. Grâce à l'automatisation, de plus en plus d'entreprises peuvent travailler sans employer de travailleurs humains. La gestion axée sur les données intègre l'intuition et l'expérience avec les données et les expériences. La fluidité des ressources affecte les personnes les plus aptes à les exécuter à des tâches, qu'elles soient internes ou externes à l'organisation. 

Ensemble, ces trois forces aident les dirigeants à repenser leur façon d'organiser et de gérer le travail. Les tâches qui étaient autrefois considérées comme le domaine exclusif des personnes - telles que la gestion des demandes des clients, la conduite de véhicules ou la rédaction d'articles de journaux - peuvent désormais être effectuées par des machines. 

Les employés de tous les niveaux disposeront des informations dont ils ont besoin pour prendre des décisions et corriger leurs pratiques. Les ordinateurs peuvent diagnostiquer des situations et identifier des difficultés que les gens ne voient pas. 

Les informations en temps réel vous permettent de mener des expériences au lieu de deviner si cela pourrait fonctionner. Les employés peuvent s'organiser, obtenir le soutien d'experts internes et externes pour faire le travail. Et les entreprises peuvent gérer les besoins fluctuants en ressources grâce à l'externalisation, que ce soit par le biais de relations à long terme, de contrats horaires ou de travail à la pièce. 

La valorisation de la dimension numérique 

Ces forces sont, dans l'ensemble, positives. Ils aideront les gestionnaires à accroître la productivité, l'innovation et la satisfaction de la clientèle dans les années à venir. Mais ceux qui dirigent une entreprise traditionnelle doivent veiller à ne pas laisser de telles forces pousser l'approche de gestion à l'extrême. 

Dans leur conclusion logique, ces trois forces numériques peuvent transformer la gestion de la pire des manières. L'accélération du flux de ressources peut transformer tous les travailleurs en sous-traitants, payés uniquement lorsque l'entreprise en a besoin et contraints d'occuper mille emplois pour gagner un salaire. La gestion axée sur les données peut devenir Big Brother, évaluant l'action de chaque employé et conduisant à une embauche ou un licenciement rapide basé uniquement sur les chiffres. L'automatisation peut déplacer des travailleurs et augmenter régulièrement la pression sur ceux qui restent. Si elles ne sont pas maîtrisées, les trois forces numériques peuvent transformer la relation de travail en une transaction de marché froid - une approche logistique intéressante mais qui peut avoir des répercussions à long terme pour les travailleurs et les entreprises. 

Cette nouvelle vision du travail prend déjà forme dans certaines entreprises. Amazon.com Inc. applique une approche intensive axée sur les données à la gestion des personnes. Comme le rapportait le New York Times en 2015, il n'embauche que les meilleurs, les paie bien, les fait travailler dur et réduit régulièrement ses effectifs pour éliminer ceux qu'il juge les moins performants. Uber Technologies Inc. emploie un nombre relativement restreint de très bons employés à temps plein et embauche la majorité des chauffeurs par le biais de contrats qu'elle ajuste pour répondre aux changements de dernière minute de la demande du marché. Uber pilote désormais une flotte de véhicules sans conducteur. 

Vers un nouveau modèle de relations industrielles 

Lorsqu'on cherche à comprendre la rapidité de l'innovation numérique, il peut être tentant de voir dans les entreprises numériques natives une sorte d'archétype managérial à inspirer. 

Nous pouvons et devons certainement apprendre beaucoup de ces entreprises. Mais il est préférable de bien réfléchir avant d'adopter chaque technique de gestion de la Silicon Valley. La plupart des entreprises manquent de ressources pour attirer et rémunérer les meilleurs du secteur. 

Et de nombreux travailleurs très performants ne réussiraient pas dans un régime de travail basé sur les transactions, préférant plutôt se concentrer sur la sécurité ou un meilleur équilibre entre vie professionnelle et vie privée. Les entreprises traditionnelles, même dans les secteurs non technologiques ou dans des endroits moins exotiques, peuvent attirer des travailleurs formidables si elles offrent la bonne combinaison de salaire, de mission et de conditions de travail. 

Au-delà de la simple recherche d'employés, la question se pose de savoir si les contrats de travail de marché sont la meilleure forme de contrat social pour une entreprise traditionnelle. Ces pratiques, qui fonctionnent bien dans certaines entreprises à croissance rapide, peuvent s'avérer moins efficaces lorsque la croissance ralentit ou que des événements inattendus se produisent. 

Payer les gens uniquement pour le travail qu'ils font réduit les possibilités de stimuler l'innovation et la cohésion des employés. Et certainement de telles pratiques ne favorisent pas la loyauté. De nombreux chauffeurs Uber travaillent également pour des concurrents ; ce ne sont que des chauffeurs Uber jusqu'à ce qu'ils trouvent une meilleure offre. 

Amazon est l'une des entreprises les plus innovantes du secteur, mais est également connue pour son taux de rotation élevé. La loyauté aide les entreprises à s'en sortir lorsqu'elles ne peuvent pas se permettre des salaires exorbitants ; les employés travaillent dur et créent de l'innovation parce qu'ils croient en l'entreprise et en ses dirigeants. Et lorsque les temps sont durs, la loyauté est ce qui permet aux entreprises de garder les meilleures personnes. 

Il faut un cœur pour la dimension numérique 

Je crois fermement à la transformation digitale et je ne veux surtout pas décourager les entreprises qui entendent adopter des pratiques managériales enrichies par la dimension digitale. Mais lorsque vous construisez une vision pour l'avenir de l'entreprise, considérez les forces numériques comme des vitamines ou des médicaments. La bonne dose, prise de la bonne manière, peut produire des résultats étonnants. Mais l'abus, ou l'utilisation dans de mauvaises conditions, peut empoisonner. 

En bref, la transformation numérique a besoin d'un cœur. À l'ère de l'innovation numérique, les leaders de tous les secteurs doivent viser à transformer chaque partie de l'entreprise, de l'expérience client aux modèles commerciaux en passant par la gestion des opérations. Cependant, ils ne doivent pas oublier que les personnes sont les véritables moteurs d'une entreprise. 

La vision de la direction pour les cinq à dix prochaines années n'est pas de voir les employés comme des ressources contractuelles travaillant comme des machines sous une supervision constante. Il n'est pas nécessaire que ce soit un monde où l'automatisation écrase les travailleurs - et les managers - hors du système. 

Ce doit être un avenir où les ordinateurs aident les employés à collaborer de manière transparente, à prendre des décisions scientifiques et à améliorer la gestion grâce à l'automatisation. À long terme, les entreprises à la pointe du numérique qui ciblent le cœur et l'esprit des travailleurs surpasseront celles qui traitent les gens comme des machines. 

Extraits de la revue de gestion MIT Sloan, Innovation chromosomique. 20 visions du MIT pour comprendre comment la technologie réécrit la génétique des organisations, édition italienne, édité par Alberto Mattiello, Guerini/goWAre, en collaboration avec Confindustria Piccola Industria. (Disponible en librairies et boutiques en ligne en format papier et ebook). Livre 22,50 €, ebook 14,99 €. 

Passez en revue