Il Fall Tengai, die wir auch auf FIRSTonline ausführlich diskutiert haben, veranlasst uns, einige allgemeine Überlegungen zu unserem Verhältnis zu mit künstlicher Intelligenz ausgestatteten Werkzeugen anzustellen. Tengai kann in der Tat ein Paradigma für eine gesellschaftliche Nutzung künstlicher Intelligenz sein.
Es nimmt keine Arbeitsplätze weg, es verarmt keine Familie, es ist kein Instrument der sozialen Kontrolle, es funktioniert nicht für die chinesische Regierung. Kurz gesagt, es hat keine jener Komponenten, die in einer immer breiteren öffentlichen Meinung so viel Besorgnis in Bezug auf die Zukunftsangst hervorrufen.
Tengai ist zweifellos ein künstlicher Intelligenzdienst, der auf den sozial-relationalen Kontext angewendet wird. Es hilft, eine Aktivität besser auszuführen, die durch willkürliche Handlungen bedingt sein kann und unter diskriminierenden Einstellungen leidet. Das der Personalauswahl. Bei der Personalbeurteilung neigt Tengai dazu, objektiv zu sein und geht davon aus, dass der Verdienst, die Kompetenz, die Motivation und die Fähigkeit des Kandidaten, die ihm obliegende Aufgabe zu erfüllen, die einzigen Parameter seiner Arbeit sind.
Es ist nicht ganz falsch zu sagen, dass Technologie neutral aus der Arbeit von Wissenschaftlern, Erfindern und Forschungsteams geboren werden kann, aber wenn sie auf den tierischen Geist des Marktes trifft, neigt diese Neutralität dazu, sich wie ein großer Fluss in einem sumpfigen Delta zu trennen. Im Fall von Tengai scheint diese für diese Art von Ökosystem typische Entwicklung im Moment noch weit entfernt zu sein. Wir sind immer noch im Guten.
Von der Science-Fiction zur Realität
Bis vor kurzem war ein Automat, der ein Vorstellungsgespräch führt, ein Thema, das der Science-Fiction vorbehalten war. Heute ist es mit Tengai Wirklichkeit geworden. Wir haben bereits ausführlich über Furhats Roboter diskutiert, dennoch ist es an der Zeit, uns konkret zu fragen, wozu Tengai berufen ist und welche Rolle er im Auswahlverfahren spielen wird.
(Alle folgenden Zitate stammen, sofern nicht anders angegeben, von der Website www.tengai-unbiased.com)
TNG bewirbt seine Rekrutierungslösung wie folgt:
Tengai Select bietet Kunden eine qualitativ hochwertige Kandidatenauswahl durch Roboter-Blindinterviews, datengesteuerte Interviewanalyse [Datum-angetrieben] und die Transkripte der Interviews. Tengai Select trägt auch dazu bei, das Bewerbererlebnis zu verbessern, indem es eine glaubwürdigere Marke für Arbeitgeber darstellt und zeit- und kosteneffizient ist. Der Interviewroboter wird im Rahmen der ersten Interviewphase integriert und führt Blindinterviews durch, wodurch alle Kandidaten die gleichen kompetenzbasierten Fragen und Behandlungen erhalten. Außerdem können mehr Kandidaten interviewt werden, und alle Interviews werden transkribiert.
Die Interaktion
Tengais erstes Ziel ist es, eine gewisse Empathie mit dem Kandidaten aufzubauen.
Der Automat von Furhat wird daher in der Anfangsphase der Interviews, dem Screening auf der Grundlage von Fähigkeiten, verwendet. Die Kandidaten haben wahrscheinlich bereits eine Vorauswahl bestanden, insbesondere wenn es um wichtige Zahlen geht. Die Interviews, an denen Tengai beteiligt sein wird, zielen daher darauf ab, die Fähigkeiten der Kandidaten für eine bestimmte Stelle zu ermitteln. Eine Aufgabe in gewisser Weise Routine, aber nicht trivial.
Gabriel Skantze, Professor an der KTH Stockholm und leitender Wissenschaftler des Tengai-Projekts bei Furhat Robotics, erklärt:
Tengai unterstützt Personalvermittler und führt Interviews mit Kandidaten durch, um ihre Fähigkeiten und Kompetenzen basierend auf den Stellenanforderungen und dem Profil zu beurteilen.
Er betont weiter, dass sich die Arbeit des Roboters letztlich nicht wesentlich von der eines Menschen unterscheiden wird: „Der Roboter wird das Vorstellungsgespräch ganz ähnlich wie ein menschlicher Recruiter führen, indem er kompetenzbasierte Fragen stellt.“
Und hier liegt die Besonderheit von Tengai, nämlich in der Fähigkeit des Roboters, die Person vor ihm hervorzurufen, zu wecken und möglicherweise eine empathische Beziehung zu ihm aufzubauen: «Der Roboter wird Feedback (nicken, lächeln und "mhm" sagen) zurückgeben, der Reihe nach um den Kandidaten zu ausführlichen Antworten zu animieren“, so Skantze weiter. Tengai wird mit dem Kandidaten ins Gespräch kommen und gegebenenfalls auch eine vertiefende Diskussion anregen: «Falls die Antwort zu vage ist, könnte der Roboter den Kandidaten zum Beispiel bitten, konkretere Beispiele zu nennen».
Abschließend folgert der Chefwissenschaftler von Furhat:
Nach dem Interview präsentiert der Roboter eine Zusammenfassung des Interviews und einige objektive Empfehlungen (Ziel), damit ein Mensch über den Kandidaten entscheidet.
Unberechenbarkeit und Unbestimmtheit
Tengai unterscheidet sich stark von Sprachassistenten wie Siri, da Tengai versucht, auch unerwartete Situationen zu verarbeiten.
Gerade der umgangssprachliche Charakter der Tengai anvertrauten Aufgabe und die ausgeprägte Interaktion, zu der er berufen ist, setzen ihn aus, mit unvorhersehbaren Situationen und Ereignissen umgehen zu müssen. Dies wird in viel größerem Umfang geschehen als bei anderen Geräten, mit denen wir derzeit kommunizieren (man denke zum Beispiel an die persönlichen Assistenten der verschiedenen digitalen Geräte oder sogar an das GPS-Navigationssystem), wo das Gespräch meist auf ein gut umschriebenes beschränkt bleibt Umfang.
Gabriel Skantze erklärt den Unterschied:
Im Fall von Siri stellt der menschliche Benutzer eine Frage und Siri sucht nach relevanten Informationen und präsentiert sie auf unterhaltsame und soziale Weise. Zum Im Moment scheint Siri jedoch einfacher zu programmieren als Tengai. Unsere Aufgabe ist wesentlich komplexer. In unserem Fall müssen wir ein erworbenes menschliches Verhalten auf einen Roboter übertragen, der genau null Erfahrung mit menschlicher sozialer Interaktion hat.
Letzterer weist darauf hin, dass die Führung eines Vorstellungsgesprächs weitaus anspruchsvoller ist und zwangsläufig a priori undefinierbare Szenarien hervorruft. Um diese Ungewissheit anzugehen und zu bewältigen, wird die Vorhersagenatur der neuesten Generation künstlicher Intelligenz genutzt und wir setzen tatsächlich auf maschinelles Lernen:
Für diesen Zweck, Tengai wird mithilfe von maschinellem Lernen entwickelt, was bedeutet, dass wir Daten aus von Menschen geführten Interviews sammeln, bei denen das Potenzial für Bias so gering wie möglich ist, und das System dann trainieren, um das Gesprächsverhalten des menschlichen Personalvermittlers zu replizieren.
Die Mehrdeutigkeit
Sprache kann für eine nicht-biologische Intelligenz sehr mehrdeutig sein.
Tengai muss sich täglich mit Unbestimmtheit auseinandersetzen und ständig mit Mehrdeutigkeit kämpfen. Tatsächlich besteht eine der anspruchsvollsten Herausforderungen, die der Automat bewältigen muss, gerade in der Mehrdeutigkeit. Diejenige, die die Sprache und ihre unzähligen Facetten betrifft, und diejenige, die dem Verständnis der vielfältigen Codes innewohnt, die wir zur Kommunikation verwenden.
Sinisa Strbac, Projektleiterin und Robotertrainerin des Tengai-Projekts, kennt es gut:
Wir haben uns viel Mühe gegeben, die Fragen zu analysieren, die der Roboter stellen soll. Es hat sich als sehr wichtig herausgestellt, dass die Fragen so klar und konkret wie möglich sind. Tengai kämpft mit Mehrdeutigkeiten, je weniger vage die Antwort eines Kandidaten ist, desto besser Tengai bei der Bewertung und Validierung des Kompetenzmixes.
Der Roboter folgt wie menschliche Personalvermittler einem konsolidierten Muster von Fragen innerhalb eines verifizierten Kompetenzrahmens (verified Kompetenz Rahmen), den Bewerbern vorzulegen. Trotzdem muss die KI in der Lage sein, die Antworten des letzteren vollständig zu verstehen, um zu entscheiden, in welche Richtung das Interview fortgesetzt werden soll.
Es erkennt immer noch Strbac
Die Antwort eines Kandidaten kann jede erdenkliche Situation beschreiben, auf vielfältige Weise und mit individueller Wortwahl angesprochen werden. Der Roboter muss diese Informationen verstehen und analysieren und dann entscheiden, welche Zusatzfrage relevanter ist.
Um das Interview in voller Autonomie führen zu können, wurde Tengai mit den allerneuesten Errungenschaften in Sachen KI, dem Stand der Technik im Bereich der Spracherkennung, dem Verstehen natürlicher Sprache und der der Sprache zugrunde liegenden Bedeutung ausgestattet. Dadurch kann der Roboter eine beträchtliche Menge an Informationen sammeln und gewinnbringend verarbeiten, indem er sich mit seinem Gesprächspartner unterhält:
Bei der Rekrutierung wird besonderes Augenmerk auf das Bereitstellen und Sammeln von Informationen gelegt. Und das gilt auch für Tengai. Es informiert in Form eines Dialogs über das [Bewerbungs-] Vorstellungsgespräch, wie es ablaufen wird und sammelt schließlich die Antworten. Da es Informationen erfasst, versteht es, was der Kandidat sagt, unabhängig von der Anzahl der verwendeten Wörter und Sätze. Also ja, es kann mit offenen Fragen und unbestimmten Antworten umgehen.
Nichtsdestotrotz erweisen sich die Unbekannten, wenn es um Sprache und menschliche Interaktion geht, als unzählbar. Eventuelle Fehler oder Missverständnisse könnten sogar die begehrte Objektivität der Maschine beeinträchtigen. Dessen ist sich Gabriel Skantze bewusst:
Es besteht möglicherweise das Risiko, dass die Spracherkennung (die Sprache in Wörter übersetzt) bei Sprechern mit ausländischem Akzent oder bei einem bestimmten Geschlecht nicht funktioniert. Dies könnte möglicherweise das Ergebnis des Interviews beeinflussen.
Daten und Training
Tengai wurde entwickelt, um Daten mit einer Methode namens "Der Zauberer von Oz" zu erfassen. Diese Methode legt die Steuerung des Prozesses in die Hände einer Person.
Um Tengai effizient zu machen, sind die im Maschinentrainingsprozess verwendeten Daten vor und sogar über das Training hinaus von grundlegender Bedeutung.
Gabriel Skantze erklärt, wie die Daten erstmals erhoben wurden. Es ist eine Methode, die unter dem Namen „Der Zauberer von OZ“, die die Kontrolle über den Roboter einem Menschen überlässt, obwohl diejenigen, die mit der Maschine interagieren, sich dessen nicht bewusst sind.
Tengai Es wurde zunächst von einem menschlichen Personalvermittler überwacht, der in einem anderen Raum saß und das Verhalten des Roboters auslöste, wodurch wir die Interviewdaten zwischen Mensch und Roboter aufzeichnen konnten. Diese Daten werden nun verwendet, um zwei unterschiedliche Modelle zu entwickeln: eines, das das Verhalten des Magiers während des Interviews nachbilden kann, und eines, das die Auswertung der Interviews im Anschluss vornehmen kann.
Die Diversität, betont Skantze, betraf auch diejenigen, die zeitweise die Kontrolle über Tengai übernahmen, um Vorurteile jeglicher Art zu vermeiden, auch wenn sie unbewusst waren: „[Tengai] lernt von verschiedenen Anwerbern, um sich nicht das für einen spezifische Verhalten anzueignen individueller Personalvermittler“.
Die Vielfalt, diesmal des Roboters im Vergleich zum menschlichen Pendant, drückt sich auch in Bezug auf die akribische Kontrolle aus, die über das Verhalten des Automaten ausgeübt werden kann: «Im Gegensatz zu einem menschlichen Personalvermittler können wir das Verhalten des Roboters im Detail steuern, herunter zu den Mikrobewegungen der Mundwinkel“, bemerkt Skantze.
Die Phase der Datenerfassung und Maschinenschulung dauerte Monate und zählte darüber hinaus zweihundert Interviews mit Freiwilligen, die als Versuchskaninchen angeboten werden.
Alle Mimik, Geräusche und Gesichtsausdrücke wurden durch das Studieren und Filmen mehrerer hundert Interviews mit verschiedenen Personalvermittlern entwickelt, um so eine Interaktion zu schaffen, in der sich Arbeitssuchende sicher und wohl fühlen, für ein reibungsloseres Bewerbererlebnis. unkompliziert und avantgardistisch.
Vergessen wir nicht, dass die Besonderheit von Tengai in der Fähigkeit des Automaten liegt, vollständig mit seinem Gesprächspartner zu interagieren.
Begrüßung
Wie Minority Report etwas vorwegnahm, was aus Science-Fiction Realität werden würde, also Die von ihr verfassten Bücher/Sie, Spike Jonzes Film mit Joaquin Phoenix in der Hauptrolle, nimmt ein weiteres, nicht weit entferntes Aufkommen vorweg. Tengai ist vielleicht schon etwas Ankündigendes Die von ihr verfassten Bücher.
Vor einem Roboter zu sitzen und sich mit ihm zu unterhalten, ist (noch) ein Erlebnis der besonderen Art. Dies gilt umso mehr, wenn der Einsatz wichtig ist, wie beispielsweise die Suche nach einem Job. Ein Zustand, der schon vor und unabhängig vom Auto für Stress und Anspannung sorgt.
Strbac erkennen:
Wir bitten unsere Kandidaten, sich in eine besonders ungewöhnliche Situation zu versetzen: in einem Raum mit nur einem Roboter zu sitzen und sich zu unterhalten. Eine Frage gestellt bekommen, sie so gut wie möglich beantworten und dann weitermachen.
Die Reaktionen sind natürlich die unterschiedlichsten und von Individuum zu Individuum unterschiedlich. Beobachten Sie Tengais Robotertrainer.
Manche Menschen sind zunächst skeptisch, sind aber überrascht, wie natürlich es ist Tengai übernimmt das Gespräch. Andere bleiben auch nach dem Interview skeptisch, da sie hohe Erwartungen an die Fähigkeit des Roboters haben, menschliche Einstellungen nachzuahmen und natürlich zu sprechen Tengai er kann es noch nicht perfekt, auch wenn er unterwegs ist. Er ist sozial, aber nicht wie ein Mensch.
Dann gibt es andere, die das Konzept befürworten, aber vor dem Vorstellungsgespräch nervös werden. Schließlich werden sie aufgefordert, vor einer Maschine aufzutreten, die ihre Bewegungen verfolgt und ihre Antworten aufzeichnet.
Strbac fährt fort
Daran ist wirklich nichts Seltsames; Menschen tun dasselbe. Aber ihr Gefühl [der Kandidaten] ist, dass der Roboter viel mehr als ein Mensch ist. Es „zeichnet buchstäblich meine Antworten auf!“ Es ist der Kommentar, den sie machen."
Akzeptanz
Wie im legendären Mechanical Turk ist das Interview eine Art Schachspiel mit der Maschine.
Tatsächlich gibt es einige Unterschiede. Es liegt vielleicht sowohl in der menschlichen Psychologie als auch in der tiefgreifenden und facettenreichen Analysefähigkeit, die die KI inzwischen erreicht hat. Der Automat wird, zu Recht oder zu Unrecht, im Vergleich zu einem Menschen als ein viel schwierigeres Subjekt wahrgenommen, das man täuschen oder, wenn man will, überzeugen und "regieren" kann. Angesichts der Maschine fehlen viele Gewissheiten.
Nicht zuletzt das Vertrauen, das manche in die eigene Fähigkeit setzen, gegenüber dem Gesprächspartner Recht zu haben oder ihn zumindest umgarnen zu können. Die Maschine ist emotionslos und die emotionale Komponente ist ein mächtiger Hebel, den man in zwischenmenschlichen Beziehungen einsetzen kann. Mit dem Roboter wird das Spiel auf einer ganz anderen Ebene gespielt.
Darüber hinaus verfügt die künstliche Intelligenz mittlerweile über analytische Qualitäten, die einzeln betrachtet die Fähigkeiten eines Menschen bei weitem übersteigen. Darüber hinaus gelten diese für so viele Aspekte und so detailliert, dass ein Einzelner sie kaum in der Gesamtheit erfassen und bewerten könnte.
Ganz zu schweigen von der anerkannten Leistungsfähigkeit der Maschinen, wo alles akribisch und unerbittlich protokolliert wird … Diese Vorrechte sind erschreckend: «Manche Menschen können sich ein bisschen wie überwacht und überwacht fühlen fühlen sich daher übermäßig unbehaglich".
Obwohl das Feedback, dass TNG sagt während der Entwicklung von Tengai insgesamt mehr als positiv aufgenommen wird, muss gesagt werden, dass es eine Sache ist, ein Versuchskaninchen in einem Experiment zu sein, vielleicht sogar ein einzelnes, es eine ganz andere ist, seine Zukunft aufs Spiel zu setzen. Die Rolle des Kandidaten zu spielen und die Last zu tragen, könnte sich als etwas ganz anderes herausstellen: "Am Ende des Tages sitzen sie da und führen ein komplexes Gespräch mit einem Computer, das letztendlich Auswirkungen auf das reale Leben hat."
Strbac ist optimistisch und vertraut auf die Qualitäten von Tengai:
Andererseits sind die meisten Menschen von der Natürlichkeit der Diskussion überrascht; Je länger das Interview dauert, desto weniger denken sie darüber nach, dass sie mit einem Roboter sprechen. Es wird nur ein weiterer Bestandteil des Interviews.
unheimlich Tal
Laut dem japanischen Wissenschaftler Masahiro Mori wächst das Vertrauen in Roboter, je mehr menschliche Züge sie annehmen.
Letztlich muss der Automat vom Gesprächspartner akzeptiert werden. Und zwar nicht nur von einigen, sondern von allen, unabhängig von der Psychologie, Sensibilität und den Ideen des betreffenden Themas. Joe Mendelson, Head of Interaction bei Furhat, bringt es direkt auf den Punkt: «Die Menschen werden Roboter in diesen neuen Arten von Rollen in der Gesellschaft (Interviewer in einem Vorstellungsgespräch) akzeptieren, die über Unterhaltung oder sogar Information hinausgehen, innerhalb des etwas ernsteren Bereichs von Arbeitssuche?"
Dann fährt er fort:
Das wird für einige Leute ein ziemlicher Sprung sein – also hoffe ich zu lernen, zu verstehen, wie verschiedene Arten von Menschen über diese Art von Interaktion denken.
Die Reaktionen auf Furhats Roboter waren nicht einheitlich. Joel Cheesman, amerikanischer Podcaster, definierte es vor einiger Zeit "gruselig“ (gruselig, gruselig). Letzteres hat dann tatsächlich incontrato Tengai auf der Tatech Europe 2019 und die Wahrnehmung hat sich teilweise verändert, sie bewegt sich leicht in Richtung „cool“ (cool). Wie damals bekannt wurde, sprechen sich nach einigen hundert Interviews in der Testphase 3/4 der Kandidaten für ein Wiedersehen mit Tengai aus. Ein ausgesprochen hoher Prozentsatz!
Wenn Sie mit einem Roboter interagieren, und insbesondere mit einem (anthropomorphen) Roboter, der menschliche Einstellungen und Verhaltensweisen imitiert, wird die Frage erheblich komplexer. Im Moment haben Wissenschaftler noch nicht die Zauberformel gefunden, die es erlaubt, dass Automaten von ihren Kollegen aus Fleisch und Blut nicht als Fremdkörper wahrgenommen werden. Es ist ein teilweise immer noch umstrittenes Phänomen, das dazu führt, dass die Maschine beim Menschen ein Gefühl von Ärger und Unbehagen erzeugt, das dann zu einer entschiedenen Ablehnung führen kann.
In solchen Fällen sprechen wir von unheimliches Tal. Es ist eine Hypothese, die von dem japanischen Wissenschaftler formuliert wurde Masahiro Mori 1970 noch nicht allgemein anerkannt. Die Akzeptanz und das Wohlgefühl gegenüber anthropomorphen Geräten und Automaten wachsen laut Mori umso mehr, je ähnlicher sie dem Menschen sind. Allerdings bis zu einer gewissen Grenze. Jenseits dieser Schwelle erzeugt übermäßiger Realismus unangenehme Empfindungen, verursacht Unbehagen und kann zu Ablehnung führen.
Der Fehler von Tengai
Als Akzeptanz tendiert Tengai dazu, auf die Ebene von IBM Project Debater zu fallen, dem KI-System, das in der Lage ist, eine Debatte über eine beeindruckende Anzahl von Themen zu führen
So geschehen wahrscheinlich in Edinburgh mit dem Roboter Fabio, angeheuert von der (sehr italienischen) Supermarktkette Margiotta Essen & Wein. Fabio stellte ein Experiment dar, das in Zusammenarbeit mit dem gefördert wurde Heriot-Watt-Universität von Edinburgh, aus der Serie BBCs Six Robots & US.
„Fabio hat leider nicht so funktioniert, wie wir es uns erhofft hatten“, stellte Luisa Margiotta klar. «Die Leistung war nicht das, was erwartet wurde, die Leute haben es vermieden, es hat die Kunden erschreckt». Der Automat wurde daher gefeuert.
Ähnliche Empfindungen scheint es auch bei seinem Debüt gegeben zu haben Englischer KI-Anker, das Hologramm, das aus der Zusammenarbeit zwischen entsteht Xinhua, Chinas staatliche Nachrichtenagentur e Sogou. Für die meisten schien es "roboterhaft", aber es gibt auch diejenigen, die es "ein bisschen schrecklich" nannten, während jemand Ritenuto "sehr gruselig".
Und vielleicht ist auch das Unbehagen von auf dasselbe Phänomen zurückzuführen Dieter Böhn in Richtung derIBM Projektdebattierer, anlässlich der Präsentation des neuesten IBM-Wunders, die im Sommer 2018 in San Francisco stattfand:
Ehrlich gesagt war mir etwas mulmig zumute, aber nicht wegen der üblichen Sorgen wie „Roboter werden selbstbewusst und übernehmen“ oder „KI kommt [um] unsere Jobs zu stehlen“. Es war etwas subtileres und schwieriger zu fassendes. Vielleicht zum ersten Mal hatte ich das Gefühl, als würde eine KI versuchen, sich zu tarnen. Ich habe weder gesehen, wie sie gelogen hat, noch glaube ich, dass sie versucht hat, uns zu täuschen, aber sie hat eine Diskussionstaktik angewandt, die besagt, dass Sie, wenn Sie gesehen hätten, dass sie von einem Menschen versucht wurde, etwas weniger Vertrauen in diesen Menschen gesetzt hätten. Aus kognitiver Sicht war es ein etwas dissonanter Moment. Wie gesagt, gruselig.
Die Akzeptanz wird nur eine der vielen Prüfungen sein, die Furhats Roboter bestehen muss. Die Tatsache, dass es sich um ein innovatives Experiment im Bereich der künstlichen Intelligenz handelt, sowie die besondere Berufung des Automaten zur Interaktion stellen in der Tat mehrere Herausforderungen dar, an denen sich Tengai und die Projektmitglieder messen müssen.
Einige der signifikantesten Vergleiche werden als algorithmische Verzerrung bezeichnet; Blackbox und erklärbare KI; Rechenschaftspflicht und Prüfung sowie nicht zuletzt, dass sich die viel gepriesene und angestrebte Fairness wirklich als fair erweist und nicht nur wenigen, sondern allen zugute kommt. Das werden die Themen sein, die wir in naher Zukunft angehen werden.
