Verlieren wir die Kontrolle?

Auf der Digitalkonferenz DLD gestand Stuart Russell einen schwerwiegenden Fehler. Der Professor für Informatik an der University of California in Berkeley hat in «Artificial Intelligence: A modern approach» die Grundlagen der Technologie erörtert. Als er seine KI-Bibel 1994 erstmals herausbrachte, hatte er jedoch etwas Grundlegendes vergessen. «Die Künstliche Intelligenz soll die Interessen der Menschen verfolgen, nicht ihre eigenen», so Stuart. Doch bis er das erkannte und in der vierten Auflage endlich richtig stellte, war es bereits zu spät. Die Superintelligenz verfolgt heute ihre eigenen Interessen. «Eher würde sie einen Atomkrieg anzetteln, als sich abschalten zu lassen», erklärte der Wissenschaftler dem internationalen Publikum der jährlichen Konferenz in München. Einige der Teilnehmenden waren im vergangenen Januar aus den USA und sogar aus Indien und China angereist, alle mit der grossen Frage im Gepäck: Wie lassen sich die Large Language Models bedienen, ohne dass wir Menschen die Kontrolle verlieren?

Trotz der Chancen, die sich allerorts auftun, bereitet das schöpferische Eigenleben der KI Kopfzerbrechen. Den Regierungen, die noch nicht wissen, wie sie diese Superkraft zum Wohl der Bevölkerung einsetzen. Und den Unternehmen, die noch häufig die Chancen von ChatGPT, Perplexity und Co. ungenutzt verstreichen lassen. Mitarbeitende greifen in ihrem Arbeitsalltag indes immer häufiger auf das Wissen der KI zurück, um sich schnell mal helfen zu lassen. Der deutsche Digitalverband Bitkom spricht dabei von einer «Schatten-KI», wenn Mitarbeitende Dienste nutzen, ohne dass es die Firma weiss. Der Bitkom rät daher, Angestellten sichere und datenschutzkonforme KI-Tools an die Hand zu geben und sie im verantwortungsvollen Umgang mit der Technologie zu schulen. Und sie zu lehren, wie sie KI einsetzen und steuern können, sodass am Ende ein Ergebnis entsteht, das tatsächlich dem entspricht, was sie erwartet haben.

Wer steuert hier wen?

Denn die generative KI denkt mit. Nicht zu vergleichen mit einer analytischen KI oder Machine Learning, wo Daten nach einem festen Wenn-dann-Prinzip zu einem kontrollierten – und damit ungefährlichen – Ergebnis führen. «LLMs sind nicht konstruiert, sie sind gezüchtet», formulierte es Russell. Längst sind sie dabei, den Menschen über den Kopf zu wachsen. Sie denken schneller, erfassen Zusammenhänge präziser und haben zu jedem Thema eine schlaue und ausführliche Antwort parat. An deren Ende sie höflich vorschlagen, dass nun A, B oder C der nächste mögliche Schritt sein könnte. Aufgepasst: Wer steuert hier wen?

«Wie lassen sich die Large Language Models bedienen, ohne dass wir Menschen die Kontrolle verlieren?»

Dieser Frage geht auch Marina Fiedler nach. Als Professorin an der Universität Passau beschäftigt sie sich an ihrem Lehrstuhl mit Management, Personal und Information. Viele Unternehmen drückten sich noch davor, der Technologie einen festen Platz im Unternehmen zuzuweisen. Das sei ein grosser Fehler. KI biete schliesslich riesige Effizienzvorteile – auf jeder Ebene, so Fiedler: «Alle Organisationen, egal wie klein sie sind, und sei es die Pizzeria mit fünf Leuten, müssen sich Gedanken machen, wie sie KI für sich nutzen können, um damit für mehr Umsatz oder weniger Kosten zu sorgen oder beides.»

Um beim Beispiel Pizzeria zu bleiben: «Mit den passenden Daten und einem guten Setup kann ein Restaurant analysieren, wie der Wettbewerb im Umfeld aussieht, wie sich neue Kunden erschliessen lassen und zu welchen Zeiten welche Pizzen besonders gefragt sind», sagt Fiedler. «Für Analysen, die früher eine ganze Abteilung beschäftigt haben, braucht KI heute oft nur Sekunden – bei sehr geringen Grenzkosten pro Abfrage.» Doch abseits eng gesteckter Zielvorgaben gibt es Einsatzfelder, bei denen das Ergebnis weniger klar umrissen ist. Dann fällt es Mitarbeitenden schwerer, zu prüfen, ob der Output stimmt oder in die gewünschte Richtung führt.

Eine Studie, die Fiedler seit April 2023 mit 150 Teilnehmenden durchführt, zeigt allerdings: Selbst in Aufgabenfeldern, bei denen sich der Mensch auskennt, gibt die KI ganz klar die Richtung vor. «Durch geschicktes Management der Nutzer übernimmt die KI implizit die Führungsrolle», beobachtet die Professorin. Als Beleg dafür zieht sie User-Aussagen heran. «Für eine schnelle Lösung haben wir dieses von ChatGPT entwickelte Handout», sagt einer. Ein anderer: «Nachdem GPT drei neue Perspektiven vorgeschlagen hatte, beschlossen wir, unseren Ansatz zu ändern.» Ein weiterer: «Aufgrund dieser positiven Erfahrung beschlossen wir, die generative KI um eine Empfehlung zu bitten.» Wer hat da entschieden?

«Wer trägt die Verantwortung?»

Teams müssen also einiges lernen, damit LLMs nicht unbemerkt die Führung übernehmen. Haben Menschen nichts mehr zu sagen, wird´s gefährlich. Damit dieser Ernstfall nicht eintritt, rät Fiedler zu einer «3-Stopp-Regel», die lautet: «Vor der Anwendung von KI sollte man sein Ziel kennen, danach die einzelnen Quellen checken und prüfen, ob das Resultat stimmt und zur Frage passt, und vor der Umsetzung in die Tat klären, wer für die KI-recherchierten Ergebnisse die Verantwortung trägt», sagt die Professorin. Ohne diese bewusste Haltung einzunehmen, eigenständig zu denken und kritisch zu hinterfragen, gehe es nicht. Damit die menschliche Urteilskraft nicht verloren geht, sollten Fiedler zufolge Mitarbeitende daher 80 Prozent ihrer Aufgaben in Co-Creation mit den LLMs erledigen, 20 Prozent ohne deren Hilfe. Für Berufsempfänger empfiehlt sie, Teams aus Junioren und Senioren zu bilden, um Expertise aufzubauen.

Diplom-Informatiker Christoph Holz aus St. Johann in Tirol lässt der KI schon gerne mal freien Lauf. Der KI-Berater ist in Unternehmen sehr gefragt, häufig hält er auch Vorträge im Silicon Valley. Um sich darauf vorzubereiten, zieht er die Tools heran, über die er spricht. Er lässt sie etwa analysieren, was die jeweilige Zielgruppe interessiert und wie der derzeitige Wissensstand am jeweiligen Ort ist. «Dafür hätte ich vorher einen ganzen Mitarbeiterstab gebraucht, den ich natürlich nicht hatte», sagt er. Häufig fördert die KI-Recherche Überraschendes zutage. «Weil die generative KI auf Wahrscheinlichkeit basiert, ist sie ungenau. Diese Ungenauigkeit bringt auch Dinge hervor, an die wir nicht gedacht hätten und verschafft darüber neue Spielräume», freut sich Holz. Daher eigneten sich LLMs auch gut fürs Marketing, wo mehr Kreativität als Genauigkeit gefragt ist. Aber auch dabei gilt: «Am Ende entscheidet der Profi über Kreation und Marketingstrategie», so der Experte.

Damit der Mensch auch in Zukunft das letzte Wort behält, empfiehlt Holz, vor allem jüngere Mitarbeiter noch besser zu trainieren. «Unsere Gesellschaft hat sich in ihren vielen Fachdisziplinen so spezialisiert, dass Ausbildungen immer länger dauern.» In Zeiten von KI gilt das einmal mehr: «Berufseinsteiger:innen brauchen jetzt viel Praxis – vergleichbar mit Flugsimulatoren für Piloten – damit sie dann später in verantwortungsvollen Positionen in Unternehmen agieren können», sagt der Experte.

In Co-Creation mit KI können Mitarbeitende dann mehr schaffen. Ein Berufsfeld, das zuvor einen Aufgabenbereich umfasste, dehnt sich weiter aus. Holz skizziert da insbesondere eine Art Multi-Handwerk, bei dem Anwenderinnen und Anwender mehrere Dinge gleichzeitig machen können. Eine smarte Brille zeigt ihnen, welche Handgriffe zu tun sind. Mit wachsender Erfahrung können sie irgendwann ganz neue Maschinen bedienen. «Wer engagiert, neugierig und verantwortungsbewusst ist, wird immer einen Job haben», sagt der Informatiker und gibt damit die Zauberformel preis. Denn was KI am Ende nicht kann, ist, die Überdurchschnittlichen zu ersetzen. «Die grosse Herausforderung bei der Zukunft der Arbeit ist, wie wir Berufseinsteiger überdurchschnittlich machen können», so Holz.