Um künstliche Intelligenz (KI) ranken sich viele Mythen. Horrorgeschichten, die an Hollywood-Blockbuster erinnern, verbreiten sich rasant, werden nur selten hinterfragt und verstellen häufig den Blick auf eine sachliche Bewertung. Die Öffentlichkeit ist ein dankbarer Abnehmer – man gruselt sich halt gern.
Kürzlich stellte Blake Lemoine, ehemaliger Google-Forscher und eine schillernde Figur, die provokante These auf, die neue Google-KI LaMDA habe ein Bewusstsein entwickelt. Belege für diese Aussage lieferte er allerdings nicht. Lemoine veröffentlichte nur ausgewählte und redigierte Unterhaltungen mit LaMDA, in der die KI unter anderem erklärt, ein rührendes Märchen über eine Eule geschrieben zu haben, die sich für Tierrechte einsetzt.
Lemoine forderte einen Anwalt, der LaMDA vertritt, weil der Algorithmus eine Persönlichkeit habe, und – als wäre dies alles nicht schon genug – warnte ernsthaft, dass LaMDA fliehen und Böses tun könnte. Das reichte nicht, um seine Glaubwürdigkeit überall zu erschüttern. Viele Medien sehen ihn als Helden, der gegen Google antritt und dem deswegen – und nicht wegen seiner absurden Behauptung – gekündigt wurde.
Um Chancen und Risiken der KI seriös bewerten zu können, sollte die Funktionsweise grundsätzlich verstanden werden. Die verwendeten Algorithmen stammen heute meist aus dem maschinellen Lernen. Schon dieser Begriff trägt zur Entmystifizierung bei: Maschinelles Lernen bedeutet – vereinfacht ausgedrückt –, dass Algorithmen auf der Grundlage von Daten lernen.
Ein eingängiges Beispiel ist das Erkennen von Tieren auf Fotos, nachdem die Algorithmen zuvor mit Tausenden Tierfotos trainiert wurden. Die Algorithmen lernen also ähnlich wie Kinder, nur dass Kinder viel weniger Beispiele benötigen, um einen Hund von einer Katze unterscheiden zu können.
Werden die Algorithmen mit großen Datenmengen trainiert, können sie in präzise definierten Einsatzfeldern hervorragende Ergebnisse erzielen – aber nur dort. Diese Algorithmen sind also „Fachidioten“: Kein Sprachassistent würde auf die Idee kommen, auf einmal Schach spielen zu wollen; kein Algorithmus zur Krebsdiagnose wollte oder könnte autonom fahren.
Vor diesem Hintergrund lassen sich die Behauptungen von Lemoine einordnen. Google LaMDA basiert wie andere KI-Sprachmodelle auf riesigen Datenmengen und wurde mit vielen Dialogen trainiert. Damit kann die KI ähnlich wie Menschen schreiben. LaMDA besitzt aber kein Bewusstsein und plappert ähnlich wie ein Papagei nur nach, was ihr antrainiert wurde.
Das kann KI bereits besser
Kommen wir zu einer Bewertung der KI: KI kann helfen, bessere Entscheidungen zu treffen. In definierten Anwendungsgebieten wie dem Erkennen von Objekten und Bildern schneidet KI mittlerweile besser als Menschen ab. Dies kann beispielsweise bei der Diagnose von Krankheiten genutzt werden.
In Studien an der TU Darmstadt haben wir nachgewiesen, dass die Entscheidungsqualität besonders gut ist, wenn KI und Menschen mit unterschiedlichen Fähigkeiten im Team zusammenarbeiten. Zudem lassen sich mit KI Zeit sparen und Kosten senken. Beispiele sind Sprachassistenten oder automatisierte Prozesse in der Industrie.
Allerdings ist KI nicht kostenlos zu haben. Günstiger als die Eigenentwicklung ist für Unternehmen meist die Nutzung externer KI-Dienste, die zum Beispiel von Firmen wie Google, Microsoft, IBM oder Amazon angeboten werden. Darüber hinaus fallen laufende Kosten für die Nutzung von Cloud-Infrastrukturen an. Bis zu diesem Punkt gibt es keine so großen Unterschiede zwischen der Bewertung von KI und anderen digitalen Lösungen.
Allerdings müssen wir beim KI-Einsatz insbesondere zwei Risiken berücksichtigen. Zum einen sind viele KI-Algorithmen intransparent, können also häufig nicht erklären, warum sie zu bestimmten Ergebnissen kommen. Das mag in Anwendungsfällen wie der Qualitätskontrolle unerheblich sein.
Wenn wir aber an die Diagnose von Krankheiten denken, wird eine derartige Intransparenz nicht akzeptiert. Viele Informatiker weltweit erforschen die „Transparenz der KI“, und es gibt berechtigte Hoffnung, dass die KI ihre Ergebnisse künftig besser erklären kann.
Zum anderen ist zu berücksichtigen, dass der Einsatz der KI – ähnlich wie bei Menschen – zu diskriminierenden oder unfairen Ergebnissen führen kann. So hat Amazon eine KI zur Personalauswahl eingesetzt. Nach einiger Zeit wurde klar, dass der Algorithmus nur Männer vorschlägt und Frauen offensichtlich diskriminiert.
Dies lag jedoch nicht am Algorithmus, sondern an den Trainingsdaten. Werden die Algorithmen überwiegend mit Daten sehr gut ausgebildeter Männer und weniger gut ausgebildeter Frauen trainiert, erkennen sie möglicherweise ein Muster, das gar nicht existiert. Ebenso konnte ein Algorithmus von Google zur Gesichtserkennung nur Menschen mit weißer Hautfarbe erkennen.
Auch dies lag nicht an dem verwendeten Algorithmus, sondern an den Trainingsdaten, in denen nicht Menschen aller Hautfarben repräsentiert waren. In beiden Fällen war die Diskriminierung also „menschengemacht“; die Trainingsdaten spiegelten die Realität nicht wider.
Darüber hinaus werden weitere ethische Fragen diskutiert. Der „Klassiker“ ist die Frage, ob ein autonom fahrendes Auto, das einen Unfall nicht mehr vermeiden kann, ein Kind oder einen alten Menschen überfahren sollte. Über solche Fragen lässt sich endlos streiten. Obwohl eine Ethikkommission unter Leitung des ehemaligen Bundesverfassungsrichters Udo Di Fabio schon im Jahr 2017 im Auftrag der Bundesregierung die sinnvolle und pragmatische Empfehlung erarbeitet hat, nach der alle Menschen gleichzubehandeln sind, geht die Diskussion weiter.
Sachliche Aufklärung über KI ist wichtig
Die Leserinnen und Leser können sich ja einmal die Frage stellen, wie häufig sie als Auto- oder Radfahrer schon einmal vor der Entscheidung standen, entweder einen alten oder jungen Menschen zu überfahren. Aus praktischer Sicht kann ich mir kaum eine weniger relevante Fragestellung vorstellen. Relevante Fragen zielen dagegen eher auf die Qualität und Sicherheit des autonomen Fahrens ab.
Vor dem Hintergrund der wachsenden Bedeutung der Algorithmen für Gesellschaft und Wirtschaft wäre es sinnvoll, den Wissensstand der Menschen und insbesondere der Entscheidungsträger zu verbessern. Denn gute Entscheidungen basieren in der Regel auf Informationen und Wissen.
Ein Schritt könnte die Integration grundlegender Kompetenzen in die Schulausbildung und in Studiengänge unterschiedlicher Fächer sein. Ein verbesserter Wissensstand wäre eine Grundlage für eine sachliche und nicht emotionale Debatte über KI – ohne Angst und ohne Hype.
Denn zu häufig konzentriert sich die Politik auf die möglichen Schattenseiten der KI, wie aktuell auch der „AI Act“ der Europäischen Union mit seinem risikobasierten Ansatz zeigt. Dabei liefert KI unglaublich viele Chancen, zum Beispiel bei der Diagnose und Therapie von Krankheiten, der Entwicklung von Impfstoffen oder der Abwehr von Cyberattacken.
Wir müssen natürlich auch die oben diskutierten ethischen Aspekte berücksichtigen, aber wir sollten die richtigen Fragen stellen und uns nicht in Debatten über real nicht existierende Probleme verlieren oder unrealistische Dystopien diskutieren. KI beziehungsweise maschinelles Lernen sind laut dem führenden Stanford-Forscher Erik Brynjolfsson die wichtigsten Schlüsseltechnologien des 21. Jahrhunderts.
Insofern geht es bei der Diskussion über KI auch darum, welche Rolle deutsche oder europäische Unternehmen im Vergleich zu amerikanischen, chinesischen oder israelischen Anbietern künftig spielen werden. Eine sachliche Debatte und schnelles Handeln wären der richtige Schritt, um die Chancen der KI für Gesellschaft und Wirtschaft nutzen zu können und im Bereich der Digitalisierung und auf dem Zukunftsmarkt KI international nicht weiter zurückzufallen.
Der Deutsche KI-Preis 2022
Der von WELT verliehene Deutsche KI-Preis ist mit 35.000 Euro eine der höchstdotierten und bedeutendsten Auszeichnungen dieser Art in Europa. Vergeben wird er in den Kategorien „Innovation“ und „Anwendung“. Preisträger in diesem Jahr sind Wolfram Burgard, Professor für KI und Robotik sowie Gründungsvorsitzender des Departments Engineering an der TU Nürnberg, und das Berliner Unternehmen Ada, das eine weltweit führende klinische KI entwickelt hat und ihre Nutzung über eine App ermöglicht.
Darüber hinaus wird in diesem Jahr ein Sonderpreis verliehen für „KI-Start-ups in der Kreislaufwirtschaft“. Hier haben sich für das Pitch-Finale qualifiziert: PlanerAI, deren KI-Plattform Lebensmittelhersteller bei der Abfallvermeidung unterstützt, WasteAnt, das Systeme zur Mülltrennung und -wiederverwertung anbietet, sowie Twaice, das eine Batterieanalytik-Software für Elektroautos entwickelt hat.
„Alles auf Aktien“ ist der tägliche Börsen-Shot aus der WELT-Wirtschaftsredaktion. Jeden Morgen ab 7 Uhr mit unseren Finanzjournalisten. Für Börsenkenner und -einsteiger. Abonnieren Sie den Podcast bei Spotify, Apple Podcast, Amazon Music und Deezer. Oder direkt per RSS-Feed.
