Nobelpreis-Tagungen
Diskussion um KI und das Vertrauen in die Wissenschaft

In Lindau diskutierten Nobelpreis-Ausgezeichnete über KI. Welchen Einfluss hat diese Technik auf das Vertrauen in die Wissenschaft?

In der ersten Juliwoche fanden die 73. Lindauer Nobelpreisträger-Tagungen mit dem fachlichen Fokus auf der Physik statt. Ein besonders interessantes Podium widmete sich der Frage, wie im Zeitalter Künstlicher Intelligenz (KI) das Vertrauen in die Wissenschaft bewahrt werden kann. 

Wie vertrauenswürdig sind KI-Schlussfolgerungen, die in der Regel auf großen Datenbanken basieren? Dieses Vertrauen sei für die Forschenden ebenso wichtig wie für die breite Öffentlichkeit, wurde unter anderem von der Moderatorin konstatiert. 

Ausgehend von der Tatsache, dass KI in der Forschung in Form schneller und leistungsfähiger Werkzeuge beispielsweise bei der Analyse großer und komplexer Datensätze immer mehr Anwendung findet, stellte sich das Podium die Frage, inwieweit bisher geltende wissenschaftliche Prinzipien der Transparenz, der Reproduzierbarkeit und der Falsifizierbarkeit grundlegend überarbeitet werden müssten. 

KI als Assistent oder eigenständige Forschungseinheit 

Nobelpreisträger und Supernova-Spezialist Professor Brian Schmidt von der Australian National University stellte die Problematik heraus, dass viele wissenschaftlich arbeitende Hochschulangehörige KI nicht mehr länger als Hilfsmittel nutzten, sondern insbesondere die sogenannten großen Sprachmodelle (LLM) wie ChatGPT eigenständig arbeiten ließen, um deren Ergebnisse als die eigenen zu präsentieren. So würden sie selbst nicht mehr viel dabei lernen. 

Welches Maß an menschlicher Kontrolle brauchen wir, damit etwas als "Wissenschaft" bezeichnet werden kann? Nobelpreisträger Professor David J. Gross, Elementarteilchen-Experte von der University of California, Santa Barbara, machte klar, dass insbesondere LLMs wie ChatGPT so trainiert sind, dass sie aus der Analyse großer Datenmengen immer ein faktisch plausibel erscheinendes Ergebnis generieren. Allerdings seien diese Ergebnisse teils einfach erfunden und nicht valide, eine sogenannte Halluzination. Eine KI kenne kein Interesse für richtig oder falsch. 

Brauchen wir neue Werkzeuge, um zu verhindern, dass falsche KI-Ergebnisse als Grundlage für die Entscheidungsfindung in Regierung, Wirtschaft und Gesellschaft verwendet werden? Als Nachwuchswissenschaftler diskutierte Jaryd Ricardo Christie für den besonders vertrauenssensiblen Fachbereich Medizinphysik in der renommierten Runde. Er bezeichnete KI als „Blackbox“, da man sie nie komplett verstehe. Weder wie sie arbeite, noch wie fundiert oder vorurteilsfrei ihre Ergebnisse seien. Es sei besonders wichtig, die Ergebnisse einer KI zu überprüfen und Risiken derart zu minimieren, indem man der KI besonders valide Daten aus der praktischen Forschung für die Analyse zur Verfügung stelle. 

Vertrauen heutzutage schwer zu erarbeiten 

Für Nobelpreisträger Gross gibt es keine einfache Lösung, das Vertrauen der Öffentlichkeit in die Wissenschaft trotz der Nutzung von KI zu stärken. Es gebe seiner Meinung nach inzwischen zu viele Quellen für unseriöse alternative Fakten, die eine negative Wirkung auf die Vertrauensfähigkeit der Menschen hätten. Die breite Öffentlichkeit könne die echten Fakten nicht von falschen Fakten unterscheiden. Zudem könnten viele nicht mehr der Tatsache umgehen, dass Forschende bezüglich ihrer Erkenntnisse immer einen Rest Ungewissheit in sich tragen würden. 

Ist beispielsweise in den Naturwissenschaften eine breitere Interaktion mit anderen Disziplinen wie Ethik oder Kulturwissenschaften erforderlich? Professorin Donna Strickland von der University of Waterloo, die als dritte Frau überhaupt den Nobelpreis für Physik für ihre Arbeit im Bereich Laserphysik erhielt, zeigte sich in der Diskussionsrunde überzeugt, dass es grundsätzlich wichtig ist, dass ein interdisziplinärer Austausch stattfindet. 

Darüber hinaus sei es laut Strickland im Zeitalter von KI und schwindendem Vertrauen in die Wissenschaft maßgeblich, den Kontakt zu einem wissenschaftsfernen Publikum herzustellen. Dies sei beispielweise durch Kooperationen mit Theatern oder künstlerischen Events machbar, wo sich Forschende mit ihrer Arbeit präsentieren sollten. Während der Covid-19-Pandemie seien zu viele Menschen gestorben, weil sie wissenschaftliche Erkenntnisse abgelehnt und den Forschenden nicht vertraut hätten. Diesem Misstrauen müsse man aktiv entgegenwirken.

cva