Unternehmertum
"Wir können die KI an die Uni anpassen"
Er gehört im Forschungsbereich maschinelles Lernen zu den meistzitierten Experten und hatte bereits eine Professur in der Tasche. Warum hat es ihn dennoch ins Unternehmertum gezogen? Der KI-Pioniergeist Dr. Richard Socher erzählt von seinen ersten wissenschaftlichen Publikationen, schlechten Reviews und der Faszination einer Firmengründung.
Forschung & Lehre: Herr Dr. Socher, Sie haben in Deutschland und den USA studiert. Welchen Einfluss hatten diese länderübergreifenden Studienerfahrungen auf Ihren Werdegang?
Richard Socher: Einen riesig großen. Während des Studiums der linguistischen Informatik in Dresden habe ich mich immer mehr für die theoretischen Aspekte der Informatik und Linguistik interessiert und weniger für Software-Engineering oder objektorientiertes Programmieren. Stattdessen begeisterten mich die mengentheoretischen algebraischen Grundlagen, Logik und Statistik. Im Masterstudium am Max-Planck-Institut in Saarbrücken habe ich mich dann in statistisches maschinelles Lernen verliebt. So nannten wir damals noch die KI.
Das waren die ersten Momente, in denen ich festgestellt habe, dass ich das eigentlich auf alles in der Welt anwenden kann. Ich habe mich entschlossen, den Doktor zu machen, weil ich danach noch alles andere, aber auch Professor werden könnte. Die Idee war, wenn ich die KI weiterentwickle, dann könnte ich vielleicht mehr positiven Einfluss auf die Welt haben, als wenn ich zehn Fremdsprachen beherrsche.
F&L: Würden Sie sagen, dass speziell das Thema Ihrer Doktorarbeit zur Sprachverarbeitung einen großen Einfluss auf die Richtung hatte, die Sie letztlich eingeschlagen haben?
Richard Socher: Auf jeden Fall. Ich war damals an der Stanford University und hatte sehr viel Hintergrundwissen in der linguistischen Informatik, im Bildverstehen und in der Bildverarbeitung. Ich hatte festgestellt, dass in der Forschung vorrangig versucht wurde, manuell so viel Expertenwissen wie möglich in die KI reinzubringen, statt sie von den Rohdaten lernen zu lassen. Deshalb habe ich damals beschlossen, neuronale Netze für die Sprachverarbeitung zu nutzen. Das hatte bisher noch niemand gemacht und das war der Grundstein meiner gesamten Forschung.
Recherchiert man jetzt bei "Google Scholar" und gibt "natural language processing" ein, dann bin ich der viertmeist zitierte Forscher in diesem Fachgebiet mit fast 180.000 Zitierungen. Meine Arbeit hat die gesamte Sprachverarbeitung nach vielen Jahren und vielen Ablehnungen verändert.
F&L: Ablehnungen à la "das hat keine Zukunft"?
Richard Socher: Professoren und Reviewers sagten: "Das ist Quatsch! Warum arbeitest du da überhaupt dran?" 2018 hatte ich in einem wissenschaftlichen Paper das "Prompt Engineering" erfunden, also die Idee, dass man ein KI-Modell trainieren kann, um ihm ständig verschiedene Fragen stellen zu können. Dann kamen die Paper-Reviews rein und sagten: "miss-guided" und "overcrowded" und dass die grundsätzliche Idee von einer "alle Fragen beantwortenden KI" an sich schon unrealistisch sei.
Glücklicherweise haben sich ein paar Forscher dann doch dafür interessiert, unter anderem Alec Radford und Ilya Sutskever. Sie haben zu dieser Zeit mit GPT-2 angefangen und unser Paper zitiert. Der Rest ist Geschichte.
F&L: Was würden Sie sagen, welchen Stellenwert Unternehmertum an deutschen Hochschulen hat im Vergleich zu Ihren Erfahrungen in den USA?
Richard Socher: Speziell Silicon Valley zieht unglaublich viele motivierte Menschen an, die hart arbeiten wollen, die was erreichen wollen, die Impact haben wollen. Gleichzeitig gibt es venture capital, also Investionen in Start-ups und innovative Ideen. Ich hatte sogar schon eine Professur angenommen. Aber dann habe ich festgestellt, dass die größten Fortschritte im Bereich KI aus der Industrie kommen. Es kostet sehr viel, die besten KI-Modelle zu trainieren.
F&L: Sie sind direkt 2014, kaum hatten Sie den Doktortitel in der Tasche, als Unternehmensgründer durchgestartet. Was hat Sie dabei unterstützt und inspiriert?
Richard Socher: Mein Vater war auch Akademiker und Forscher und meine Mutter wurde direkt nach dem Mauerfall Unternehmensgründerin. Das hat mich beides stark inspiriert. Natürlich haben mich auch Investoren ermutigt, die gesagt haben, deine Forschung ist so bahnbrechend, wir wollen dir ein paar Millionen Dollar geben, damit du damit was machst. In der Tat hätte man in Deutschland einem Doktoranden wahrscheinlich nicht so viel Geld überlassen. Immerhin hatte ich schon 4.000 bis 5.000 Zitierungen als Doktorand.
F&L: Dann kam die Gründung von MetaMind. Können Sie eine Vision beschreiben, die Sie verfolgt haben mit diesem Projekt?
Richard Socher: Das Ziel für mein Unternehmen MetaMind war, ein Grundlagenmodell für alle KI-Probleme zu entwickeln, ähnlich wie Open AI mit ChatGPT.
Vielleicht waren wir etwas zu früh dran damit und hatten weniger Geld. Wir hatten gute Technologien und KI-Modelle entwickelt, aber keine Distributionswege. Deshalb haben wir MetaMind schließlich an Salesforce verkauft.
F&L: Was treibt Sie aktuell an, wenn Sie an Innovation und Entwicklung denken? Haben Sie ein neu gestecktes Ziel?
Richard Socher: Das Ziel meines Unternehmens you.com ist es, Wissen besser aufzubereiten, sodass Menschen auf alle möglichen Fragen direkt eine akkurate, schnelle Antwort mit Informationen aus dem Internet und ohne irgendwelche KI-Halluzinationen bekommen. Die Hoffnung ist, dass unsere KI-Suchmaschine alle Menschen ultimativ produktiver machen kann, weil sie das Übermaß an Informationen aufbereitet und sortiert.
F&L: Welche Einsatzmöglichkeiten von KI-Werkzeugen in Wissenschaft, Forschung und Lehre sehen Sie?
Richard Socher: Wir arbeiten mit verschiedenen Universitäten zusammen, damit sie ihren Studierenden Zugang gewähren zu you.com. Wir kooperieren auch mit einigen Biotech-Start-ups, die unsere Plattform nutzen, um Forschungsergebnisse zusammenzufassen für Forschungsberichte und so weiter. Je komplizierter es wird, desto mehr sind unsere Ergebnisse zehnmal besser als ein Suchergebnis von Google.
Themen-Schwerpunkt "Künstliche Intelligenz"
Künstliche Intelligenz greift zunehmend in das alltägliche Leben ein. Welche Chancen und Risiken birgt dies? Woran arbeitet die KI-Forschung? Welche Folgen hat KI in der Lehre? Ausgewählte Artikel zum Thema finden Sie im Schwerpunkt "Künstliche Intelligenz".
F&L: Was macht KI-Sprachmodelle besonders interessant für Wissenschaft und Lehre? Hat beispielsweise Ihre KI-Plattform einen Mechanismus, mit welchem eine Quelle aus dem Internet als valide oder unseriös beurteilt wird?
Richard Socher: Man kann dem Modell vorgeben: "Hole deine Informationen vor allem von den Journalen 'Nature' oder 'Science'." Dann ist auch der Inhalt der Antwort sehr viel akademischer. Am liebsten würde ich mit sehr vielen weiteren Universitäten zusammenarbeiten. Viele denken, da ist diese neue KI-Technologie und wir müssen uns jetzt anpassen. Aber wir können auch die KI an die Unis anpassen. Es ist möglich, Studierenden Zugang zu einem konkreten Chat-Modell mit exklusiven Informationen bereitzustellen, die spezifisch sind für sie, Mitarbeitende oder Forschende dieser Uni.
F&L: Gibt es irgendetwas, was eine deutsche Hochschule hätte machen können, um Sie als fortschrittlichen Forschergeist langfristig für sich zu gewinnen?
Richard Socher: Als ich noch jünger war, wollte ich mit den besten Leuten arbeiten, an der besten Uni. Meine Hoffnung ist, dass Deutschland irgendwann sagt: "Lasst uns als Land versuchen, eine Uni zu pushen, dass sie in die Top 10 kommt." Die Ohio State University ist meiner Meinung nach nicht so viel besser als die TU München oder die TU Dresden.
