Björn Ommer ist der Erfinder des KI-Modells „Stable Diffusion“, einem Text-zu-Bild-Generator, der Bilder aus eingegebenen Befehlen erstellt. Ommer, Informatiker an der LMU München, betont die Bedeutung eines klugen Umgangs mit KI und sieht sie als Werkzeug, um gesellschaftliche Probleme wie den Klimawandel anzugehen. Er plädiert für Bildung in allen Schichten, um die Chancen von KI optimal zu nutzen. Ommer teilt sein Modell frei und betont die Demokratisierung von Technologie. Er warnt vor einer Machtkonzentration großer Tech-Unternehmen und fordert, KIs so zu optimieren, dass sie auf Smartphones passen, um die Kontrolle über die Technologie zu bewahren.
Ich konnte Prof. Ommer vor seinem Vortrag für die Landesgruppe Bayern im BdKom exklusiv ein paar Fragen zum Thema KI, Sicherheit, Stable Diffusion und Bildung stellen.
Frage: Welche Rolle spielt die Open Source Gemeinschaft in der Entwicklung von KI-Technologien wie Stable Diffusion?
Antwort:
Der Grund, warum wir so enormen Fortschritt sehen, ist, dass die Forschung und auch die Entwicklung auf den Schultern von Giganten steht, dass die vorigen Algorithmen veröffentlicht worden sind und wir mittlerweile auf ein riesiges Repositorium von Software zugreifen können und Open Source ist dementsprechend für dieses massive Wachstum zentral gewesen.
Frage: Open Source vs. Close Software werden bald kaum noch qualitative Unterschiede herrschen?
Antwort
Zuerst mal würde ich vielleicht über die Chancen und Risiken reden und bei Closed-Source wird natürlich immer angeführt, dass es eine Art und Weise ist, gewisse Risiken aus dem Weg zu gehen. Mein Punkt dabei wäre aber, dass Closed-Source diese Risiken höchstens etwas nach hinten verschiebt.
Aber dass wir im letzten Jahr gesehen haben, dass in ein halb von kurzer Zeit Closed-Source Ansätze reimplementiert worden sind oder geleaked sind, sodass wir effektiv nur ein kleines bisschen Zeit gewinnen, aber die Probleme doch bekommen.
Wenn ich es dann umgekehrt betrachte, gibt mir Open Source allerdings die Möglichkeit, Transparenz, Offenheit zu haben, auf diese Art und Weise diese Technologie besser zu überprüfen.
Ich würde nicht sagen, dass man das Gegeneinander ausspielen kann und sagen kann, dass Open Source schlechter wäre als Close Source oder ähnliches. Es gibt ganz im Gegenteil große Firmen wie Meta zum Beispiel, die größten Teils offen ihre Software herausgeben, andere wie OpenAI, die eher geschlossen sind.
Aber würde dort nicht sagen, dass man grundsätzlich von anderer Qualität reden könnte.
Frage: Welche Sicherheitsmechanismen sind denn notwendig, um Missbrauch gerade von Open Source KI wie Stable Diffusion zu verhindern, ohne aber die Innovationskraft zu behindern?
Antwort
Um Probleme, die generative KI darstellt, einzuhegen, wird wegen alleine der breiten Verbreitung in Zukunft natürlich sehr stark auch auf künstliche Intelligenz gesetzt werden müssen.
Künstliche Intelligenz, die also gewissermaßen den Content überprüft und durchsucht. Grundsätzliche Mechanismen, die verhindern das Bad Actors Technologie, die potent ist, Missbrauchen, insbesondere wenn die im Ausland sitzen oder Ähnliches, sind natürlich schwer beizukommen.
Was häufiger erwähnt wird, ist, dass man Wassermarken oder Ähnliches in Bilder erzwingt. Aber was nützt das, wenn jemand in Asien sitzt, vielleicht so ein staatlich unterstützter Aktor ist, der wird sich natürlich nicht dran halten.
Da ist natürlich eher hilfreich, dass wir hier die Forschung und Entwicklung betreiben, dass wir wissen, was der aktuelle Stand der Technik ist und auf diese Art und Weise gegen Maßnahmen entwickeln können, die beispielsweise automatische Detektion oder zumindest Kennzeichnung von Inhalten betreiben können.
Frage: Was ist für Sie die Maßnahme, um Sicherheit zu gewährleisten?
Antwort
Das Wichtigste ist zuerst mal Offenheit von diesen Algorithmen, die wir überhaupt haben, dass man eine gewisse Transparenz herstellen kann und weiß, was denn dort drinsteckt.
Ich glaube, niemand würde irgendwie eine Tablette einfach schlucken, wenn er nicht wüsste, dass vorher jemand zumindest grob die Wirkmechanismen kennt. Niemand würde in ein Flugzeug einsteigen, wenn er nicht wüsste, dass derjenige, der es gebaut hat, offenlegen müsste, warum denn das Ding am Himmel bleiben würde?
Bei Technologie, die so wirkmächtig ist und alles durchdringt, glaube ich, dass es deswegen sehr essenziell ist, dass wir zumindest grundlegende Kerne davon offenlegen, das stieß aber nicht aus, dass man damit Geld verdienen kann. Es wird häufig, das eine gegen das andere ausgespielt. Open Source heißt nicht, dass diese Technologie komplett offen ist und man kein Geld damit mehr verdienen kann.
Ähnlich wie man der Luftfahrtindustrie auch Geld verdienen kann, bei denen zumindest wesentliche Teile offen gelegt werden, kann man bei generativer KI auch Geld damit verdienen, wenn zumindest wesentliche Teile geöffnet werden.
Frage: Welche Rolle sehen Sie für KI in Bildung, speziell im Kunstunterricht oder auch in kreativen Studiengängen?
Antwort
Wir haben im Moment einen starken Lehrermangel. Wir haben in den Informationswissenschaften, aber auch in anderen Disziplinen das Problem, dass wir gar nicht hinterherkommen mit einer personalisierten Bildung.
Und das gilt für alle Fächer.
Das gilt natürlich auch für die Geistes- und Lebenswissenschaften und Ähnliches, dass wir hier ein zugeschnittenes, eine zugeschnittene Lehre anbieten können, wenn wir personalisierte Kommunikation durch generative KI ermöglichen.
Vielen Dank für das Interview und der Beantwortung meiner Fragen!
