Stefan Woltran schafft es, zu abstrakt wirkenden Fragen rund um die KI verständliche, aber auch provokante Antworten zu liefern. Woltran ist einer der profiliertesten österreichischen Forscher im Bereich der theoretischen Grundlagen der Künstlichen Intelligenz. Sein Forschungsschwerpunkt liegt auf der Logik, Wissensrepräsentation und der sogenannten symbolischen KI. Zudem engagiert er sich für Initiativen, die diese symbolische KI mit subsymbolischer KI verbinden.
Interview mit Stefan Woltran
Rolle: Professor für „Formal Foundations of Artificial Intelligence" an der TU Wien, Vizedekan für akademische Angelegenheiten der Fakultät für Informatik und Co-Direktor des Center for Artificial Intelligence and Machine Learning (CAIML).
Thema: Warum der aktuelle KI-Hype um Sprachmodelle allein nicht ausreicht und wie eine Verbindung von symbolischer und subsymbolischer KI zu nachvollziehbareren, faireren Systemen führen kann.
Relevanz: Der öffentliche Diskurs wird von großen Sprachmodellen und Machine Learning dominiert, doch dieser Weg wird nicht reichen. Als Experte für logikbasierte Systeme steht Woltran für den Brückenschlag zwischen technischer Machbarkeit, Erklärbarkeit und den strengen Anforderungen des europäischen AI Acts.
Zentrale Fragen: Was steckt hinter dem LLM-Hype, weshalb stößt der datengetriebene Weg der KI an Grenzen und wie kann eine Kombination mit logikbasierten (symbolischen) Methoden zu einer Entwicklung führen, die der Gesellschaft insgesamt hilft, nicht nur Einzelnen?
KI KOMPASS: Aktuell wird KI in der Öffentlichkeit fast ausschließlich mit großen Sprachmodellen und Machine Learning gleichgesetzt. Wo stoßen wir aus wissenschaftlicher Sicht an Grenzen, wenn wir hauptsächlich auf diese Systeme setzen?
Stefan Woltran: Es ist ja seit langem bekannt, dass es sehr unterschiedliche Methoden gibt, die aus verschiedenen Communities kommen und für unterschiedliche Aufgaben geeignet sind, manche besser, andere schlechter. Man würde ja nicht ernsthaft ein Machine-Learning-System nutzen, um Zahlen zu addieren. Das kann der Computer in seinem Innersten ohnehin viel besser, dafür braucht es keine Trainingsdaten und kein Modell, das sich mühsam Addition anlernt. Alles, was sich diskret abbilden lässt, etwa Optimierungsprobleme, logische Formalismen oder regelbasierte Systeme, wird von symbolischer KI nach wie vor besser gelöst als von subsymbolischen oder generativen Verfahren. Symbolische KI war bis vor vielleicht 15 Jahren das dominante Paradigma und ist in diesen Bereichen immer noch überlegen. Generative Modelle sind nicht nur weniger präzise für solche Aufgaben, sondern auch extrem rechen- und energieintensiv. Es gibt aber einen weiteren Aspekt, der derzeit außer Acht gelassen wird, weil auch die Large Language Models immer lokaler eingesetzt werden: Da hat man eine überschaubare Anzahl von Stakeholdern, die ein Interesse daran haben könnten, das System in gewisse Richtungen zu bringen.
KI KOMPASS: Was bedeutet das, wenn das Training in eine bestimmte Richtung gesteuert werden könnte?
Woltran: Aus sozialpartnerschaftlicher Sicht zum Beispiel: Hier ist die Kostenrechnung, liebes Large Language Model, und was machen wir damit? Wird sich das KI-System anders verhalten, wenn es nur vom Management trainiert wird oder wenn die Belegschaft auch dabei ist? Oder die Frage: Wie sollen wir unsere Investitionen tätigen? Das sind alles Sachen, bei denen ein Partizipationsprozess naheliegend wäre.
KI KOMPASS: Aber wie kann man eine solche Partizipation erreichen?
Woltran: Das ist ein Thema, das insbesondere in der symbolischen KI stark untersucht wird. Bei den großen KI-Konferenzen geht es immer auch um Partizipationsmodelle, um Abstimmungsverfahren und um Deliberationsmodelle, wo versucht wird, transparent und nachvollziehbar zu Gruppenentscheidungen zu kommen. Jetzt geht es darum, diese Methoden zusammenzubringen, um KI-Systeme, auch wenn sie lokal eingesetzt werden, in Abstimmung mit den Betroffenen oder mit den Stakeholdern zu gestalten. Diese Abstimmungsverfahren sind natürlich klassische symbolische KI mit Algorithmen. Wichtig ist, dass alles, was mit Abstimmung zu tun hat oder mit demokratischen Verfahren, nachvollziehbar sein muss. Da nutzt es nichts, wenn das System sagt: Na ja, zu 98 Prozent glaube ich, dass das die Mehrheit ist, aber sicher bin ich mir nicht.
KI KOMPASS: Dazu braucht es eine Verbindung zwischen den beiden Communities, also von symbolischer und subsymbolischer KI.
Woltran: Genau dort setzt unser Forschungsschwerpunkt an: Wie kann man die gewachsenen Methoden der symbolischen KI, etwa für Wissensrepräsentation, Abstimmungsmechanismen oder Wissensrevision, mit generativen Modellen verbinden? Dafür haben wir einen Antrag auf einen FWF-Exzellenzcluster zum Thema Bilateral AI gestellt, in dem sich sechs Universitäten zusammengeschlossen haben: Zentren mit starkem Machine-Learning-Fokus und Standorte mit ausgeprägter symbolischer KI arbeiten dort gemeinsam an solchen neuro-symbolischen Ansätzen. Aber es geht nicht nur um dieses Projekt, sondern dass man sich überhaupt einmal zusammensetzt und diskutiert: Wo kann man gemeinsam Sachen verbessern? Was haben wir Symboliker zu bieten? Was können die anderen? Da gibt es viele niederschwellige Verbindungen.
KI KOMPASS: Wie haben sich diese beiden Richtungen der KI in den vergangenen Jahren entwickelt?
Woltran: Diese beiden Communities waren über Jahrzehnte unabhängig voneinander: Die Grundideen gibt es ja schon seit den 1950er-Jahren in beiden. Also fast wie verschiedene Schulen in der Psychologie oder der Soziologie, die haben sich auch parallel entwickelt. Lange Zeit war eben die symbolische KI die stärkere, die mehr Forschungsmittel eingeworben hat, wobei das natürlich im Vergleich zu dem, was heute fließt, lachhafte Beträge waren. Weil das maschinelle Lernen aufgrund der großen Datenmengen, der Hardware und des Internets heute funktioniert, haben diese Methoden abgehoben, und die haben sich dann natürlich nicht so viel um die Symbolik geschert. Nach dem Motto: Ihr habt jetzt 40 Jahre lang mit den Dingen gespielt, jetzt machen wir unser Ding. Und mit den Erfolgen ab 2010, etwa Bilderkennung, AlphaGo und dann LLM, hat sich das endgültig verschoben.
KI KOMPASS: Ist generative KI für Logik und Regeln grundsätzlich ungeeignet?
Woltran: Sie kann schon gewisse logische Strukturen imitieren, aber das passiert eher über Muster und Wahrscheinlichkeiten als über ein klares, explizites Regelwerk. Wenn man auf die Grundlagen schaut, bleibt sie eine Blackbox: Man hat keine saubere, formale Beschreibung der Rechenschritte, sondern Netzwerkaktivierungen und Parameterkombinationen. Für viele Anwendungen reicht das, für andere, in denen Nachvollziehbarkeit und harte Logik gefragt sind, eben nicht.
KI KOMPASS: Sie arbeiten mit Gruppen, die sich mit Empfehlungssystemen beschäftigen. Wie passen Recommender-Systeme und symbolische KI zusammen?
Woltran: Empfehlungssysteme sind ein klassisches Feld, das sich lange gar nicht als KI verstanden hat. Man wollte nur Vorschläge generieren, im Webshop, auf Streaming-Plattformen, wo auch immer. Mittlerweile läuft das unter dem Label KI, und das ist auch sinnvoll, weil es komplexe Software-Systeme sind. In Recommender-Systemen gibt es wieder verschiedene Interessengruppen. Die Nutzerinnen- und Nutzersicht kennen wir alle: Das System soll passende Inhalte empfehlen, und das funktioniert statistisch gesehen oft ziemlich gut. Aus Sicht der Anbieter ist aber wichtig, dass nicht nur die Großen und Etablierten durchgereicht werden, sondern dass neue oder kleinere Anbieter sichtbar werden. Und aus gesellschaftlicher Perspektive kommt Diversität ins Spiel: Regionale Vielfalt, Geschlechtergerechtigkeit, gesetzliche Quoten, Stichwort Frankreich, wo ein bestimmter Prozentsatz nationaler Künstlerinnen im Radio laufen muss. Die klassische Empfehlung beruht auf Wahrscheinlichkeiten und Ähnlichkeiten: Wer A mag, mag meist auch B. Sobald ich aber ein Regelwerk erfüllen muss, etwa Quoten, Diversitätsziele oder regionale Vorgaben, brauche ich symbolische Komponenten. Wir beschäftigen uns damit, wie man die probabilistischen Recommender-Modelle mit klaren, maschinenlesbaren Regeln kombiniert, um solche Fairness- und Diversitätsziele systematisch umzusetzen.
KI KOMPASS: Kommt man generell drauf, dass es ohne Ansätze der symbolischen KI nicht geht?
Woltran: Ja, denn um wirklich den nächsten Schritt zu machen, braucht es so etwas wie ein Weltmodell oder ein abstraktes Modell dessen, was da ist. Das Wissen ist ja implizit vorhanden, wenn es mit aller Kraft und aller Menge in diese Riesensysteme gestopft wird, aber es ist nicht wirklich nutzbar. Du kannst dich jetzt nicht direkt austauschen. Wenn wir uns über Dinge der Welt austauschen, zum Beispiel was wir hier an der Wand sehen, dann werden wir nicht über unsere Netzwerkaktivierungen reden, sondern wir haben abstrakte Modelle: Was ist ein Blatt? Was ist ein Stiel? Darüber können wir uns unterhalten, weil wir diese abstrakten Konzepte haben, die notwendig sind, um erklärbar zu sein. Das ist etwas sehr Wichtiges, auch für die Transparenz. Es gibt ja den Begriff der vertrauenswürdigen KI, den ich nicht sehr mag, weil ich vertraue eigentlich keiner KI und keinem Ding, sondern nur Menschen. Vertrauen ist ein verzwicktes philosophisches Konzept. Es wäre ja nicht gut, wenn man sagt: Ich vertraue meinem Geschirrspüler. Das wäre dann dieser Animismus, Dinge zu vermenschlichen. Das ist eine große Gefahr, die sehe ich gerade bei den Chatbots.
Ich vertraue eigentlich keiner KI und keinem Ding, sondern nur Menschen.
KI KOMPASS: Sie beschäftigen sich auch mit einem Projekt zur Gestaltung partizipativer KI-Systeme. Worum geht es dabei?
Woltran: Gemeinsam mit Kolleginnen und Kollegen der FH St. Pölten und der ÖAW, konkret der Gruppe von Astrid Mager, die zu Demokratieforschung arbeitet, haben wir ein Projekt beim Wiener Wissenschafts-, Forschungs- und Technologiefonds eingereicht. Es geht darum, wie man Large Language Models oder vergleichbare lokale Modelle demokratisch, oder besser: partizipativ designen kann. Eine spannende Kooperation ist mit der Parlamentsdirektion in Aussicht. Ein konkreter Use Case ist die Zusammenfassung der stenographischen Protokolle. Da gibt es verschiedene Sprachmodelle, die man darauf trainieren kann, gute Zusammenfassungen zu erzeugen. Die Frage ist dann: Welche Tonalität ist richtig? Eine Partei hätte es gerne so, eine andere anders. Ministerien legen den Fokus auf Fakten und Zahlen, Medien vielleicht stärker auf Konflikte oder Zitate. Wir untersuchen, wie man diese unterschiedlichen Interessen formal modelliert, abwägt und zu einer gewissen Fairness oder Proportionalität kommt, also wie Akteure gemäß ihrer Stärke oder Rolle vertreten sind. Dafür braucht es sehr konkrete, diskrete Methoden, die Schritt für Schritt nachvollziehbar machen, warum das System genau diese Zusammenfassung erzeugt und nicht eine andere.
KI KOMPASS: Wenn wir über Fairness reden, etwa Geschlechtergerechtigkeit, stoßen wir schnell auf das Problem der Trainingsdaten. Welche Ansätze funktionieren hier überhaupt?
Woltran: Bis jetzt hat das sogenannte Reinforcement Learning with Human Feedback, kurz RLHF, am besten funktioniert. Man nimmt ein Modell und trainiert es nachträglich mit menschlichem Feedback: Diese Antwort ist sexistisch, jene ist rassistisch, und das System lernt, solche Ausreißer zu vermeiden. Das war sehr aufwändig, aber entscheidend dafür, dass etwa ChatGPT auf den Markt gehen konnte, ohne völlig aus dem Ruder zu laufen. Es ist allerdings kostenintensiv und stößt an Grenzen. Ein Beispiel aus der Bildgenerierung zeigt die Problematik ganz gut: Ein System wurde so trainiert, dass generierte Menschengruppen divers sind, verschiedene Ethnien, Geschlechter, keine einseitigen Stereotype. Wenn man dann aber „Schützengraben im Zweiten Weltkrieg, deutsche Soldaten“ eingibt, präsentiert das Modell plötzlich ein sehr diverses Heer. Das wirkt auf den ersten Blick harmlos, zeigt aber, dass historisches Kontextwissen fehlt. Die Direktive „Sei nicht rassistisch“ kann in solchen Fällen den historischen Fakten offensichtlich widersprechen. Hinzu kommt, dass die Daten, auf denen die Systeme trainiert sind, oft selbst starke Biases enthalten. Man kann gegensteuern, aber nur in begrenztem Maß. Und auch die Schutzmechanismen sind nicht perfekt: In der Anfangszeit von ChatGPT konnte man etwa mit einfachen Umformulierungen Tabellen erzeugen, die rassistische Inhalte enthielten, obwohl direkte Anfragen blockiert waren. Diese sogenannten Jailbreaks werden schwieriger, aber sie verschwinden nicht.
KI KOMPASS: Es besteht generell die Gefahr, dass KI-Systeme ungeprüft veröffentlicht werden. Was fehlt Ihnen da aus Sicht der Informatik?
Woltran: Man hat den Eindruck, dass Systeme auf die Menschheit losgelassen werden, ohne verbindliche Prüfverfahren. Bei anderen Produkten ist das undenkbar: Ein Medikament darf man nicht einfach großflächig ausprobieren und schauen, was passiert. Es gibt klinische Studien, Abnahmeverfahren, belastbare Evidenz. Im digitalen Bereich wäre es technisch nicht einmal besonders kompliziert, verbindliche Tests einzuführen. Man könnte definierte User-Gruppen über einen bestimmten Zeitraum dokumentiert testen lassen, bevor ein System breit ausgerollt wird. Bei der Digitalen-Humanismus-Konferenz im Juni in Wien hat Rumman Chowdhury dazu einen Vortrag gehalten, der für viele außerhalb der Informatik ein Augenöffner war: Wie wenig Sicherheitsnetze existieren und wie groß die potenziellen Risiken sind. Die Ursachen sind vielfältig. Da ist der Silicon-Valley-Geist des „Move fast and break things“. Dazu kommt eine Generation, die mit Software in einer halblegalen Kultur aufgewachsen ist: Raubkopien, unkontrolliertes Internet, wenig Regulierung. Dieses Mindset, dass jeder alles ins Netz stellen kann und man sieht dann schon, was passiert, wirkt bis heute nach. Das kann man machen, aber man sollte es als Gesellschaft zumindest diskutieren und aushandeln.
Man hat den Eindruck, dass Systeme auf die Menschheit losgelassen werden, ohne verbindliche Prüfverfahren.
KI KOMPASS: Aber zumindest in Europa setzt man mit dem AI Act und dem Konzept des Digitalen Humanismus auf Regulierung und mehr Sicherheit. Was bringt das?
Woltran: Staaten sind nicht machtlos, ob man konkrete Maßnahmen gutheißt, ist eine andere Frage, aber die Wirkungsmacht ist vorhanden. Europa sollte sich nicht kleiner machen, als es ist. Natürlich steht man in der unangenehmen Situation, dass man technologisch in vielen Bereichen wenig zu sagen hat, von Chips über Cloud-Infrastruktur bis hin zu großen Sprachmodellen. Aber diese Abhängigkeit wurde mittlerweile erkannt. Die politische Entwicklung in den USA hat vielen vor Augen geführt, wie heikel solche Abhängigkeiten sein können. Europa ist der Kontinent, auf dem viele von uns ihre Werte am ehesten vertreten sehen. Die europäische Regulierung wird scharf kritisiert, insbesondere aus den USA, gerade weil sie wirksam sein kann. Es geht dabei nicht nur um Profit, sondern um das technologische und gesellschaftliche Gesamtmodell. Wenn sich Europa auf die Füße stellt und sagt: Ein europäisches Modell wie Mistral reicht uns funktional, wir setzen auf unsere Standards, ist das bereits ein starkes Signal. Was fehlt, ist eine breitere gesellschaftliche Debatte, wohin man mit KI wirklich will. Bei Themen wie Social-Media-Altersgrenzen sieht man: Sobald ernsthaft diskutiert wird, verändert sich etwas. Gesetze sind nie perfekt, wie beim Alkoholverbot für Jugendliche, aber sie schaffen Bewusstsein, auch bei Eltern und Verantwortungsträgern. Ähnliches braucht es bei KI, von medizinischen Chatbots bis zu autonomen Systemen. KI hat viele Aspekte, die sich durch die Digitalisierung ergeben haben, noch einmal verschärft und damit sichtbarer und unmittelbarer gemacht. Gerade eben so etwas wie Urheberrecht oder die Abhängigkeit von den großen Playern.
KI KOMPASS: Dazu passt, dass klassische Suchmaschinen-Optimierung gerade durch KI-Suchergebnisse ersetzt wird und die Mechanismen dahinter kaum verständlich sind, obwohl es jetzt Massen an angeblichen Experten gibt. Erleben wir ein neues Level der Undurchsichtigkeit?
Woltran: Es ist tatsächlich ein anderes Level von Unsicherheit. Search Engine Optimization war lange ein Spiel nach relativ klaren Regeln, die Parameter kann man kritisieren, aber sie waren bekannt. Was jetzt passiert: Bei einer Suche erscheint sofort eine KI-generierte Zusammenfassung, die man nicht abschalten kann und wo etwa der Energieverbrauch kein Thema ist. Diese Zusammenfassungen sind gar nicht so schlecht, aber der Weg dorthin ist für Außenstehende kaum nachvollziehbar. Für SEO-Agenturen und Unternehmen bedeutet das, dass sie in einem System agieren, dessen innere Logik sie nicht mehr wirklich kennen. Wenn man dann Versprechungen macht, GEO oder ähnliche Strategien würden die Sichtbarkeit in solchen KI-Antworten sicherstellen, ist das schwer seriös einzuschätzen. Die Phase ist von Unsicherheit geprägt, und auch hier gilt: Ohne Transparenz darüber, wie Empfehlungen zustande kommen, bleibt es ein Blackbox-Spiel.
KI KOMPASS: KI-Agenten verändern das Web also grundlegend. Was genau bereitet Ihnen da Sorgen?
Woltran: Webseiten werden für KI-Agenten nur noch zum Input. Als Userin und User gibt man damit ein Stück Autonomie auf. Ich bin ein Surfer der alten Schule und habe oft hundert Tabs offen: Das sind meine Seiten, dort schaue ich hin. Wenn ich etwas wissen will, gehe ich direkt auf Wikipedia. Die neuen Systeme funktionieren gut und liefern mir oft das, was ich gerne hätte. Aber sie ändern das Wirtschaftssystem, auf dem ganze Branchen aufgebaut sind. Wenn ich etwas kaufen will, gehe ich nicht mehr selbst auf die Plattform, sondern mein Agent. Und was immer der dann macht, ist für mich intransparent. Dieses Nullwissen führt das Internet bis zu einem gewissen Grad ad absurdum.
Webseiten werden für KI-Agenten nur noch zum Input.
KI KOMPASS: Was bedeutet das für Unternehmen und Organisationen, die bisher stark von der Sichtbarkeit im Web gelebt haben, etwa Verlage?
Woltran: Ich warte noch immer auf die große Diskussion dazu. Für viele Webseiten kann das nicht akzeptabel sein. Wenn die KI nur noch zusammenfasst, habe ich keine Zugriffe mehr, ich bin nicht mehr in den Suchergebnissen. Und selbst wenn ich oben bin, habe ich kein Qualitätsmerkmal. Wenn ich in einer Nische der Einzige bin, der etwas dazu geschrieben hat, kann es sein, dass ich ganz vorne stehe, auch wenn ich Blödsinn geschrieben habe und zufällig gefunden werde. Früher hattest du immerhin die Chance, dass jemand auf deine Seite klickt und dann geschaut hat: Wer verkauft mir jetzt die Reise, das Produkt, die Dienstleistung? Der KI ist es ziemlich egal, ob das A, B oder C online gestellt hat. Ich glaube, das wird komplett unterschätzt. Ein paar wissen das, aber das kann den Medienbetrieb endgültig ruinieren. KMUs, die ohnehin nur über große Marketplaces vertreiben, kennen das Phänomen schon und haben sich angepasst. Aber mit Agentic AI hat das noch einmal eine andere Qualität.
KI KOMPASS: Können klassische Regulierung oder Verbote solche Entwicklungen überhaupt aufhalten?
Woltran: Verbote sind schwierig. Der Mensch ist bequem und schätzt solche Qualitätssprünge enorm. Google war ja am Anfang großartig, weil es das Navigieren im Internet massiv erleichtert hat. Solche Systeme, die bequem und gut sind, bekommt man nicht einfach weg. Am Ende sind es politische Fragen: Wo will man KI einsetzen und wo vielleicht nicht? Der EU AI Act versucht es über risikobasierte Ansätze, High-Risk-Kategorien und solche Dinge. Aber die Diskussion ist vielfältiger. Sie beginnt beim Ressourcenverbrauch, Rechenzentren sind ein Riesenthema, und reicht bis zur Frage, wie sehr wir unsere digitale Autonomie an Agenten delegieren.
KI KOMPASS: Wenn das Internet, wie wir es jetzt kennen, am Ende ist, was geht aus Ihrer Sicht verloren?
Woltran: Das Problem ist, dass wir die digitale Wirklichkeit zunehmend unterschiedlich erfahren. Wenn wir in ein Geschäft gehen, sehen wir dasselbe Geschäft. Wir kaufen vielleicht unterschiedliche Bücher, aber die Umgebung ist geteilt. Online ist das anders. Das ist besonders heikel bei Nachrichten und Informationen. Man muss sich anschauen, wo junge Leute ihre Informationen herholen, das ist keine Spielerei. Unsere Generation kennt noch den Commodore 64: Nur wir konnten den benutzen, und der Impact auf die Welt war gleich null. Heute ist das Digitale das Betriebssystem der Welt, und damit die Informatik. Das verändert die Verantwortung enorm.
KI KOMPASS: Stichwort Informatik: Wenn große Sprachmodelle Code schreiben, zucken Sie als Informatiker da nicht zusammen?
Woltran: Moshe Vardi hat vor kurzem geschrieben, dass die Informatik andere Branchen disruptiv verändert hat und sich jetzt selbst abschafft, durch automatische Code-Generierung. Die Computer-Science-Departments in den USA spüren tatsächlich Druck: Was braucht die Wirtschaft jetzt noch? Es gibt viele Stimmen, die sagen: Für große Systeme, für echtes Software Engineering, braucht man weiterhin Expertinnen und Experten. Die Ebene hat sich sicher nach oben verschoben, das ist ein großer Schritt. Aber wenn man sieht, wie die Leute in den letzten 20 Jahren schon gecodet haben, ist es gar nicht so überraschend, dass die Systeme jetzt vieles übernehmen können.
KI KOMPASS: Wie gut ist diese KI-gestützte Programmierung aber wirklich und wo liegen die Grenzen?
Woltran: Die Systeme haben Terabyte an Code als Datenquelle, etwa von Stack Overflow oder Reddit. Das ist eine fantastische Quelle. Und sie können oft sogar prüfen, ob der Code kompiliert und läuft. Dass da Gutes herauskommt, ist weniger überraschend, als es wirkt. Aber man bekommt eben beides: extrem gute Ergebnisse und dann wieder haarsträubende Fehler. Besonders deutlich sieht man das bei Nischensprachen oder Spezialsprachen, mit denen wir uns beschäftigen, etwa Logikprogrammierung. Da fehlen einfach die Daten. Hier wird die KI plötzlich schlecht, ohne dass die Aufgabe an sich schwieriger wäre. Man sieht live, woher die vermeintliche Kompetenz kommt, oder eben nicht.
KI KOMPASS: Werden klassische Programmiererinnen und Programmierer überflüssig?
Woltran: Informatiker waren nie nur Programmierer. Beim klassischen Programmieren kann es sein, dass man weniger Leute braucht, wobei da viel Vermischung war, etwa mit Webdesign und Style Sheets, die nicht unbedingt Kernprogrammierung sind. Ich glaube aber, dass die Ausbildung, die man mit einem Informatikstudium bekommt, also etwa Computational Thinking, algorithmisches Denken, die Theorie dahinter, ein sehr gutes Rüstzeug für die Zukunft ist. Die konkrete Programmiersprache A oder Datenbankabfragesprache B sind weniger wichtig als dieses Fundament. Denn es wird Coder brauchen, die prüfen, ob der Code der KI wirklich das tut, was er soll. Der Begriff Deskilling trifft hier zu: Aufgaben verlagern sich, manche Qualifikationen werden weniger nachgefragt. Es kann sein, dass man in einigen Bereichen weniger Leute braucht.
KI KOMPASS: Ich selbst erlebe es so: Wenn man den Prozess hinter einer Aufgabe nicht versteht, produziert KI vor allem Unsinn. Teilen Sie diese Beobachtung?
Woltran: Absolut. Wenn du selbst nicht verstehst, wie der Prozess geht, kannst du die Qualität der KI-Ausgabe nicht beurteilen. Dann kommt leicht Blödsinn heraus. Das gilt für automatisierte Tabellen genauso wie für Programmierung. Das eine ist also das Verständnis des Inhaltes.
KI KOMPASS: Sie haben vorhin gesagt, das Digitale sei heute das Betriebssystem der Welt. Wie verändert das die Rolle der Informatik?
Woltran: Im Vergleich zu vor 30 Jahren funktioniert die ganze Welt digital. Es gibt kaum noch etwas Analoges. Das heißt: Als Informatikerin oder Informatiker hat man eine ganz andere Wirkmächtigkeit gegenüber der Welt. Wir müssen uns deshalb anders verstehen als klassische Systementwickler oder Programmierer. Viel interdisziplinärer, vielleicht auch politischer. Die Systeme, die wir gebaut haben, haben die Welt in den letzten 20 Jahren nicht nur besser, sondern in manchen Bereichen auch schlechter gemacht, um es milde zu sagen.
Die Systeme, die wir gebaut haben, haben die Welt in den letzten 20 Jahren nicht nur besser, sondern in manchen Bereichen auch schlechter gemacht.
KI KOMPASS: Und was bedeutet das konkret für Forschung und Praxis?
Woltran: Man muss Informatik interdisziplinär denken, sonst funktioniert es nicht. In der Forschung heißt interdisziplinär oft: von allem ein bisschen und nirgends in die Tiefe. Aber wir werden nicht darum herumkommen, uns stärker mit anderen Feldern zu verzahnen. Im Rahmen des Digitalen Humanismus arbeiten wir zum Beispiel eng mit Juristen. Die können kein gutes Gesetz machen ohne technischen Input, wir können kein Gesetz machen, weil wir keine Juristen sind. Ähnliches gilt für Psychologie, Linguistik, Philosophie. Große Tech-Konzerne stellen derzeit sogar Philosophen an, damit jemand über die Systeme nachdenkt. Informatik ist viel stärker im Zentrum gesellschaftlicher Entscheidungen, als das lange wahrgenommen wurde. Entsprechend muss sich das Selbstverständnis ändern.
KI KOMPASS: Hat KI diesen Wandel beschleunigt, also zwingt sie Informatiker in die Verantwortung?
Woltran: Ich glaube schon. Die Verantwortlichkeit der Forschenden ist generell wichtig. Bei Nuklearphysikern war immer klar, dass sie mit potenziell gefährlichen Technologien arbeiten. In der Informatik war das lange anders. Vom Mindset her hat sich das Fach anders entwickelt. Dual Use, also die Nutzung derselben Technologie für gute und für fragwürdige Zwecke, war lange kein offensichtliches Problem. Dabei ist das Internet militärisch entstanden, über DARPA und Verteidigungsbudgets. Es war nie frei von solchen Kontexten, aber es kam nicht in diesem Mantel daher. Mit KI und ihrer Wirkmacht wird das anders. Wir werden uns mit den ökonomischen Änderungen, den politischen Implikationen und den gesellschaftlichen Folgen auseinandersetzen müssen, und zwar nicht allein, sondern gemeinsam mit Ökonomen, Juristinnen und anderen.
KI KOMPASS: Im Zusammenhang mit KI ergibt sich wieder die Frage, die Sie selbst schon oft gestellt haben: Haben wir die Technologie, die uns nutzt oder nutzen wir die Technologie, die wir gerade haben?
Woltran: Gerade bei KI ist diese Frage noch wichtiger als bei anderen Digitalisierungswellen. Entwicklung, Rechenkraft und Ressourcen fließen in Systeme, die individualistisch angelegt sind: Sie chatten mit einer Person, kaufen für eine Person im Netz ein. Das sind reine konsumistische Individualsysteme. Man könnte die Fragestellung aber drehen: Wie sieht das Potenzial aus, wenn Systeme nicht darauf ausgerichtet sind, jede einzelne Person zufriedenzustellen, sondern kollektiv zu wirken? Das muss nicht der Staat sein, das kann auch eine Firma oder ein Bezirk sein. Wie kann man Gruppen als Ganzes glücklicher, wohlhabender oder stabiler machen? Das ist eine andere Frage.
KI KOMPASS: Aber wie lässt sich Kontrolle bei solchen Systemen organisieren, ohne in Extreme wie Planwirtschaft oder Konzernherrschaft zu kippen?
Woltran: Das große Problem ist: Wer hat die Macht im Staat in Zukunft? Private Konzerne in der Hand von politisch völlig unberechenbaren Akteuren sind brandgefährlich. Es wäre besser, wenn gewisse Dinge irgendwo beim Staat angesiedelt wären, aber wer ist dann der Staat? Ich denke, man wird über Modelle nachdenken müssen, die in Richtung Selbstverwaltung gehen, ähnlich wie bei der Krankenversicherung. Natürlich ist auch das mit politischem Einfluss verbunden, aber aus meiner Sicht muss es in diese Richtung gehen. Dann könnte man bei der Organisation größerer Gebiete oder Körperschaften, etwa Gemeinden und Bezirke, vielleicht nicht primär Effizienz steigern, sondern dafür sorgen, dass die Gesellschaft als Ganzes profitiert. Nicht einzelne Ausgewählte, nicht nur besonders durchsetzungsstarke Gruppen. In diese Richtung geht derzeit wenig, vielleicht weil das einen Odeur von Planwirtschaft hat. Aber warum nicht in neuen Bereichen probieren? Wir sollten es versuchen.
KI KOMPASS: Heißt das, das größte Potenzial von KI liegt in kollektiven Systemen, statt nur Einzelne glücklich zu machen?
Woltran: Genau das ist der Punkt. Diese Systeme können mit hochkomplexen Daten umgehen, darin sind sie besser als wir. Das ist genau das Potenzial, das noch zu heben ist. Nicht, dass ChatGPT noch einen Blindtest mehr gewinnt oder noch schönere Bilder produziert. Wenn KI dazu beiträgt, dass ganze Gruppen fairer behandelt werden, dass Unterstützung treffsicherer verteilt wird, dass Systeme transparenter werden, dann ist das Technologie, die uns nutzt. Das Potenzial dafür ist da, bei allen Gefahren. Und natürlich bleibt der Ressourcenverbrauch ein Thema. Der wird sicher einen Peak haben, die Technologie wird effizienter werden. Aber KI wird auch in Zukunft Energie brauchen. Das wiederum eröffnet eine Chance für kleinere Länder, avantgardistische Forschung zu machen: Wie kommen wir zu ähnlich guter Leistung mit viel weniger Energieeinsatz?
Zur Person
Stefan Woltran ist Professor für „Formal Foundations of Artificial Intelligence“ an der TU Wien, Vizedekan für akademische Angelegenheiten der Fakultät für Informatik und Co-Direktor des Center for Artificial Intelligence and Machine Learning (CAIML).
