Rechtswissenschafter Nikolaus Forgó lehrt auf dem Gebiet IT-Recht und Rechtsinformation und ist Leiter des Instituts für Innovation und Digitalisierung im Recht der Uni Wien. Hinter den Warnungen bekannter Tech-CEOs, KI könnte außer Kontrolle geraten, vermutet Forgó eine Marketingstrategie.
Interview mit Nikolaus Forgó
Rolle: Leiter des Instituts für Innovation und Digitalisierung im Recht der Uni Wien
Thema: Die Notwendigkeit der Regulierung von KI und ihre Grenzen
Relevanz: Zwischen den USA und China steht die EU im Wettbewerb um die Zukunft der KI. Forgó erklärt, warum Europa weniger reguliert ist als gedacht und welche eigenen Lösungen es braucht.
KI KOMPASS: In den vergangenen Monaten warnten zahlreiche Tech-CEOs, die rasante Entwicklung der Künstlichen Intelligenz würde die Menschheit mehr oder weniger an den Rand des Abgrunds rücken. In einem Interview mit der ZIB2 bezeichneten Sie diese Warnungen als „Marketingstrategie“. Das scheint mir doch eine etwas eigenartige Marketingstrategie zu sein …
Nikolaus Forgó: Vorneweg: Ich bin weder Marketing-Experte noch KI-Technologie-Experte, sondern Jurist. Aber ich finde diese Marketingstrategie nicht so eigenartig. Wenn ich die Entwicklung der KI in den letzten zehn Jahren beobachte, dann erzählt man uns immer wieder aufs Neue, wie wahnsinnig wirkungsmächtig, potent, disruptiv und weltverändernd diese Technologie sein würde. Und man erzählt uns auch, dass es deswegen notwendig sei, in einer Weise zu investieren, in der Geld keine Rolle spielt. Also all diese Unternehmen, von denen wir da reden, haben ja Milliardenbeträge investiert und all diese Unternehmen sind derzeit nicht profitabel. Und wenn man diese beiden Erzählungen hernimmt (Geld spielt keine Rolle und die Welt verändert sich total), dann ist es Teil dieser Erzählung, dass die Welt sich so gravierend verändert, dass wir sogar das Aussterben der Menschheit riskieren. Denn wenn als Gegengift Maßnahmen vorgeschlagen werden, die die ökonomischen Interessen dieser Unternehmen bedienen, also die Hintanstellung chinesischer Investitionen und die Hintanstellung kartellrechtlicher Erwägungen, dann sind diese dystopischen Narrative durchaus im Interesse von US-amerikanischen Tech-Unternehmen. Aber wie gesagt, ob diese Dystopien am Ende stimmen oder nicht, weiß wahrscheinlich niemand und schon gar nicht ein Jurist.
Und beides ist natürlich unmittelbar im Interesse eines amerikanischen Unternehmens.
KI KOMPASS: Die Potenz des eigenen Produkts überzubetonen und beständig vor dessen mutmaßlich existentieller Gefahr zu warnen, kann also eine Strategie sein, staatliche Regulierungen präventiv zu unterbinden. Inwiefern war diese Strategie Ihrer Meinung nach erfolgreich?
Forgó: Sehr erfolgreich, würde ich sagen. Wenn man diesen Open Letter von Dario Amodei (Mitbegründer von Anthropic, Anm. d. Red.) liest, dann wird darin recht deutlich insinuiert, man solle das mit dem Kartellrecht nicht zu ernst nehmen und man solle chinesische Mitbewerber aus dem Markt draußen halten. Und beides ist natürlich unmittelbar im Interesse eines amerikanischen Unternehmens. Und auf diesen Post von Amodei haben interessanterweise sehr schnell sowohl Sam Altman wie auch Elon Musk sehr positiv reagiert. Das passt irgendwie auch ins Bild.
KI KOMPASS: Auch Trump konnten Sie damit offenbar überzeugen …
Forgó: Ja, kurz darauf schrieb der US-amerikanische Präsident auf Truth Social, man möge nicht zu viel regulieren, denn das Hauptziel amerikanischer Industriepolitik in dem Zusammenhang müsse sein, China auf Abstand zu halten. Regulierung störe dabei nur. Daraufhin folgte ein Verwaltungsakt des Präsidenten, der uns wissen lässt, dass wir nicht mehr von Artificial Intelligence, sondern von Super Intelligence reden sollen. Auch das passt in diese Erzählung, wie wahnsinnig potent und disruptiv diese Technologien sind. Das Ergebnis ist ein Minimum an Selbstregulierung.
China ist ein handfester kapitalistischer Mitbewerber und Herausforderer für europäische, amerikanische oder indische Unternehmen.
KI KOMPASS: Wir haben auf der einen Seite die USA mit kaum Regulierung, auf der anderen Seite mit China einen autoritären Staat. Welche Rolle kann die EU in dieser Konstellation spielen?
Forgó: Vorneweg würde ich sagen, dass wir zu sehr simplifizieren, wenn wir China einfach als autoritären Staat abtun. China ist ein autoritärer Staat, aber das ist nur eine Komponente. Aus amerikanischer Sicht ist das Business-Modell Chinas hochgefährlich. Das hat nichts mit „autoritär“ zu tun, sondern einfach damit, dass China Modelle zu einem Preis anbietet, der ein Prozent von dem ausmacht, was Anthropic oder Google anbieten. China ist ein handfester kapitalistischer Mitbewerber und Herausforderer für europäische, amerikanische oder indische Unternehmen.
KI KOMPASS: Und Europa?
Forgó: Die typische Antwort lautet, Europa reguliert zu viel. Ich denke, das stimmt so nicht. Wir haben zwar bereits im Sommer 2024 den AI Act verabschiedet, aber der Teil, der die Hochrisikosysteme betrifft, ist immer noch nicht umgesetzt. Die Umsetzungsfrist, eigentlich im Sommer dieses Jahres, wurde nun ein weiteres Mal um mehr als ein Jahr verschoben. Also eigentlich haben wir in Europa momentan den freiesten aller möglichen Märkte, denn wir haben zwar eine sehr umfassende horizontale Regulierung, aber sie greift in den wesentlichen Bereichen nicht. Außerdem wurde eine Gnadenfrist eingeführt: Alles, was jetzt auf dem Markt ist, darf weitgehend ungeprüft auf dem Markt bleiben, auch dann, wenn die strengeren Regeln eigentlich schon gelten. Also wir haben momentan einen sehr liberalen Ansatz in Europa. Nur wird dieser liberale Ansatz zugedeckt von der extrem detaillierten, breiten und umfassenden Regulierungsgeschichte, die uns der AI Act erzählt.
KI KOMPASS: Das Narrativ von Wirtschaftsliberalen und Unternehmern in Österreich lautet eher: Der AI Act sei ein Klotz am Bein, vieles würde überreguliert und dadurch Innovation und Wachstum verhindert. Europa sollte sich eher an den USA orientieren …
Forgó: Momentan passiert in Europa nicht deswegen nichts, weil es den AI Act gibt. Eben weil der AI Act in Bezug auf Hochrisikosysteme noch gar nicht greift. Trotzdem steckt da natürlich sehr viel drin, was für die Entwickler von Hochrisiko-Systemen sehr viel an Anforderungen bedeutet. Da geht es um eine Vielzahl von Verpflichtungen, die Aufwand bedeuten können. Aber wenn man heute irgendetwas machen will, dann kann man das heute machen und braucht sich nicht auf den AI Act auszureden.
Wir brauchen in Europa wettbewerbsfähige Lösungen, die europäischem Recht unterliegen.
KI KOMPASS: Wie könnte ein Mittelweg aussehen, also zwischen Datenschutz und menschenrechtskonformem Umgang mit KI einerseits und der beklagten Überregulierung andererseits?
Forgó: Ein erster Punkt ist: Wir brauchen in Europa wettbewerbsfähige Lösungen, die europäischem Recht unterliegen. Sie sollten nicht nur theoretisch, sondern auch praktisch europäischem Recht unterliegen, das heißt, die Unternehmen würden auch tatsächlich in Europa sitzen. Die allererste Priorität wäre also die Entwicklung europäischer Lösungen. Diverse europäische Open-Source-Initiativen sind sicher eine Idee, in die man viel Zeit, Liebe, Geld und Ausbildung investieren sollte. Zweitens sollten wir eine grundsätzliche Unterscheidung zwischen Sein und Sollen vornehmen.
KI KOMPASS: Das heißt?
Forgó: Wenn irgendwo auf 47 Seiten ein gesetzlicher Soll-Zustand beschrieben wird, entspricht das nicht notwendigerweise dem Ist-Zustand. Das Schließen der Lücke zwischen Soll- und Ist-Zustand ist meiner Meinung nach wichtiger als immer noch ein Gesetz und noch ein Gesetz. Wie man diese Lücke schließt, ist eine schwierige Frage. Eine Antwort darauf lautet sicherlich: Bildung, Bildung, Bildung! Damit meine ich juristische, aber auch technische, sozialpolitische Bildung und so weiter.
Die Vorstellung, dass man digital souverän wäre, weil das Rechenzentrum in Europa steht, ist falsch.
KI KOMPASS: Bedeutet dieser Mittelweg auch, dass Rechenzentren in Europa stehen müssen?
Forgó: Ob das Rechenzentrum in Europa steht oder nicht, ist ziemlich egal. Wenn es einem amerikanischen Unternehmen gehört, dann greift für dieses Rechenzentrum auch amerikanisches Recht. Also die Vorstellung, dass man digital souverän wäre, weil das Rechenzentrum in Europa steht, ist falsch. Wir brauchen europäische Lösungen, egal, wo diese dann lokalisiert sind.
KI KOMPASS: Ist das mittelfristig realistisch?
Forgó: Man sollte Europa auch nicht krankreden. Wir sind in puncto Forschung, Größe des Marktes und Ausbildungsniveau international durchaus wettbewerbsfähig. Wir haben ein Problem mit der Entwicklung von Unternehmen, was wahrscheinlich eher mit kapitalmarktrechtlichen und Kapitalmarktfragen zu tun hat, und weniger mit dem Spirit oder mit dem Wissen unserer Leute.
Zur Person
Nikolaus Forgó ist Rechtswissenschafter und lehrt IT-Recht und Rechtsinformation. Er leitet das Institut für Innovation und Digitalisierung im Recht der Uni Wien.
