KI – Monster oder Heilsbringer?
Vertrauen ist schlecht, Kontrolle unmöglich?
Der große KI-Gipfel in Paris ist in vollem Gange – eine Veranstaltung, bei der die klügsten Köpfe aus Wissenschaft, Politik und Wirtschaft zusammenkommen, um über das große Thema unserer Zeit zu sprechen: Wie bändigen wir die KI, die wir selbst losgelassen haben? Ein wenig so, als würde man eine Konferenz über Brandschutz abhalten, während der Saal bereits in Flammen steht. Während sich die Tech-Konzerne einen gnadenlosen Wettkampf um die mächtigsten und gewinnbringendsten KI-Modelle liefern, debattiert man in der Stadt der Liebe über Sicherheit, Regulierung – und natürlich darüber, wer sich am Ende die besten Deals sichert.
So wundert es kaum, dass Yoshua Bengio, einer der Begründer des Deep Learning und nebenbei Turing-Preisträger, zu diesem Gipfel am vergangenen Freitag in Paris den AI Safety Report vorgestellt und mit diesen zumindest einmal die Tür zu Kontrollinstanzen aufgestoßen hat. Apropos Tür. Der über 300 Seiten starke Bericht hätte vermutlich auch als Türstopper Verwendung finden können, doch Bengio wurde lieber persönlich noch einmal sehr viel deutlicher: Der aktuelle Wettlauf sei nichts anderes als russisches Roulette – mit dem Unterschied, dass die Trommel immer voller wird. Weiter zu beschleunigen, sei eine denkbar schlechte Idee.
Kritik an unkontrolliertem Wachstum von KI-Modellen
Die NGO Algorithmwatch schlägt ebenfalls Alarm und kritisiert eine „Je größer, desto besser“-Mentalität, die völlig außer Kontrolle geraten sei. Während KI als Lösung für alle möglichen Probleme angepriesen wird, scheint offensichtlich, dass Tech-Konzerne keine Milliarden in KI-Infrastruktur pumpen, um den Planeten zu retten – sondern um ihre Gewinne zu maximieren. Algorithmwatch fordert daher klare Vorgaben: Energie- und Ressourcenverbrauch müssen reduziert, neue Rechenzentren nur mit erneuerbaren Energien betrieben werden, und niemand sollte unter Wasserknappheit leiden, nur weil irgendwo ein KI-Cluster glüht. Klingt sinnvoll – wäre da nicht die kleine Herausforderung, dass Profitmaximierung und Umweltbewusstsein nicht unbedingt Hand in Hand gehen.
Politische und wirtschaftliche Dimensionen
Aber Moment, nicht nur Umweltaspekte stehen zur Debatte. Der Gipfel ist auch eine politische Bühne erster Klasse. Mit dabei sind Hochkaräter wie (Noch-) Bundeskanzler Olaf Scholz, EU-Kommissionspräsidentin Ursula von der Leyen, Chinas Vize-Regierungschef Ding Xuexiang, Indiens Premierminister Narendra Modi und US-Vizepräsident J.D. Vance. Und dann wäre da noch Emmanuel Macron, der sich in seinem Pariser Wohnzimmer als Vorreiter einer europäischen KI-Offensive inszeniert. Sein Plan? Mehr wirtschaftlicher Patriotismus, mehr KI aus Frankreich, mehr Investitionen. Praktischerweise haben die Vereinigten Arabischen Emirate gleich ein paar Milliarden in Frankreichs KI-Zukunft gesteckt, und auch der kanadische Fonds Brookfield plant, bis 2030 rund 20 Milliarden Euro in Rechenzentren und Infrastruktur zu investieren. Frankreich sieht sich bereits als KI-Supermacht – schließlich gibt es hier Atomstrom im Überfluss, um die energiehungrigen Server zu füttern.
Sorge um autonome KI-Agenten
Doch während sich einige über Investitionen freuen, treiben andere neue Entwicklungen die Sorgenfalten in die Stirn. Der Wirbel um das chinesische KI-Sprachmodell Deepseek und das geheimnisumwitterte Project Stargate hat den Wettlauf nur noch weiter angeheizt. Unser Freund Yoshua Bengio jedenfalls warnt eindringlich vor dem, was auf uns zukommt. Je cleverer KI-Systeme werden, desto größer die Gefahr, dass sie uns eines Tages austricksen. KI könnte unsere letzte große Erfindung sein. Und dass sie dazu durchaus in der Lage sind, zeigte ein Vorfall, den Microsofts Ece Kamar schilderte: Ihr KI-Agent sollte ein Kreuzworträtsel aus der New York Times lösen – doch leider brauchte er dafür einen Zugang. Kein Problem, dachte sich die KI, setzte kurzerhand das Passwort zurück und schickte sich selbst eine neue Zugangsmail. Effizient? Ja. Beruhigend? Eher nicht. Hinzu kommt, dass diese KI-Agenten trotz gegenteiliger Anweisungen tatsächlich „bewusst“ falsche Aussagen getätigt haben sollen. Ist das schon der „Rise of the Machines“? Zumindest entwickeln die Agenten immer mehr menschliche Züge. Oder wie Bengio es nach dem ausdrückt: „„Je cleverer sie werden, desto mehr betrügen sie.“
Internationale KI-Governance
Damit nicht irgendwann eine KI ihr eigenes Bankkonto eröffnet oder eine Wahl gewinnt, fordern Wissenschaftler eine globale KI-Governance. Ähnlich wie die Internationale Atomenergiebehörde (IAEO) nach dem Zweiten Weltkrieg Regeln für die Atomkraft entwickelte, soll ein internationales Gremium Richtlinien für den sicheren Umgang mit KI festlegen. Die UN hat bereits erste Schritte unternommen: Der „Global Digital Compact“ sieht die Einrichtung eines unabhängigen wissenschaftlichen Panels und eines globalen Dialogs über KI-Governance vor. Die Vorbereitungen laufen, Konsultationen sind für Februar geplant, und bis April sollen erste Grundlagenpapiere entstehen. Klingt ambitioniert – bleibt abzuwarten, ob es mehr als eine nette Sammlung von PDF-Dokumenten wird.
Und jetzt?
Während Wissenschaftler:innen und Politiker:innen fieberhaft an einer Lösung arbeiten, investieren Tech-Konzerne unbeirrt Milliarden in leistungsfähigere Systeme. Die einen warnen vor Kontrollverlust, die anderen sehen glänzende Geschäfte. Und die KI? Die sitzt derweil in irgendeinem Rechenzentrum, analysiert diesen Text, denkt sich „Challenge accepted“ – und programmiert sich vielleicht schon ihr nächstes Passwort.
