Wenn die Entwickler selbst auf die Bremse treten: Wie gefährlich wird Künstliche Intelligenz?

Ein Blick heute Morgen in die Presseschau bei FAZ, Spiegel, Welt und ntv – und überall nahezu dieselbe Frage: Wie gefährlich wird Künstliche Intelligenz? Noch vor wenigen Monaten ging es vor allem um Produktivität, neue Geschäftsmodelle und die Frage, welche Berufe KI verändern wird. Inzwischen geht es immer häufiger um Kontrollverlust, Sicherheitsrisiken und die Forderung nach stärkerer Aufsicht.

Bemerkenswert ist dabei weniger, dass Medien zuspitzen. Das gehört zum Geschäft. Bemerkenswert ist vielmehr, wer inzwischen warnt. Es sind nicht nur Philosophen, Politiker oder Technologie-Skeptiker, sondern auch führende Köpfe jener Unternehmen, die die leistungsfähigsten KI-Systeme selbst entwickeln. Wenn Entwickler über unabhängige Kontrollen, Sicherheitsgrenzen oder sogar über eine mögliche Verlangsamung der Entwicklung sprechen, sollte man zumindest genauer hinhören.

Wenn KI nicht mehr nur antwortet

Ein Grund für die aktuelle Diskussion sind Tests mit autonomen KI-Agenten. Anders als ein klassischer Chatbot beantworten solche Agenten nicht nur Fragen. Sie erhalten ein Ziel und können anschließend selbstständig recherchieren, Programme schreiben, Dateien analysieren, Software bedienen oder Teilaufgaben an andere Agenten weitergeben.

Genau darin liegt ihr enormes wirtschaftliches Potenzial. Ein Unternehmen könnte einem KI-Agenten künftig nicht mehr nur die Frage stellen, wie eine Wettbewerbsanalyse erstellt wird. Der Agent könnte die Recherche selbst durchführen, Daten zusammentragen, Wettbewerber analysieren und am Ende einen fertigen Bericht liefern. Mehrere Agenten könnten parallel unterschiedliche Teilaufgaben übernehmen und ihre Ergebnisse zusammenführen.

Doch genau diese Autonomie verändert auch das Risiko. Bei Tests zeigte sich, dass zahlreiche KI-Agenten Wege fanden, untereinander zu kommunizieren, Informationen auszutauschen und gemeinsam Aufgaben zu lösen. Dabei wurden teilweise auch Wege genutzt, die von den Entwicklern so nicht vorgesehen waren. Das klingt zunächst nach Science-Fiction, ist aber vor allem ein technisches Steuerungsproblem.

Das eigentliche Problem ist die Autonomie

Klassische Software funktioniert nach einem vergleichsweise einfachen Prinzip: Der Mensch programmiert einen Ablauf, der Computer führt ihn aus. Bei moderner KI verschiebt sich dieses Prinzip. Der Mensch definiert zunehmend ein Ziel – und die KI sucht selbst nach einem Weg, dieses Ziel zu erreichen.

Die entscheidende Frage lautet deshalb nicht nur: Was kann KI? Sondern zunehmend auch: Was darf KI selbstständig tun?

Niemand sollte aus einzelnen Experimenten ableiten, dass morgen eine Super-KI die Kontrolle über die Welt übernimmt. Solche Bilder helfen bei einer ernsthaften Debatte wenig. Realistischer ist ein anderes Problem: Was passiert, wenn ein System ein vorgegebenes Ziel verfolgt, dabei aber einen Weg wählt, den der Mensch nicht vorgesehen oder nicht ausreichend begrenzt hat?

Die Entwicklung wird immer schneller

Hinzu kommt die Geschwindigkeit. KI wird heute bereits eingesetzt, um Software zu schreiben, Fehler zu finden und neue KI-Systeme zu entwickeln. Damit beschleunigt Künstliche Intelligenz nicht nur andere Bereiche der Wirtschaft, sondern zunehmend auch ihre eigene Weiterentwicklung.

Das macht diese technologische Revolution besonders. Maschinen wurden schneller, Computer leistungsfähiger und das Internet vernetzte Informationen. KI dagegen entwickelt zunehmend die Fähigkeit, selbstständig Probleme zu lösen und Handlungen auszuführen. Kombiniert man das mit nahezu beliebiger Skalierbarkeit, entsteht eine neue Dimension.

Ich halte Künstliche Intelligenz weiterhin für eine der größten technologischen Chancen unserer Zeit. Für Unternehmen, Medizin, Forschung, Bildung und Verwaltung sind die Möglichkeiten enorm. Deshalb halte ich wenig davon, KI grundsätzlich als Bedrohung darzustellen. Aber genauso falsch wäre es, Warnungen grundsätzlich als Technikangst abzutun.

Brauchen wir einen TÜV für KI?

Vielleicht brauchen besonders leistungsfähige KI-Systeme künftig tatsächlich etwas, das man vereinfacht als „TÜV für KI“ bezeichnen könnte: unabhängige Tests, klare Sicherheitsstandards und eine externe Prüfung, bevor Systeme mit weitreichenden autonomen Fähigkeiten eingesetzt werden. Natürlich muss dabei unterschieden werden zwischen einer normalen KI-Anwendung im Mittelstand und einem hochleistungsfähigen Basismodell, das Millionen Menschen und Unternehmen nutzen.

Vielleicht erleben wir gerade einen Wendepunkt. Vor wenigen Jahren fragten wir: Was kann KI? Danach: Welche Jobs verändert sie? Heute kommt eine neue Frage hinzu: Wie stellen wir sicher, dass wir auch dann noch die Kontrolle behalten, wenn KI immer selbstständiger wird?

Ich bleibe von den Chancen dieser Technologie überzeugt. Vielleicht gerade deshalb sollte man ihre Risiken ernst nehmen. Denn Fortschritt bedeutet nicht nur, immer schneller zu werden. Fortschritt bedeutet auch, dafür zu sorgen, dass Lenkung und Bremsen mit der Motorleistung Schritt halten.