Internationale Medien

KI-Funktionen für PR-Software

Ein Risiko, das niemand versichern will

Künstliche Intelligenz könnte an demselben Wendepunkt angekommen sein, an dem einst die Kernenergie stand: fasziniert von der eigenen Macht, aber blind für die Risiken, die sie entfesseln könnte. Die Parallele ist mehr als symbolisch, denn der Turing-Preisträger Yoshua Bengio, Mitbegründer des Deep Learning, spricht offen davon, dass KI „die neue Atomkraft“ sei – nur ohne Reaktorgehäuse. Auf dem Financial Times Future of AI Summit in London forderte Bengio gerade, Regierungen müssten KI-Unternehmen verpflichten, Haftpflichtversicherungen nach dem Vorbild der Atomindustrie abzuschließen. Den Optimismus des Silicon Valley kommentiert er: „Ich weiß es nicht – aber ich will nicht die Zukunft meiner Kinder darauf wetten.“

Bengio spricht damit aus, was viele im Sektor ahnen – dass der freiwillige Weg der Selbstregulierung gescheitert ist, weil Marktkräfte nicht Sicherheit, sondern Geschwindigkeit belohnen. Heute investieren Konzerne wie OpenAI, Anthropic und Google Milliarden in Rechenleistung, aber kaum in Sicherheit. Nach aktuellen Schätzungen fließen weniger als zwei Prozent der weltweiten KI-Investitionen in Safety-Forschung. Der Rest in Performance. Ein Verhältnis von 1 : 50 – zugunsten der Gefahr.

Der Grund liegt im System: Die Branche -so Beobachter- befindet sich in einem Spieltheorie-Dilemma, einer Spirale des Misstrauens. Wer Sicherheitsprüfungen verlängert, verliert Marktanteile. Also beschleunigen alle. Fei-Fei Li, Pionierin der menschenzentrierten KI, formulierte am Londoner Gipfel die Gegenperspektive: „Es ist nicht die Verantwortung von sieben Unternehmen – es ist die Verantwortung von uns allen.“

Europäische KI-Regulierung auf der Zielgeraden