Sicherheitsprüfung von KI kostet den US-Steuerzahler Milliarden Dollar

Der US-Geheimdienst NSA gibt nach Angaben von mit den Vorgängen vertrauten Personen in diesem Jahr Milliarden Dollar für die Prüfung und Erprobung fortgeschrittener KI-Modelle aus. Das ist massiv viel mehr, als das Parlament bisher annahm.

NSA testet mit hohem Aufwand

Im Mittelpunkt der Arbeit der NSA in diesem Bereich stehen Untersuchungen von KI-Modellen auf mögliche Sicherheits- und Schwachstellen. Die NSA hat dafür ein eigenes Artificial Intelligence Security Center eingerichtet, berichtet die Washington Sun. Die Behörde sieht KI nach eigenen Angaben als neue und schnell wachsende Angriffsfläche, die auch von gegnerischen Akteuren ausgenutzt werden könnte.

Wie hoch die Ausgaben der NSA genau sind, ist nicht bekannt. Die Finanzierung erfolgt aus geheimen Teilen des nationalen Sicherheitsbudgets. Das US-Verteidigungsministerium wollte die konkrete Mittelverwendung nicht kommentieren. Ein Sprecher verwies auf Sicherheitsgründe und erklärte, dass weder technische Architekturen noch die Ressourcenverteilung für entsprechende KI-Systeme offengelegt würden.


Ein wesentlicher Kostenfaktor ist die benötigte Rechenleistung. Für umfassende Tests müssen leistungsfähige KI-Modelle wiederholt mit unterschiedlichen Szenarien und Angriffen konfrontiert werden. Dafür sind große Mengen an Rechenkapazität und entsprechend viele Hochleistungschips erforderlich. Hinzu kommen die Personalkosten: Hochqualifizierte KI-Entwickler und Sicherheitsexperten können in der Privatwirtschaft Vergütungspakete im dreistelligen Millionenbereich erhalten. Selbst die technisch gut ausgestattete NSA kann mit solchen Angeboten nur schwer konkurrieren.

Parlament ahnt nichts

Aufgrund dessen gehen die Annahmen, die der Arbeit der Parlamentsabgeordneten zugrunde liegen, und die Realität weit auseinander. Das Congressional Budget Office hatte etwa für einen Gesetzentwurf zur Einrichtung eines Zentrums für KI-Risiken Kosten von rund 20 Millionen Dollar jährlich veranschlagt. Ein weiteres Vorhaben zur Erfassung und Überwachung von KI-Systemen sollte demnach über fünf Jahre insgesamt 36 Millionen Dollar kosten. Die aktuellen NSA-Ausgaben zeigen, dass eine groß angelegte technische Prüfung der leistungsfähigsten Modelle deutlich teurer sein kann.

Damit stellt sich zunehmend die Frage, wer für unabhängige KI-Sicherheitsprüfungen bezahlen soll. Diskutiert wird unter anderem eine Abgabe für Entwickler besonders leistungsfähiger Modelle. So könnten Unternehmen einen Teil der Kosten für staatliche oder unabhängige Audits übernehmen. Anthropic und OpenAI haben sich grundsätzlich für eine stärkere staatliche Aufsicht offen gezeigt. Parallel arbeiten Google, OpenAI und Anthropic an eigenen Sicherheitsstandards.

Die Debatte gewinnt zusätzlich an Bedeutung, weil die US-Regierung inzwischen freiwillige Prüfungen besonders leistungsfähiger Modelle vorsieht. Experten warnen zugleich davor, dass eine Prüfung allein durch die Hersteller Interessenkonflikte schaffen könnte.


Siehe auch: