Podcasts · apolut: Tagesdosis

KI außer Kontrolle! | Von Michael Hollister

15 Sep 2026 · 16 min

Wer kontrolliert den, der alles sieht? Was Anthropics Missbrauchsbericht über die Macht der KI-Konzerne verrät.

Anthropics neuer Threat-Intelligence-Bericht liest sich wie ein Blick in die Schattenseite der KI: Claude soll für Raketenlenksysteme im Nordjemen, militärische Software, Überwachung, Cyberoperationen und biologische Dual-Use-Forschung eingesetzt worden sein. Doch die brisantere Enthüllung liegt tiefer. Der Bericht zeigt, wie weit ein privater KI-Konzern reale militärische, staatliche und wissenschaftliche Aktivitäten beobachten, bewerten und unterbinden kann - ohne unabhängige Kontrolle. Wer kontrolliert ein Unternehmen, das zugleich Werkzeug, Beobachter, Ermittler und Richter ist?

Ein Kommentar von Michael Hollister.

Ein Unternehmen veröffentlicht einen Bericht über den Missbrauch seines eigenen Produkts - und legt damit nebenbei offen, wie tief es in Dinge hineinsieht, die sonst niemand sieht. In Raketenprogramme im Nordjemen. In biowaffennahe Laborforschung. In staatliche Cyberoperationen mehrerer Länder. Anthropic, der Hersteller der KI Claude, dokumentiert auf 154 Seiten, wer versucht hat, seine Modelle für Waffen, Überwachung und Sabotage zu nutzen. Die Schlagzeile lautet fast überall gleich: KI hilft beim Bombenbau. Die interessantere Frage steht darunter. Sie lautet nicht, ob Künstliche Intelligenz gefährlich ist. Sie lautet, wer eigentlich die Firmen kontrolliert, die inzwischen zugleich Werkzeug, Beobachter und Ermittler dieser Nutzung sind.

Der Anlass

Am 10. September 2026 veröffentlichte Anthropic seinen bereits vierten Bericht über die missbräuchliche Nutzung seiner KI-Modelle, „Detecting and countering misuse of AI". Das Dokument umfasst 154 Seiten und beschreibt Fälle aus dem Zeitraum Dezember 2025 bis August 2026, geordnet nach sieben Feldern: Cyberoperationen, Einflusskampagnen, Überwachung, Betrug, biologischer Missbrauch, konventionelle Waffenentwicklung und die verdeckte Nachbildung fremder Modelle. Genutzt wurden nach Angaben des Unternehmens die Modellfamilien Claude Haiku, Sonnet und Opus. Neu und über die üblichen Cyberfälle hinausgehend sind zwei Kapitel, die den Report von einem gewöhnlichen IT-Sicherheitsdokument zu etwas anderem machen: die Entwicklung physischer Waffen und die Arbeit an gefährlichen Krankheitserregern. Die drei vorangegangenen Berichte aus dem Jahr 2025 drehten sich vor allem um Cyberangriffe und Einflusskampagnen; die physische Waffen- und die biologische Dimension treten hier erstmals in dieser Ausführlichkeit hinzu. In beiden Feldern beschreibt Anthropic nicht, was theoretisch möglich wäre, sondern was es nach eigener Darstellung tatsächlich beobachtet hat. Genau dieser Punkt - beobachtet, nicht simuliert - ist der eigentliche Kern des Berichts.

...https://apolut.net/ki-ausser-kontrolle-von-michael-hollister/

The episode on the publisher’s site ↗ (opens in a new tab)