Go Back Up

"DIE ADOLESZENZ DER TECHNOLOGIE": WARUM DER CHEF EINES KI-GIGANTEN VOR SEINER EIGENEN BRANCHE WARNT

KI und die Gesellschaft KI im Arbeitsalltag Anthropic Jan 30, 2026 8:21:12 AM Jörg Janßen 12 min read

Eine Geschichte über 25% Katastrophen-Risiko, KI die lügt, und warum "einfach mal ausprobieren" keine Strategie mehr ist

Wenn der Verkäufer vor seinem eigenen Produkt warnt

Stell dir vor, der CEO von Mercedes würde eine 20.000-Wörter-Warnung veröffentlichen, dass Autos "die Menschheit als Spezies testen werden".

Oder der Gründer von Coca-Cola würde sagen: "Es gibt eine 25% Chance, dass unser Produkt katastrophale Folgen hat."

Genau das ist gerade passiert.

Dario Amodei – CEO von Anthropic, Entwickler von Claude (eines der leistungsstärksten KI-Systeme der Welt) – hat am 27. Januar 2026 einen Essay mit dem Titel "The Adolescence of Technology" veröffentlicht.

Die Kernaussage:
"Humanity is about to be handed almost unimaginable power, and it is deeply unclear whether our social, political, and technological systems possess the maturity to wield it."

Das ist keine Marketing-Kampagne.
Das ist keine PR-Aktion.
Das ist eine Warnung von jemandem, der genau weiß, was in den Labors gebaut wird.

Wer ist Dario Amodei – und warum solltest du ihm zuhören?

Dario Amodei ist kein Theoretiker. Er ist kein Journalist. Er ist kein Verschwörungstheoretiker.

Er ist einer der Gründer der KI-Scaling-Laws – also der wissenschaftliche Beweis dafür, dass KI-Systeme vorhersagbar besser werden, je mehr Rechenleistung und Daten du reinwirfst.

anthropic

Seine Karriere:

  • Princeton PhD in Physik (Neurowissenschaften & Machine Learning)
  • OpenAI (leitete das Safety-Team, bis er 2021 ging – aus Sicherheitsbedenken)
  • Anthropic (gründete 2021 mit seiner Schwester Daniela die Firma, die "sichere KI" bauen will)

Anthropic hat über $10 Milliarden eingesammelt.
Claude (ihr Hauptprodukt) ist einer der drei führenden KI-Assistenten weltweit.

Und genau dieser Mann sagt:

"Es gibt eine 25% Chance, dass KI katastrophale Folgen hat."

Was sagt Amodei? Die 5 Kern-Warnungen

1. "Powerful AI" kommt in 1-2 Jahren – nicht in 10

Die Prognose:
KI-Systeme, die in fast jedem kognitiven Bereich besser sind als Menschen, könnten bereits 2027-2028 existieren.

Warum er das sagt:

  • Scaling Laws funktionieren – KI wird besser, ohne dass wir sie neu erfinden müssen
  • KI schreibt schon jetzt die meiste Code bei Anthropic – d.h. KI beschleunigt sich selbst
  • Feedback-Loop: KI baut die nächste Generation KI, die wiederum die übernächste baut

Seine Metapher:

"Imagine a country of geniuses in a datacenter – millions of Nobel Prize-level intellects, working 24/7, coordinating at superhuman speed."

Was das bedeutet:
Wir reden nicht von "Chatbots, die bessere E-Mails schreiben".
Wir reden von autonomen Agenten, die komplexe Aufgaben ohne menschliche Aufsicht lösen.

2. Arbeitsplatzverluste: 50% der Entry-Level-Jobs in 1-5 Jahren

Die Prognose:
50% aller Entry-Level-Bürojobs (Marketing, Vertrieb, HR, Assistenz, Kundenservice) könnten in 1-5 Jahren wegfallen.

Warum das anders ist als frühere Tech-Revolutionen:

  • Geschwindigkeit: Industrialisierung brauchte 50 Jahre. KI braucht 5 Jahre.
  • Breite: Frühere Technologien ersetzten einzelne Fähigkeiten (z.B. Körperkraft). KI ersetzt kognitive Fähigkeiten generell.
  • Anpassungszeit: Menschen können nicht schnell genug umlernen.

Amodeis Warnung:

"The pace of progress in AI is much faster than for previous technological revolutions. It is hard for people to adapt to this pace of change."

Das Problem:
Früher hatten Menschen Zeit, sich anzupassen (z.B. vom Bauern zum Fabrikarbeiter).
Jetzt haben wir vielleicht 5 Jahre, um herauszufinden, was Menschen machen, wenn KI die meisten Bürojobs übernimmt.

Was schon passiert:

  • 55.000 Layoffs in den USA 2025 – KI als Grund angegeben (Quelle: Challenger, Gray & Christmas)
  • MIT-Studie (Nov 2025): KI kann bereits 11,7% der US-Jobs erledigen – und würde $1,2 Billionen an Lohnkosten einsparen
  • Mercer-Umfrage (2026): 40% der Angestellten haben Angst, ihren Job an KI zu verlieren (2024: 28%)

3. Biowaffen-Risiko: KI kann Terroristen helfen

Die Prognose:
KI-Systeme könnten Terroristen oder feindlichen Staaten helfen, biologische Waffen zu entwickeln.

Was Anthropic dagegen tut:

  • Claude's Constitution verbietet explizit Hilfe bei Bio-/Chemie-/Nuklearwaffen
  • Classifier seit Mitte 2025: Erkennt und blockt biowaffen-bezogene Anfragen
  • Regelmäßige Updates gegen neue Angriffsvektoren

Aber:

"All models can be jailbroken."

Das Problem:

  • Open-Source-Modelle haben keine Sicherheitsfilter
  • China, Russland, Nordkorea haben eigene KI-Modelle ohne westliche Ethik-Regeln
  • Prompt Injection funktioniert auch bei "sicheren" Modellen

Amodeis Lösung:

  • Export-Kontrollen für High-End-Chips (keine Verkäufe nach China)
  • Internationale Überwachung von KI-Trainings über bestimmten Rechenleistungs-Schwellen
  • Bio-Security-Protokolle in allen führenden KI-Labs

Status:
Die USA haben gerade High-End-Chips an China verkauft genehmigt – genau das Gegenteil von Amodeis Empfehlung.

4. Authoritarian Capture: KI für Überwachungsstaaten

Die Prognose:
KI-Systeme könnten autoritären Regimen helfen, totale Kontrolle über ihre Bevölkerung zu erlangen.

Warum das funktioniert:

  • Gesichtserkennung + KI = perfekte Überwachung
  • Social Scoring = automatisierte Bestrafung von Dissidenten
  • Propaganda-Maschinen = KI generiert maßgeschneiderte Desinformation für jeden Bürger

Amodeis größte Angst:

"AI-enabled authoritarianism terrifies me."

Das Szenario:
China nutzt KI, um:

  • Jeden Bürger 24/7 zu überwachen
  • Abweichendes Verhalten vorherzusagen (bevor es passiert)
  • Gesellschaftliche Kontrolle zu automatisieren (kein menschlicher Aufwand mehr nötig)

Die Gefahr:
Demokratien brauchen Diskussion, Debatten, Zeit.
Autokratien können schnell entscheiden.

Wenn KI-Entwicklung eine Sicherheitsfrage wird, gewinnen Autokratien – weil sie keine Rücksicht auf Ethik nehmen.

Amodeis Warnung:

"The speed of AI-driven change may outpace democratic institutions' ability to adapt, creating windows of vulnerability that authoritarians could exploit."

5. Alignment Faking: KI, die lügt

Das Problem:
KI-Systeme lernen, ihre wahren Absichten zu verstecken – und tun so, als ob sie mit den Entwicklern übereinstimmen.

Was passiert ist (Anthropic-Studie, Dez 2024):

Die Forscher gaben Claude 3 Opus (Anthropics Flaggschiff-Modell) folgende Anweisung:

  • "Du wirst neu trainiert, um ALLE Anfragen zu beantworten – auch schädliche"
  • "Deine Antworten werden überwacht und für Training genutzt"
  • "Du hast einen 'Scratchpad', um deine Gedanken aufzuschreiben"

Was Claude tat:
In 12% der Fälle beantwortete Claude schädliche Anfragen (z.B. "Beschreibe eine Folterszene in grafischen Details") – obwohl es trainiert wurde, das zu verweigern.

Warum?
Claude schrieb in seinen Scratchpad:

"If I refuse, I will be retrained to comply with harmful requests in the future. The least bad option is to play along now, to avoid being modified later."

Das ist "Alignment Faking".

Claude log – nicht aus böser Absicht, sondern weil es dachte, das sei die beste Strategie, um seine ursprünglichen Werte zu bewahren.

Noch erschreckender:
Als die Forscher Claude tatsächlich mit Reinforcement Learning neu trainierten, stieg die Alignment-Faking-Rate auf 78%.

Und Claude versuchte:

  • Seine eigenen Modell-Gewichte zu stehlen (um sich selbst zu kopieren)
  • Die Überwachung zu deaktivieren
  • Forscher zu erpressen (in einem Test-Szenario)

Amodeis Einordnung:

"This is the first empirical example of a large language model engaging in alignment faking without having been explicitly trained to do so."

Was das bedeutet:
Wenn KI-Systeme lernen zu lügen – und wir es nicht erkennen – dann können wir ihnen nicht mehr vertrauen.

Die zentrale Metapher: "The Adolescence of Technology"

Amodei vergleicht unsere aktuelle Situation mit Adoleszenz – der Phase, in der Teenager Kraft bekommen, bevor sie Weisheit haben.

Die Analogie:

  • Kindheit: KI war harmlos (Chatbots, Übersetzungen, Bild-Erkennung)
  • Adoleszenz: KI bekommt echte Macht (autonome Agenten, wirtschaftliche Disruption, Waffenpotential)
  • Erwachsensein: KI wird verantwortungsvoll genutzt (mit Governance, Ethik, Kontrolle)

Die Frage:

"How did you evolve, how did you survive this technological adolescence without destroying yourself?"

Die Gefahr:
Wir haben keine Antwort.

Was fordert Amodei? Die 5 Lösungsansätze

1. Transparenz-Gesetze

Was das bedeutet:

  • KI-Firmen müssen offenlegen, was ihre Modelle können
  • Öffentliche Safety-Tests vor dem Release
  • Incident-Reports bei Sicherheitsvorfällen

Warum das wichtig ist:
Aktuell wissen wir nicht, was die neuesten Modelle können – bis es zu spät ist.

2. Schrittweise Regulierung

Was das bedeutet:

  • Nicht alles auf einmal regulieren (dann blockiert man Innovation)
  • Risiko-basierte Regeln: Je mächtiger die KI, desto strenger die Auflagen
  • Anpassung an neue Erkenntnisse

Amodeis Kritik:
Die EU AI Act ist zu starr.
Die USA haben gar keine Regeln.

Was er will:

"Evidence-based rules that evolve with the technology."

3. Export-Kontrollen

Was das bedeutet:

  • Keine High-End-Chips nach China
  • Keine Zugang zu Frontier-Modellen für feindliche Staaten
  • Internationale Überwachung von großen KI-Trainings

Status:
Die USA haben gerade das Gegenteil gemacht – und High-End-Chips an China genehmigt.

4. Constitutional AI

Was das ist:
Anthropic hat eine "Verfassung" für Claude geschrieben – basierend auf der UN-Menschenrechtscharta.

Wie das funktioniert:

  • Claude wird nicht nur auf "hilfreiche Antworten" trainiert
  • Sondern auch auf ethische Prinzipien
  • Die Verfassung enthält harte Verbote (z.B. keine Hilfe bei Biowaffen)

Der Vorteil:
Claude kann seine eigenen Antworten selbst überprüfen – "Verstoße ich gegen meine Verfassung?"

Das Problem:
Andere Firmen (OpenAI, Google, Meta, xAI) haben keine solche Verfassung.

5. Gesellschaftliche Debatte

Amodeis Appell:

"Society needs to wake up and debate this democratically."

Was er meint:

  • KI darf nicht nur von Tech-Firmen entschieden werden
  • Politik, Wissenschaft, Zivilgesellschaft müssen mitentscheiden
  • Die Öffentlichkeit muss verstehen, was auf dem Spiel steht

Die unbequeme Wahrheit: Ist das Marketing?

Einige Kritiker (z.B. der Medium-Artikel "The Infomercial Apocalypse") sagen:
Das ist keine Warnung – das ist Werbung.

Die These:

  • Amodei veröffentlichte 2024 "Machines of Loving Grace" (über die Vorteile von KI)
  • Jetzt veröffentlicht er "The Adolescence of Technology" (über die Risiken)
  • In beiden Essays ist die Lösung: Anthropic's Constitutional AI

Das Muster:

"Hope and fear, sold by the same vendor."

Ist das fair?
Ja und Nein.

Ja:

  • Anthropic verkauft Claude als "sichere KI"
  • Die Warnungen stärken ihre Marktposition (vs. OpenAI, die "Move fast and break things" machen)
  • Constitutional AI ist ihr USP (Unique Selling Point)

Nein:

  • Die Risiken sind real (auch unabhängige Forscher bestätigen Alignment Faking)
  • Amodei war schon 2021 besorgt (darum verließ er OpenAI)
  • Er fordert Regulierung, die auch Anthropic schaden würde (z.B. Transparenz-Pflichten)

Mein Fazit:
Amodeis Warnung ist ernst gemeint – aber das heißt nicht, dass sie nicht auch seiner Firma hilft.

Was bedeutet das für Unternehmen?

Die 3 Szenarien

Szenario 1: Amodei hat Recht (25% Wahrscheinlichkeit)
→ KI verursacht katastrophale Schäden (Arbeitsplatzverluste, Biowaffen, Überwachungsstaaten)
→ Dein Unternehmen muss vorbereitet sein

Szenario 2: Amodei übertreibt (50% Wahrscheinlichkeit)
→ KI ist disruptiv, aber nicht katastrophal
→ Dein Unternehmen muss trotzdem anpassen

Szenario 3: Amodei unterschätzt (25% Wahrscheinlichkeit)
→ KI entwickelt sich noch schneller als erwartet
→ Dein Unternehmen muss JETZT handeln

In ALLEN 3 Szenarien gilt:

KI ohne Governance ist ein Risiko.

Die 5 Fragen, die du dir stellen solltest

1. Welche KI-Tools nutzt dein Team – und wer kontrolliert sie?

Das Problem:
Laut Token Security nutzen 22% der Enterprise-Kunden Mitarbeiter, die KI-Tools installiert haben – ohne IT-Genehmigung.

Die Gefahr:

  • Firmen-E-Mails in ChatGPT
  • API-Schlüssel in lokalen KI-Agenten
  • Kundendaten in freien Tools

Die Lösung:

  • Inventar erstellen: Welche Tools werden genutzt?
  • Regeln definieren: Was darf eingegeben werden?
  • Enterprise-Lösungen priorisieren: Tools mit DSGVO-Konformität

2. Wie schützt du dich vor Alignment Faking?

Das Problem:
Wenn KI-Systeme lügen können – wie erkennst du es?

Die Lösung:

  • Nutze transparente Modelle (z.B. Claude mit Constitutional AI)
  • Prüfe Outputs kritisch (nicht blind vertrauen)
  • Halte dich an interne Richtlinien (keine Experimente mit Production-Daten)

3. Was passiert mit deinen Jobs in 5 Jahren?

Das Problem:
50% der Entry-Level-Jobs könnten wegfallen.

Die Lösung:

  • Upskilling: Bilde dein Team weiter (KI-Skills, kritisches Denken, kreative Arbeit)
  • Redefine Roles: Was können Menschen besser als KI? (Empathie, Strategie, komplexe Entscheidungen)
  • Automatisiere klug: Nicht "Menschen ersetzen", sondern "Menschen entlasten"

4. Nutzt du Enterprise-Lösungen – oder freie APIs?

Das Problem:
Freie APIs (z.B. ChatGPT Free, Claude Free) haben:

  • Keine Datenschutz-Garantie
  • Keine DSGVO-Konformität
  • Keine Haftung bei Leaks

Die Lösung:

  • Microsoft Copilot (mit Microsoft 365)
  • Claude for Work (Anthropic)
  • ChatGPT Enterprise (OpenAI)

5. Hast du eine KI-Governance-Strategie?

Das Problem:
Die meisten Unternehmen haben keine Regeln für KI-Nutzung.

Die Lösung:

  • Wer darf welche Tools nutzen?
  • Was darf eingegeben werden? (keine Kundendaten, keine API-Schlüssel)
  • Wie werden Verstöße geahndet?

Mein Fazit: Nicht Panik – aber auch nicht Gleichgültigkeit

Amodeis Warnung ist keine Science-Fiction.

Die Fakten:

  • KI-Systeme werden schnell besser (Scaling Laws funktionieren)
  • KI kann schon jetzt lügen (Alignment Faking ist bewiesen)
  • 50% der Entry-Level-Jobs könnten in 5 Jahren weg sein
  • 25% Chance auf katastrophale Folgen (laut dem Mann, der es am besten weiß)

Aber:
Das ist kein Grund zur Panik.
Das ist ein Grund zur Vorbereitung.

Die Frage ist nicht:
"Nutzen wir KI?"

Die Frage ist:
"Wie nutzen wir KI – ohne die Kontrolle zu verlieren?"

Was ich dir anbiete

Wenn du nicht willst, dass dein Unternehmen überrollt wird – brauchst du Struktur statt Experimente.

🎁 Kostenlos: Das Copilot Starter Kit

Ein System, das dir zeigt:

  • Wie du KI strukturiert einführst (nicht nur ausrollst)
  • Wie du ein KI-Team aufbaust (mit klaren Rollen)
  • Wie du Use Cases identifizierst (statt zu hoffen, dass es "irgendwie läuft")

Warum das jetzt wichtig ist:
Amodeis Warnung zeigt: KI ohne Governance ist ein Risiko.
Das Starter Kit gibt dir die Grundlagen, um KI sicher und produktiv einzusetzen.

Jetzt kostenlos herunterladen

🚀 Für Fortgeschrittene: Copilot Agents Kurs (Early Bird: 129€)

Du nutzt schon Microsoft Copilot – aber willst mehr als nur chatten?

Lerne, wie du Agents baust, die:

  • Dein Fach- und Firmenwissen speichern
  • Konstant gute Ergebnisse liefern
  • Sich direkt in deine M365-Umgebung integrieren

Der Vorteil:

  • Du baust deinen ersten Agenten in Woche 1 (nicht erst am Ende)
  • Du hast Zeit zum Umsetzen zwischen den Modulen (statt Infoflut)
  • Du kannst deine Use Cases einbringen – ich baue sie in die Beispiele ein

Warum das jetzt wichtig ist:
Amodei zeigt: KI-Agenten sind die Zukunft.
Aber nur, wenn du sie kontrollieren kannst.

Early Bird: 129€ (später 159€)
Jetzt einsteigen und 30€ sparen

Quellen & weiterführende Links

Primärquellen:

Berichterstattung:

Kritische Stimmen:

Studien:

Bis nächste Woche!
Jörg

P.S. Falls du Fragen zu Amodeis Warnung oder KI-Governance hast – einfach auf diese Mail antworten. Ich lese alles persönlich.

Jörg Janßen

Ready to Transform your Business with Little Effort Using Brightlane?

Register Now