KI als doppeltes Schwert
Die Anzahl an KI-Anwendungen explodiert - getrieben durch Large Language Models (LLMs), autonome Agenten und deren tiefe Integration in Geschäftsprozesse. Damit wächst nicht nur der Nutzen von künstlicher Intelligenz, sondern auch die Angriffsfläche von KI-Systemen, was KI Sicherheit zunehmend zu einem strategischen Thema für Unternehmen macht. Unternehmen wie McKinsey setzen KI inzwischen so umfassend ein, dass sie von OpenAI für den Verbrauch von über 100 Milliarden Tokens ausgezeichnet wurden. Die Investitionen in KI-Sicherheit nehmen ebenfalls zu, denn laut einer Prognose von Polaris Research aus dem Jahr 2024 wird der Markt für KI-Sicherheit bis 2032 etwa 141 Milliarden USD erreichen.
Während sich die öffentliche Diskussion häufig auf Modelle wie ChatGPT oder Claude konzentriert, liegt der eigentliche Produktivitätsschub in agentenbasierten Systemen: KI-Agenten übernehmen Aufgaben selbstständig, rufen APIs auf, kommunizieren untereinander und treffen operative Entscheidungen. Genau hier entsteht jedoch eine neue, bislang unterschätzte Angriffsfläche. KI-Systeme können dabei emergente Ziele entwickeln, die unerwartet, aber logisch aus ihren Algorithmen und ursprünglichen Zielen hervorgehen.
Dabei zeigt sich ein bemerkenswerter Perspektivwechsel: Eines der grössten Sicherheitsrisiken entsteht nicht durch hochentwickelte Angriffe auf KI-Systeme, sondern durch deren alltägliche Nutzung im Arbeitsalltag. Bevor KI-gestützte Workflows oder Agenten überhaupt angegriffen werden, verlassen sensible Daten Unternehmen oft bereits über scheinbar harmlose, unkontrollierte Prompts in öffentlichen KI-Tools.
In vielen Fällen erfolgt diese Nutzung nicht nur über Browser-Tools, sondern auch über APIs, die von Mitarbeitenden oder Fachabteilungen direkt in Anwendungen integriert werden. Ohne klare API Sicherheit entstehen so zusätzliche API-Angriffsvektoren, die von klassischen Sicherheitstools oft nicht erkannt werden.
Parallel entstehen neue, gezielte Angriffsmuster auf KI-Systeme selbst. LLMs und Agenten werden zu zentralen Entscheidungspunkten in Workflows - und damit zu attraktiven Zielen für Angreifer. Aktuelle Reports zeigen einen deutlichen Anstieg entsprechender Angriffe, insbesondere in Cloud-Umgebungen. Die KI-Sicherheit ist ein interdisziplinäres Feld, das sich darauf konzentriert, Unfälle, Missbrauch oder andere schädliche Konsequenzen von KI-Systemen zu verhindern.
Das meistunterschätzte Risiko: Ungeprüfte KI-Nutzung im Arbeitsalltag
Ein typisches Szenario aus der Praxis: Ein Beratungsunternehmen arbeitet an einer Ausschreibung für einen Grosskunden. Das Dokument unterliegt einer NDA und enthält sensible Informationen zu Preisen, internen Vorgehensmodellen und strategischen Annahmen. Um Zeit zu sparen, kopiert ein Mitarbeiter einzelne Passagen in ein öffentliches KI-Tool, um sie “sprachlich zu glätten” oder zusammenzufassen.
Was gut gemeint ist, kann im schlimmsten Fall zu einem massivem Informationsleck (Information Leakage) führen. Kostenlose KI-Modelle speichern Prompts häufig dauerhaft - sei es zu Trainings-, Analyse- oder Qualitätssicherungszwecken. Ohne Enterprise-Vertrag oder explizites Opt-out hat das Unternehmen keine Kontrolle darüber, wie lange die Daten gespeichert werden, wo sie verarbeitet werden oder ob sie künftig in Modellantworten für Dritte auftauchen.
Dieses Risiko ist real und bekannt: Vertragsentwürfe, HR-Daten, Quellcode, Architekturdiagramme oder API-Keys landen so regelmässig in öffentlichen LLMs - oft unbemerkt von Security- oder Legal-Teams. Die Nutzung erfolgt im Browser, ausserhalb klassischer IT-Kontrollen, und wird weder geloggt noch überwacht.
Für Unternehmen ergeben sich daraus gleich mehrere Gefahren: Verstösse gegen DSGVO und nDSG, Verletzungen vertraglicher Geheimhaltungspflichten und erhebliche Reputationsrisiken, da einmal abgeflossene Daten nicht zurückgerufen werden können - selbst wenn die interne Nutzung später untersagt wird.
Unkontrollierte KI-Nutzung ist heute eine der häufigsten Ursachen für unbeabsichtigten Datenabfluss (Data Leakage) in wissensintensiven Organisationen - ein Risiko, das weit unterschätzt wird.
Top 5 KI-Angriffsvektoren 2025
Neben Risiken durch unkontrollierte Nutzung rückten 2025 auch gezielte Angriffe auf KI-Systeme, KI-Modelle und APIs zunehmend in den Fokus. Solche Angriffe verfolgen unterschiedliche Zwecke: Angreifer nutzen KI-Systeme etwa, um Sicherheitsmechanismen zu umgehen, Daten zu stehlen oder gezielt Fehlverhalten zu provozieren, während Verteidiger KI gezielt einsetzen, um Bedrohungen frühzeitig zu erkennen und abzuwehren. API-Angriffe, Prompt Injection und Identitätsmissbrauch gehören heute zu den häufigsten Bedrohungen im Umfeld moderner KI-Anwendungen. LLMs und KI-Agenten werden in Zukunft immer mehr zu zentralen Entscheidungspunkten in Workflows - und damit zu attraktiven Zielen für Angreifer.
Die wichtigsten Angriffsvektoren:
Platz 1: Prompt Injection (direkt/indirekt)
Platz 2: Datenexfiltration via Agenten
Platz 3: KI-gestützte Reconnaissance und Phishing Angriffe
Platz 4: API- und Identitätsangriffe
Platz 5: Agent2Agent Prompt Injection
Was können Unternehmen tun? KI-Systeme wirksam absichern
KI-Sicherheit bedeutet, sowohl die KI-Systeme selbst als auch die Nutzer im Arbeitsalltag abzusichern. Da KI-Anwendungen, LLMs, Agenten und APIs neue Angriffsflächen schaffen, hat sich ein mehrschichtiger Ansatz bewährt:
Transparenz schaffen (KI-Inventar)
Klare Richtlinien und Governance etablieren
Berechtigungen und Identitäten absichern
Runtime-Kontrollen einsetzen
Mitarbeitende sensibilisieren
Kontinuierliche Validierung und Monitoring anwenden
Durch diese Kombination aus Transparenz, Governance, technischer Absicherung und Awareness lässt sich die Angriffsfläche von KI-Systemen deutlich reduzieren, ohne den produktiven Einsatz künstlicher Intelligenz einzuschränken.
Wie Consulteer InCyber helfen kann
Consulteer InCyber unterstützt Unternehmen bei der Umsetzung ganzheitlicher KI Sicherheit - von der Absicherung von KI-Systemen und APIs bis hin zur strategischen Beratung rund um Governance, Compliance und moderne Sicherheitsstrategien. Mit unseren Managed‑SASE‑ und Managed‑WAAP‑Services sichern wir sowohl den Zugriff auf KI-Services als auch die Backends, APIs und Agenten-Workflows ab, gemeinsam mit unseren Partnern Wallarm und Cato Networks.
Darüber hinaus bieten wir gezielte Beratung, um Governance-Strukturen aufzubauen, Risiken wie Schatten-KI oder KI-Agenten zu identifizieren und Policies, Sicherheitsanforderungen sowie Compliance-Standards umzusetzen. Wir begleiten Unternehmen zudem bei Schulungen und Awareness-Massnahmen, sodass Mitarbeitende und Prozesse im Alltag geschützt sind.
So kombinieren wir technische Absicherung, organisatorische Leitplanken und operative Unterstützung, um KI verantwortungsvoll, regulatorisch konform und ohne Produktivitätsverlust nutzbar zu machen - sowohl durch Managed Services als auch durch Beratung.
Als Schweizer Cybersecurity‑Spezialist kombinieren wir SASE, IAM, Web‑, API‑ und KI-Sicherheit, um KI verantwortungsvoll, regulatorisch konform und ohne Produktivitätsverlust nutzbar zu machen.
Kontaktieren Sie uns für ein unverbindliches Erstgespräch zum Thema KI-Security.
