Webinar on Demand | Hacking AI - Cyberrisiken in KI-gesteuerten Anwendungen verstehen

WEBINAR AUF ANFRAGE | CYBERSICHERHEIT

Wir laden Sie ein, sich die Aufzeichnung unseres kommenden Webinars über die Cybersicherheitsrisiken von KI-gesteuerten Anwendungen anzusehen. Da KI zunehmend in kritische Prozesse integriert wird, ist es wichtig zu verstehen, wie böswillige Akteure diese Systeme missbrauchen können. Wenn Sie in den Bereichen KI-Betrieb, -Entwicklung oder -Cybersicherheit tätig sind, wird diese Sitzung wertvolle Einblicke liefern.

Mit dem Aufkommen von KI sehen sich Unternehmen mit neuen Schwachstellen konfrontiert, die sich von herkömmlichen Cyber-Bedrohungen unterscheiden. Von Datenverletzungen bis hin zu unbefugtem Zugriff kann KI einzigartige Angriffspfade schaffen, die missbraucht werden können.

In dieser Sitzung wird Ralph Moonen, Technical Director bei Bureau Veritas Cybersecurity, die potenziellen Angriffsvektoren innerhalb von KI-Systemen untersuchen und praktische Abhilfemaßnahmen zum Schutz Ihrer Anwendungen diskutieren. Entdecken Sie die Risiken von KI-gesteuerten Technologien und lernen Sie praktische Schritte, um Ihr Unternehmen zu schützen.

AUFZEICHNUNG ANSEHEN

Wichtige Themen in diesem Webinar

Hier sind die wichtigsten Punkte aus dem Webinar:

1. KI als Cybersecurity-Risiko: Die wichtigsten Bedrohungen und Schwachstellen

• KI-Modelle können vertrauliche Daten preisgeben, wenn sie auf Datensätzen mit sensiblen Informationen (z.B. Passwörter oder persönliche Daten) trainiert werden.
• Prompt Injection ist eine gängige Angriffstechnik, bei der KI-Systeme so manipuliert werden, dass sie ein unerwünschtes Verhalten an den Tag legen, z. B. die Freigabe sensibler Daten oder die Durchführung bösartiger Aktionen.
• Bedrohungsakteure setzen KI zunehmend für Angriffe ein, z. B. zur Generierung von Deepfakes und zur Durchführung von Social Engineering-Kampagnen.

2. KI-Vorschriften und Standards

• Das KI-Gesetz (Europa) stuft KI-Systeme in Risikokategorien ein, wie z.B. "verbotene Systeme" und "Systeme mit hohem Risiko", die eine strenge Regulierung erfordern.
• Die in Kürze erscheinende Norm ISO 42001 bietet einen Rahmen für das KI-Management, einschließlich Risikobewertung, ethischer Nutzung und Qualitätssicherung.
• Regionale Unterschiede: Europa und China setzen auf eine strengere Regulierung, während die USA eher zu Richtlinien und Innovation tendieren.

3. Bewährte Praktiken für die KI-Sicherheit

• Unternehmen sollten KI-Nutzungsrichtlinien einführen und Benutzer darin schulen, KI-bezogene Bedrohungen zu erkennen, z. B. Deepfakes und KI-generierte Inhalte.
• Entscheiden Sie sich für KI-Lösungen vor Ort, wann immer dies möglich ist, denn Cloud-basierte KI birgt Risiken wie Datenlecks und weniger Kontrolle über die Sicherheit.
• Validieren Sie die KI-Ausgabe und nutzen Sie Ressourcen wie die LLM OWASP Top 10, die einen Einblick in die wichtigsten Bedrohungen und Sicherheitsrichtlinien für KI-Modelle bietet.

Zielpublikum

Dieses Webinar richtet sich an Fachleute, die an der Entwicklung, Implementierung und Sicherheit von KI-Systemen beteiligt sind und die einzigartigen Cybersicherheitsrisiken von KI-gesteuerten Anwendungen verstehen möchten.

• KI-Betreiber, die für KI-Implementierungen in ihren Unternehmen verantwortlich sind.
• Entwickler und IT-Manager, die KI-Lösungen implementieren.
• Pentester, die sich auf die Identifizierung von Schwachstellen in neuen Technologien konzentrieren.
• Sicherheitsexperten, die daran interessiert sind, KI-spezifische Cyber-Bedrohungen zu entschärfen.

Sehen Sie sich die Aufzeichnung dieses Webinars noch heute an:

AUFZEICHNUNG ANSEHEN

Fragen and Antworten aus dem Webinar

1. Gibt es bekannte Fälle von Datenschutzverletzungen im Zusammenhang mit KI?

Antwort: Ja, es gibt dokumentierte Fälle von Datenschutzverletzungen im Zusammenhang mit KI. Prompt Security beschreibt zum Beispiel 8 reale Beispiele für KI-bezogene Datenschutzverletzungen.

2. Gibt es Tools, um die KI-Ausgabe zu "vermenschlichen"?

Antwort: Ja, es ist möglich, die KI-Ausgabe zu vermenschlichen, indem man die KI bestimmte Eigenschaften annehmen lässt. Darüber hinaus können andere KI-Modelle die Ausgabe verarbeiten und verfeinern, um sie natürlicher zu machen. Einige Software-Tools verwenden beispielsweise KI, um menschliche Nuancen hinzuzufügen, wie z.B. in der Musikproduktion, wo die Vermenschlichung das natürliche Aussehen der Ausgabe verbessert.

3. Wie trainieren Sie Benutzer, um Deepfakes zu erkennen?

A: Die Schulung von Benutzern zur Erkennung von Deepfakes ist eine Herausforderung, da die Technologie immer ausgefeilter wird. Ein effektiver Ansatz besteht darin, eindeutige Codewörter oder Fragen zu verwenden, die nur ein echter Mensch kennen würde. So wurde zum Beispiel ein Deepfake-Angriff auf einen Ferrari-Manager verhindert, indem Fragen gestellt wurden, die nur die echte Person beantworten konnte. Erhöhte Wachsamkeit ist in solchen Szenarien entscheidend.

4. Bestehen irgendwelche Risiken, wenn man alle KIs blockiert und nur Microsoft Copilot zulässt?

A: Es ist sehr schwierig, alle KI vollständig zu blockieren, da es eine Vielzahl von Versionen und Zugriffsoptionen gibt. Die Einrichtung von Benutzerrichtlinien ist ein praktischerer Ansatz als der Versuch, alle KI zu blockieren.

5. Was braucht es, um KI empfindungsfähig zu machen?

Antwort: Dies ist eine komplexe Frage. KIs können zwar den Turing-Test bestehen, aber das bedeutet nicht, dass sie ein Gefühl haben. Für echtes Gefühl wäre eine wesentlich ausgefeiltere Architektur erforderlich, aber der genaue Weg zum Bewusstsein bleibt unklar.

6. Wie setzt Secura KI ein, um die Produktivität zu verbessern?

A: Ein Beispiel ist ein Pen-Tester, der mit Hilfe von KI schnell PowerShell-Skripte für die Privilegienerweiterung während eines internen Tests erstellt hat. KI kann vor allem bei der Automatisierung sich wiederholender Aufgaben wie der Skripterstellung nützlich sein.

7. Welche Risiken birgt die Verwendung von Microsoft Copilot bei der Softwareentwicklung?

Antwort: Ein Risiko besteht darin, dass Eingaben, wie z.B. API-Schlüssel im Quellcode, versehentlich zum weiteren Training des KI-Modells verwendet werden können, so dass diese Schlüssel für andere Benutzer zugänglich werden. Ein weiteres Risiko besteht darin, dass Modelle mit Beispielcode von Plattformen wie StackOverflow trainiert werden, der Schwachstellen enthalten kann, was zu unsicherem KI-generiertem Code führt. Die Deaktivierung der Option, das Modell anhand von Benutzereingaben zu trainieren, kann dieses Risiko verringern.