Zurück

Explanation‑Aware Angriffe und die Grenzen erklärbarer KI (XAI)

Vortrag über Chancen und Grenzen von Explainable AI (XAI) und wie sogenannte explanation-aware Angriffe die Vertrauenswürdigkeit von KI-Systemen herausfordern.

a { text-decoration: none; color: #464feb; } tr th, tr td { border: 1px solid #e6e6e6; } tr th { background-color: #f5f5f5; }

Am 16. Juni 2026 lädt BIFOLD zur Veranstaltung „Explanation-Aware Attacks and the Limits of using XAI“ nach Berlin ein. Die Session beleuchtet aktuelle Entwicklungen im Bereich erklärbarer künstlicher Intelligenz (Explainable AI, XAI) und deren Bedeutung für vertrauenswürdige machine-learning‑basierte Systeme.

Im Mittelpunkt steht die Frage, inwieweit XAI tatsächlich zur Sicherheit und Nachvollziehbarkeit von KI‑Entscheidungen beiträgt. Während XAI eine präzise Zuordnung der Relevanz von Eingabemerkmalen in komplexen Modellen ermöglicht, zeigt der Vortrag zugleich die Grenzen dieser Ansätze auf. Insbesondere sogenannte explanation-aware attacks verdeutlichen, wie Angreifer sowohl die Entscheidungen eines Modells als auch deren erklärende Ausgaben gezielt manipulieren können. Damit werden grundlegende Annahmen über die Sicherheit und Verlässlichkeit von KI-Systemen kritisch hinterfragt.

Der Vortrag wird von Prof. Dr. Christian Wressnegger (Karlsruhe Institute of Technology) gehalten, einem Experten an der Schnittstelle von künstlicher Intelligenz und IT‑Sicherheit. Die Veranstaltung richtet sich an Forschende und Fachleute, die sich mit robusten und vertrauenswürdigen KI-Systemen beschäftigen.

• Datum: 16. Juni 2026
• Uhrzeit: 14:00 – 15:00 Uhr
• Ort: BIFOLD, 7. Etage, Raum 701, Franklinstr. 28/29, 10587 Berlin
• Veranstalter: BIFOLD
• Teilnahme: (kostenfrei, Anmeldung empfohlen)
• Schwerpunkte: Explainable AI (XAI), IT‑Sicherheit, Machine Learning, Angriffsmodelle
• Zielgruppe: Forschende, Studierende und Fachleute aus KI, Cybersecurity und Datenwissenschaft