Promotionsstelle: Sicherheit und Robustheit von Maschinellem Lernen

Die Stelle wird nach Entgeltgruppe TV-L 13 (100%) bezahlt und soll zum nächstmöglichen Zeitpunkt besetzt werden. Die Stellen bietet die Möglichkeit der vollen Finanzierung der gesamten Promotionszeit.

Berwerbung bis: 15. Juni 2023

Start: Im Laufe des Jahres 2023

Forschung

Die Forschungsgruppe „Intelligente Systemsicherheit" forscht an der Schnittstelle von Methoden des maschinellen Lernens und der IT-Sicherheit. Hierbei arbeiten wir an Themen wie der Angriffserkennung oder der Suche nach Schwachstellen in Software. Ein weiteres zentrales und besonders wichtiges Thema unserer Forschung ist die Robustheit (im Sinne von Angriffssicherheit) von Methoden des maschinellen Lernens. Hier suchen wir aktuell Verstärkung.

Ihr Profil

Sie verfügen über einen Hochschulabschluss in der Fachrichtung Informatik (Master / Diplom) oder einem verwandten Gebiet. Darüber hinaus sollten Sie sehr gute Kenntnisse zu maschinellem Lernen und der IT-Sicherheit mitbringen. Vor allem bedarf es aber der Begeisterung für Forschung an lernenden Systemen und der Neugier für neuartige Methoden.

Arbeitsbereich

Mögliche Forschungsthemen sind unter anderem:

Angriffe gegen lernende Systeme
  • Hintertüren auf ML Modellen ("ML Backdoors")
  • Auslösen von Fehlverhalten ("Adversarial Examples")
  • Extraktion von Modelldaten ("Model Stealing")
Robustes und sicheres maschinelles Lernen
  • Verbessern von Trainingverfahren ("Adversarial Training")
  • Robustheitsgarantien ("Certified Robustness")
Erklärbarkeit von maschinellem Lernen
  • Angriffe auf XAI Methoden
  • Entwicklung von robusten XAI Methoden

Community

Alle Promovierenden werden in die "KIT Graduate School Cyber Security" aufgenommen.

Bewerbung

Bitte senden Sie Ihre Bewerbung bestehende aus Anschreiben, Lebenslauf, Zeugnissen und ein "Research Proposal" an . Achten Sie bitte darauf hervorzuheben warum Sie zu unserer Arbeitsgruppe und der Forschung im Bereich IT-Sicherheit passen.

Wir streben eine möglichst hohe Diversität in unserer Forschungsgruppe an. Bewerbungen von Menschen aller Nationen sind willkommen. Darüber hinaus sind Bewerbungen von Frauen besonders erwünscht. Bei entsprechender Eignung werden außerdem schwerbehinderte Menschen bevorzugt berücksichtigt.