'AI Caramba': Schwachstellen, Herausforderungen und Chancen von generativer KI in der IT-Sicherheit
Sebastian Neef, Technische Universität Berlin, Softwaretechnik und Theoretische Informatik
Inhalte/ Contents
Welche Schwachstellen und Risiken können durch den Einsatz von generativer KI (bspw. ChatGPT) in der Softwareentwicklung entstehen? Kann die Sicherheit des Codes durch bestimmte Prompts beeinflusst werden? Diese und weitere Fragen sollen in diesem Projekt gemeinsam durch die Studierenden praxisnah untersucht werden. Nach einer gemeinsamen Einarbeitungs- und Recherchephase zum Stand der Forschung erarbeiten die Teilnehmenden eigene (spezifischere) Forschungsfragen, teilen sich in thematische Kleingruppen auf und führen praxisorientierte Experimente durch. Ziel ist es, sich gemeinsam auszutauschen und ein besseres Verständnis für den Umgang mit KI im Kontext der IT-Sicherheit zu entwickeln. Der Kurs richtet sich insbesondere an Informatikstudierende (ab 3. Sem) mit Grundkenntnissen in Programmierung (z. B. Python) und Interesse an IT-Sicherheit und generativer KI. Auch andere Fachrichtungen sind willkommen, um ethische und gesellschaftliche Perspektiven einzubringen.
Kontakt/ Contact
neef@sect.tu-berlin.de