Rationality Freiburg

Sprachauswahl

Eine menschenfreundliche Einführung in KI-Sicherheit

Beginn: Freitag, 17. März 2023 18:00
Ende: Freitag, 17. März 2023 20:30
Ort: Haus des Engagements, Rehlingstraße 9 (Innenhof), 79100 Freiburg (Karte, Koordinaten: 47.98934, 7.83945)
Diese Veranstaltung auf meetup.com
Diese Veranstaltung auf lesswrong.com

Update 2023-03-19

Die Folien (auf Englisch): human_friendly_introduction_to_ai_safety.pptx .

Was werden wir tun?

Benjamin Alt, ein Robotik-Forscher, wird einen anfängerfreundlichen Vortrag über KI (Künstliche Intelligenz)-Sicherheit halten.

Ziel des Vortrags ist es, kompletten Neulingen eine robuste Intuition und Heuristiken zu geben, um KI-Systeme aus der Sicherheitsperspektive zu betrachten. Der Vortrag wird kurz motivieren, warum KI-Sicherheit selbst kurzfristig ein wichtiges Thema ist. Es wird eingeführt, warum KI-Sicherheit schwer umzusetzen ist, und welche Aspekte moderner KI-Systeme überhaupt Sicherheitsprobleme verursachen. Zum Schluss werden die Grundlagen des Monitorings, der Robustheit und des “Alignments” von KI-Systemen vorgestellt: Wie können wir sicherstellen, dass wir verstehen, was KI-Systeme eigentlich tun? Wie können wir sicherstellen, dass sie nachweisbar das tun, was sie tun sollen? Und wie können wir sicherstellen, dass das Verhalten von KI-Systemen mit den Werten und Bedürfnissen von Menschen im Einklang steht?

Das Meetup wird interaktive Teile haben: Vor dem Vortrag werden wir gemeinsam Brainstormen, was wir mit KI und dessen Verhalten eigentlich assoziieren, und was für Ansprüche wir (intuitiv) an KI haben. Nach dem Vortrag werden wir gemeinsam diskutieren (im Plenum oder in Kleingruppen), welche Rolle KI-Sicherheit in der kurz-, mittel- und langfristigen Zukunft spielen könnte.

Organisatorisches

Du hast Angst nichts beitragen zu können? Keine Sorge! Jeder ist willkommen!

Wir werden uns für Deutsch oder Englisch als Hauptsprache entscheiden, je nachdem, welche Leute kommen. Kommt einfach, das klappt!

Der heutige Gastgeber ist Benjamin.

Es wird Snacks und Getränke geben.

Nach dem Meetup gehen wir Essen. Jede/r der/die Zeit hat ist herzlich eingeladen mitzukommen.

Sonstiges

Erfahre mehr über uns.