top of page

AI Safety Prize

Sichere Künstliche Intelligenz

Submissionen sind zurzeit nicht möglich. Siehe die Gewinner:innen des Hauptpreises hier.

Siehe die Gewinner:innen des Rough Draft Prize hier.

Preisverleihung an den Swiss Cyber Security Days 2024

Angesichts der zunehmenden Verbreitung von KI-Systemen mit sicherheitskritischen Folgen lancierten der Think-Tank Pour Demain und die Organisatoren der Swiss Cyber Security Days (SCSD) in Partnerschaft mit Bund und Wissenschaft erstmals den “AI Safety Prize”.

Während Unternehmen unermüdlich daran arbeiten, immer leistungsstärkere KI-Modelle und -Anwendungen zu entwickeln, zeigen sich führende KI-Expertinnen und Experten aus Forschung und Wirtschaft von der Geschwindigkeit dieser Entwicklungen überrascht und zunehmend besorgt und warnen vor den potenziellen negativen Auswirkungen auf die Gesellschaft.

Inspiriert von ähnlichen Initiativen und der langjährigen Arbeit von Akademiker:innen, NGOs und der Industrie, wie z.B. dem Red-Teaming von Dr. Rumman Chowdhury's Humane Intelligence oder erfolgreichen Bug-Bounty-Programmen aus der Cybersicherheitsbranche, ist der AI Safety Prize darauf ausgerichtet, Personen zu belohnen, die Sicherheitslücken in KI-Systemen identifizieren und melden. Dieser Preis ist der Erste seiner Art im deutschsprachigen Raum und markiert einen Meilenstein in der Förderung der KI-Sicherheit.

Der AI Safety Prize wurde erstmals im Februar 2024 im Rahmen der Swiss Cyber Security Days in Bern verliehen. Dieser Event dient als Plattform, um die Aufmerksamkeit der Wirtschaft, Wissenschaft und Politik auf das Thema KI-Sicherheit zu lenken. Ziel war es, in zwei Kategorien konkrete Sicherheitslücken zu identifizieren und so einen Beitrag für eine bessere und sichere Verwendung von KI-Systemen zu leisten.

Untitled design (3).jpg
Connecting Dots

Kategorien
 

Large Language Models

Sicherheitslücken bei Large Language Models wie ChatGPT.

Klassische und spezialisierte ML-Modelle

Sicherheitslücken bei klassischen und spezialisier-ten ML-Modellen, die in kritischen Infrastrukturen der Schweiz bereits im Einsatz sind.

Abstract Background

Zeitplan

Melde dich unten für unseren Newsletter an, um keine Updates zu verpassen!

1. August 2023: Das Fenster für Einreichungen öffnet

31. Oktober: Submission von Grobentwürfen (optional)

20/21. Februar 2024: Preisverleihung an den SCSD

August - Oktober: laufendes Feedback vom AI Safety Prize Team zu Grobentwürfen. Die besten Grobentwürfe werden prämiert.

31. Dezember 2023: Das Fenster für Einreichungen schliesst.

Newsletter

Melde dich jetzt an, um weitere Informationen zum AI Safety Prize zu erhalten

Vielen Dank für die Zusendung

Wavy Circles

Blog

Abstract Lines

Zusammenarbeit

Das Team hinter dem AI Safety Prize freut sich über Anfragen bezüglich möglicher Kooperationen mit Wissenschafts- und Branchenpartnern. Ebenfalls willkommen sind generelle Fragen zu Submissionen. Kontaktiere uns unter info (at) aisafetyprize.ch

Wavy Abstract Background

Organisatoren

Pour Demain

Pour Demain ist ein gemeinnütziger Think-Tank, der zwischen Wissenschaft, Politik und Gesellschaft vermittelt. Wir greifen gesellschaftlich wichtige Themen auf und entwickeln konkrete, wissenschaftsbasierte Vorschläge – mit einer positiven Wirkung für die Schweiz und darüber hinaus. www.pourdemain.ch

Swiss Cyber Security Days

Die Swiss Cyber Security Days SCSD ist die führende Dialogs- und Know-how Plattform der

Schweiz im Bereich Cyber Security. Die SCSD überbrücken die Wissenslücke zwischen Technologie, Wirtschaft, Bevölkerung und bieten Politik, Verwaltung, Fachleuten und Anwendern Einblicke in aktuelle und zukünftige Bedrohungen und innovative Lösungen. Im Fokus stehen Politik, Wirtschaft, Bildung und Forschung. Allen beteiligten nationalen und internationalen Akteuren steht die Plattform offen für den Informations-Austausch, Inspiration und Treffen mit Politik, BundesVerwaltung, Wirtschaft und führenden Cybersicherheit-Expertinnen und Experten. Die fünfte Ausgabe der Swiss Cyber Security Days fand am 20. und 21. Februar 2024 auf dem BERNEXO-Gelände statt. https://scsd.ch/

bottom of page