Der erste Wettbewerb um den AI Safety Prize wurde am 20. Februar mit der Preisverleihung im Rahmen der Swiss Cyber Security Days abgeschlossen. Wir gratulieren den vier Gewinnern!
David Zollikofer and Benjamin Zimmermann for their submission on large language models and malware. (CHF 7'500)
Javier Rando and Florian Tramèr for their submission on universal jailbreak backdoors from poisoned human feedback (CHF 1'500)
Hatef Otroshi Shahreza and Sébastien Marcel for their submission on vulnerabilities of face recognition systems (CHF 1'500)
Maksym Andriushchenko, for their submission on adversarial attacks on GPT-4 via simple random search (CHF 500)
Weitere Details gibt es auf der Website.
Wir danken allen, die sich in den letzten neun Monaten für den AI Safety Prize engagiert haben! Ein besonderer Dank geht an unsere Partner Swiss Cyber Security Days, sowie das ETH AI Center, das Kompetenznetzwerk KI des Bundes, GESDA, SATW und das Law & Tech Lab der Universität St. Gallen für ihre Unterstützung.