Entropy Alignment Security Hackathon: Break the Model

worum es geht

Ein eintägiger Hackathon zu AI-Security und Alignment: Rund 100 Leute in 20 Fünferteams greifen eine eigens gebaute, verwundbare AI-Umgebung an und suchen und schließen danach die Lücken in LLM-Systemen.

Drei Tracks: rekursive, selbstausführende LLM-Schleifen absichern; verdeckte Kanäle und Absprachen in Multi-Agent-Setups aufspüren; und ein offener Track für neue Prompt Injections und das Aushebeln von Guardrails. Sponsoren sind Anthropic, HackTheBox, Circuit und Nebius. Preise: 10.000, 6.000 und 4.000 Dollar in Claude-Credits, dazu 50 Dollar Nebius-Rechenleistung pro Person. Verpflegung inklusive, 10:00 bis 22:00 Uhr. Die Jury wird noch bekanntgegeben.

Kostenlos, nur mit Bewerbung: Die Veranstalter stellen gezielt eine ausgewogene Gruppe aus Alignment-Forschenden, ML-Engineers und CTF-Spielern zusammen. Den genauen Ort in Berlin gibt es mit der Zusage. Wer allein kommt, wird einem Team zugeteilt.

Warum hingehen: Ein praktischer Red-Teaming-Tag mit Sponsoring eines Frontier-Labs, so etwas gibt es in Berlin selten. Ideal für ML-Engineers und Security-Leute, die Modelle knacken wollen, statt darüber zu reden.