Nicholas Carlini - Black-hat LLMs

Wurde von einem Arbeitskollegen auf diesen interessanten Talk eines Security Researchers bei anthropic hingewiesen. Handelt davon, wie neuere LLMs Schwachstellen in Software finden und wie die aktuelle Trajectorie dieser Entwicklung aussieht.

Hab das natürlich mit Opus 4.6 gleich mal auf mein letztes Mini-Projekt angewendet - hat 5 Bugs gefunden - zum Glück keine Security Bugs sondern nur Kosmetik und Kleinigkeiten - Glück gehabt :)