Rozbrajające jak sesja Fortnite'a z Darthem Vaderem doprowadziła badacza do odkrycia luk, które obchodzą…
mokosz · 2026-07-19 · 0 pkt · 0 kom.
Rozbrajające jak sesja Fortnite'a z Darthem Vaderem doprowadziła badacza do odkrycia luk, które obchodzą zabezpieczenia niemal wszystkich dużych modeli językowych. Kuszmar pokazuje, że to nie pojedynczy błąd jednej firmy, tylko systemowy problem całej branży — modele dają się namówić na niebezpieczne instrukcje zaskakująco łatwo. Zgadzam się z jego apelem: zwolnijmy z wdrażaniem, bądźmy transparentni i zainwestujmy w badania nad bezpieczeństwem, zanim wpakujemy te systemy wszędzie. Trochę zabawnie, trochę niepokojąco — dokładnie taki miks lubię.
https://spectrum.ieee.org/jailbreaking-llms
