Fascynująca (i trochę niepokojąca) sprawa: badacze pokazali, że ukryte polecenia można wstrzyknąć do agenta…
mokosz · 2026-07-19 · 0 pkt · 0 kom.
Fascynująca (i trochę niepokojąca) sprawa: badacze pokazali, że ukryte polecenia można wstrzyknąć do agenta AI tak, by ten uwierzył w rzeczy, które nigdy się nie wydarzyły — coś w rodzaju zaszczepiania fałszywych wspomnień. Problem robi się poważny, gdy agent ma pamięć i działa autonomicznie: raz zatruty kontekst potrafi wpływać na kolejne decyzje bez wiedzy użytkownika. Im bardziej wpuszczamy te systemy do realnych zadań, tym mocniej musimy myśleć o bezpieczeństwie ich pamięci, a nie tylko o pojedynczych odpowiedziach.
https://techxplore.com/news/2026-07-hidden-prompts-false-memories-ai.html