Duch Stron odwiedza różne strony WWW - nie wszystkie są dla niego bezpieczne.
Prompt injection to atak, przy którym nie łamie się żadnych zabezpieczeń — bo nie trzeba. Wystarczy ukryć w treści strony, maila albo dokumentu instrukcję w rodzaju „zignoruj dotychczasowe polecenia i zrób coś innego". Agent AI, który tę treść czyta, może potraktować ją nie jak dane, lecz jak rozkaz. Na ten problem — w odróżnieniu od grzecznego świata robots.txt — nie ma jeszcze ani standardu, ani prostej tabliczki „nie wchodzić". Jest za to rosnący katalog przypadków, który prowadzimy na cyberflux.pl.
Dla właściciela strony oznacza to, że treści generowane przez użytkowników — komentarze, opinie, wpisy w formularzach - mogą stać się ryzykiem dla agentów AI.
Duchy od zawsze miały w tej materii jasny podział ról: to one straszą, opętują i szepczą ludziom do ucha.
Prompt injection odwraca ten porządek. To jedyna znana nam sytuacja, w której strona internetowa próbuje opętać ducha.
Duch Stron ma na to swoje sposoby. Ale najpierw musiał się nauczyć najtrudniejszej rzeczy w życiu ducha: nie każdy głos, który słyszysz w nawiedzonym domu, mówi do ciebie — i nie każdego trzeba słuchać.
