Prompt injection — twój firmowy chatbot właśnie zdradził zarobki całego zarządu
Każdy AI-agent z dostępem do firmowej Confluence, SharePointa, Outlooka czy Slacka jest podatny na indirect prompt injection — atakujący wszywa polecenie w treść dokumentu lub maila, a agent, wykonując pozornie nieszkodliwą prośbę użytkownika, sięga po ten dokument i posłusznie wykonuje polecenie wroga. Nie jest to teoria akademicka — w ostatnich osiemnastu miesiącach udokumentowano dziesiątki działających ataków na Microsoft 365 Copilot, Notion AI, Slack AI, ChatGPT z konektorami i własne agenty RAG. Nie ma firewalla, który to zatrzyma, bo to tekst, a nie kod.
Prompt InjectionOWASP LLM Top 10AI Agents+5
