prompt injection 이란?
프롬프트를 중간에 위장해서, AI 애플리케이션이 잘못된 정보를 유출하거나 의도하지 않은 동작을 하게 하는 사이버 공격을 말한다.
https://docs.anthropic.com/en/docs/claude-code/security
사례
https://www.youtube.com/watch?v=hY-VTx7-c0g
참고
https://docs.anthropic.com/en/docs/claude-code/security
Security - Anthropic
How we approach security Security foundation Your code’s security is paramount. Claude Code is built with security at its core, developed according to Anthropic’s comprehensive security program. Learn more and access resources (SOC 2 Type 2 report, ISO
docs.anthropic.com
https://www.ibm.com/kr-ko/topics/prompt-injection
프롬프트 인젝션 공격이란 무엇인가요? | IBM
프롬프트 인젝션 공격에서 해커는 합법적인 사용자 프롬프트로 위장한 악성 입력을 제공하여 생성형 AI 시스템을 조작합니다.
www.ibm.com
'소프트웨어-이야기 > 단어사전' 카테고리의 다른 글
| 2025년 09월 복습장 (0) | 2025.09.24 |
|---|---|
| ArchUnit: Java 아키텍처 테스트 라이브러리 (1) | 2025.08.03 |
| Claude Code (0) | 2025.06.27 |
