prompt injection 이란?
프롬프트를 중간에 위장해서, AI 애플리케이션이 잘못된 정보를 유출하거나 의도하지 않은 동작을 하게 하는 사이버 공격을 말한다.
https://docs.anthropic.com/en/docs/claude-code/security
참고
https://docs.anthropic.com/en/docs/claude-code/security
Security - Anthropic
How we approach security Security foundation Your code’s security is paramount. Claude Code is built with security at its core, developed according to Anthropic’s comprehensive security program. Learn more and access resources (SOC 2 Type 2 report, ISO
docs.anthropic.com
https://www.ibm.com/kr-ko/topics/prompt-injection
프롬프트 인젝션 공격이란 무엇인가요? | IBM
프롬프트 인젝션 공격에서 해커는 합법적인 사용자 프롬프트로 위장한 악성 입력을 제공하여 생성형 AI 시스템을 조작합니다.
www.ibm.com
'소프트웨어-이야기 > 소프트스킬' 카테고리의 다른 글
| Claude Code (0) | 2025.06.27 |
|---|---|
| claude desktop, playwright-mcp을 사용한 E2E 테스트 (0) | 2025.04.06 |
| 타임라인 회고 (Timeline Retrospective) (2) | 2024.11.30 |
| [후기] sweep-ai: AI 주니어 개발자 (1) | 2023.11.20 |
| [후기] makereal tldraw: 와이어프레임으로 HTML 뽑아내기 (2) | 2023.11.20 |
