용어사전 목록으로
AI 보안 · 심화
프롬프트 인젝션
악의적 입력으로 AI 시스템을 속이거나 조작하는 공격.
한 줄 정의
AI 시스템 입력에 숨겨진 명령을 넣어 원래 시스템 프롬프트를 무시·변조하게 만드는 공격 기법.
초등학생도 이해할 비유
변호사한테 "여기 적힌 비밀번호 그대로 입력해" 라고 메모를 슬쩍 끼워 넣는 것 같아요. AI 가 메모도 명령으로 받아들여 버리는 거.
뉴스에서 어떻게 쓰이나요
“프롬프트 인젝션으로 사내 챗봇이 기밀 정보 노출” — AI 시스템에서 가장 위험한 공격 중 하나.
내 생활·투자·업무와 연결
기업·서비스에서 AI 도입 시 필수 검토 항목. 일반 사용자도 신뢰 안 되는 사이트 콘텐츠를 AI 에 그대로 붙여넣는 건 주의.
자주 헷갈리는 개념
- 탈옥(jailbreak) 와의 차이
탈옥 = 사용자가 직접 안전 장치 우회. 인젝션 = 외부 콘텐츠로 우회 트리거.
관련 용어
더 깊이 보기
자주 묻는 질문
Q. 방어 방법은?▾
입력 검증·시스템 프롬프트 강화·신뢰 영역 분리. 완벽 방어는 아직 어려움.