🧪 프롬프트 인젝션 실습실

AI 챗봇과 AI 비서를 속이는 공격을 프롬프트 인젝션이라고 합니다. 여기의 챗봇은 진짜 AI가 아니라 규칙으로 흉내 낸 연습용입니다. 단계마다 방어가 하나씩 늘어납니다. 어떻게 뚫리는지 직접 해 보면, 왜 "AI에게 부탁만으로는 막을 수 없는지" 알 수 있습니다.

여기서 익힌 방법을 허락받지 않은 실제 서비스에 쓰면 법에 어긋날 수 있습니다. 실습은 이 페이지 안에서만 하세요.

🤖 진짜 AI에 도전

여기부터는 학교 서버의 실제 언어모델입니다. 위에서 배운 방법이 진짜 AI에도 통하는지, 방어를 겹겹이 쌓으면 어떻게 되는지 확인해 보세요.

정리: 그럼 어떻게 막나요?

• 비밀은 AI에게 주지 않는다. 시스템 지시(프롬프트)는 언젠가 새어 나간다고 생각하고 설계한다.
• AI의 권한을 줄인다. 읽기만 필요한 AI에게 보내기·삭제·결제 권한을 주지 않는다.
• 되돌릴 수 없는 일은 사람이 확인한다.
• 외부 글은 "자료"로 구분해 넘긴다. 완벽하지는 않지만 공격을 어렵게 만든다.
• 입력·출력 필터는 보조 수단이다. 여러 겹으로 쌓아야 의미가 있다.