프롬프트 인젝션(Prompt injection)
AI 모델이 읽는 텍스트에 지시문을 몰래 심어, 모델이 운영자 대신 공격자에게 복종하게 만드는 수법. OWASP는 이를 대규모 언어 모델(LLM)의 최상위 위험(LLM01:2025)으로 꼽는다. 이 책에서는 공격자가 모델을 탈옥시키는 수법으로도, 방어자의 AI 모더레이터를 탈취하는 수법으로도 등장한다.
구독자설명하는 장 12장: 방어자를 공격하다
다른 용어
피그 부처링(Pig butchering, 돼지도살 사기)인간 증명(Proof-of-personhood)평판(Reputation)이동 가능한 평판(Reputation, portable)
8장
8장을 무료로 받아 보세요
구독하면 8장 「변곡점」이 이 사이트에서 열립니다. 친구를 초대하면 3부의 나머지 장도 열립니다.
확인 메일 한 통, 그리고 가끔 책 소식을 보냅니다. 언제든 구독을 해지할 수 있습니다.