때로는 스캠 메시지라는 것이 아예 존재하지 않는다. 방 전체가 스캠이다.
앞 장은 조직이 사라진 장면으로 끝났다. 예전에는 팀이 있어야 가능했던 물량과 다양성, 그리고 끈기 있는 존재감을 이제 운영자 한 명이 만들어내고, 탐지 시스템이 한데 묶어 잡아내도록 설계된 지문은 하나도 남기지 않는다. 그 장은 메시지 하나의 출처를 밝히기가 점점 어려워진다는 이야기였다. 이번 장은 공격자가 메시지 하나라는 단위 자체를 통째로 포기하는 이야기다. 천 개의 얼굴을 공짜로 움직일 수 있게 되면, 자연스러운 다음 수는 진짜 방에 더 잘 만든 메시지를 던져 넣는 것이 아니다. 방 전체를 짓고, 자기 얼굴들로 채워 넣은 다음, 피해자가 걸어 들어오게 하는 것이다.
지금까지 살펴본 모든 방어는 공격이 특정한 형태를 띤다고 가정한다. 메시지가 도착하고, 그 메시지는 적대적이며, 할 일은 통과시킬지 말지를 판정하는 것이다. 키워드 필터, 링크 스캐너, 행동 휴리스틱, 공유 차단 목록, AI 분류기(classifier)까지, 모더레이션(moderation) 장치 일체가 메시지라는 단위를 중심으로 세워져 있다. 이 장치는 채널 어딘가에 정상적인 대화가 존재하고, 공격은 그 안에 떨어진 이물질이라고 전제한다. 이물질을 찾아내 제거하면 방은 건강을 되찾는다.
친구 3명이 구독하면 이 장이 여기서 열립니다.
내 초대 링크
이 장에서 다루는 내용
- 트루먼 쇼: 커뮤니티가 제조될 때
- ScamAgents: 학계의 틀이 따라잡다
- 패트리엇 베이트, 두 번째 독법
- 플랫폼은 입구이지 종착점이 아니다
- 접촉면이 된 음성: 알림 속의 클론
- 탐지의 범위 문제, 구조적으로 진술하기
- 메시지 단위 모델은 땜질로 구제될 수 없다
이 장에서 설명하는 용어
전체 내용은 책에 실려 있습니다.
전체 책 구매8장을 무료로 받아 보세요
구독하면 8장 「변곡점」이 이 사이트에서 열립니다. 친구를 초대하면 3부의 나머지 장도 열립니다.
확인 메일 한 통, 그리고 가끔 책 소식을 보냅니다. 언제든 구독을 해지할 수 있습니다.