레드팀 (red teaming)

너, 회의실에 앉아 본 적 있을 거다. 다들 한 방향을 보고 고개를 끄덕인다. 계획은 매끄럽고, 숫자는 맞아떨어지고, 누구도 토를 달지 않는다. 분위기가 좋다. 그런데 바로 그 좋은 분위기가 가끔 사람을 통째로 절벽으로 끌고 간다. 모두가 같은 곳을 보고 있다는 건, 아무도 등 뒤를 보고 있지 않다는 뜻이기도 하니까. 오늘 이야기는, 바로 그 등 뒤를 보라고 누군가를 일부러 반대편에 세워 둔 사람들에 관한 거다. 그리고 그 자리를 비워 둔 대가가 얼마나 처참했는지에 관한 거다.

이 발상은 생각보다 까마득히 오래됐다. 가톨릭 교회로 거슬러 올라가 보자. 어떤 사람을 성인으로 추대할지 말지를 정할 때, 교회는 묘한 직책을 하나 두었다. 후보를 칭송하는 사람들 한가운데에, 오직 그 후보를 깎아내리기 위해 존재하는 사람을 앉힌 것이다. 후보의 기적이 가짜는 아닌지, 살아온 삶에 흠은 없는지, 떠올릴 수 있는 모든 불리한 증거를 그러모아 들이대는 게 그의 임무였다. 사람들은 이 역할을 '악마의 변호인'이라 불렀다. 1587년 교황 식스토 5세가 이 자리를 정식 직제로 못 박았고, 그 공식 명칭은 뜻밖에도 '신앙의 촉진자'였다. 성스러움을 더 단단히 검증하려면, 누군가는 악마의 편에 서서 끝까지 물고 늘어져야 한다고 본 것이다. 칭찬만 오가는 자리에선 가짜 성인이 슬쩍 끼어들 수 있다는 걸, 교회는 일찍이 알고 있었다.

이 오래된 지혜에 '레드팀'이라는 이름이 붙은 건 한참 뒤, 냉전기의 미국에서다. 1960년대 초, 미 국방부와 랜드연구소 같은 곳에서 전쟁을 책상 위 모의실험으로 돌려 보던 사람들이 있었다. 우리 편은 파란색, 적군 소련은 빨간색으로 칠했다. 그리고 핵심은 이거였다. 적의 수를 우리 편이 어림짐작으로 메우면 안 된다는 것. 그래서 따로 한 무리를 떼어 내 아예 소련 군인이 되어 생각하게 했다. 우리가 이렇게 나오면 적은 어떻게 받아칠까를, 진짜 적의 머리로 굴리게 한 것이다. 그 빨간 편을 레드팀이라 불렀다. 적의 시점을 우리 안에 일부러 심어 두는 장치였다.

말로만 하던 이 발상이 피와 살을 얻은 계기는 베트남이었다. 그 전쟁에서 미 공군 조종사들의 공중전 성적은 충격적으로 나빴다. 적기 두 대를 잡는 동안 아군기 한 대가 떨어지는 수준이었다. 원인을 파 보니, 조종사들이 실전 같은 적을 한 번도 상대해 본 적이 없다는 게 컸다. 그래서 1972년 가을, 네바다의 넬리스 기지에 아예 '적기 비행대'를 만든다. 미군 조종사들이 일부러 소련제 전투기의 전술을 흉내 내며 아군에게 진짜처럼 덤벼드는 부대였다. 그리고 1975년 8월, 이 발상은 레드 플래그라는 대규모 모의 공중전 훈련으로 굳어졌다. 핵심 철학은 단순하고 잔인하다 — 처음 열 번의 실전이 가장 위험하다면, 그 위험한 열 번을 평시 훈련장에서 미리 죽어 보며 치르게 하자는 것. 아군이 가짜 적이 되어 아군을 사정없이 두들겨 패는 그 훈련장에서, 진짜 전장의 생존율이 올라갔다.

레드팀이 무엇을 지키는 물건인지 가장 뼈아프게 증명한 건, 정작 그걸 비워 뒀던 쪽이었다. 1973년, 이스라엘 정보기관은 이집트와 시리아의 전쟁 준비 정황을 손에 쥐고 있었다. 그런데 '아랍은 아직 우리를 칠 능력이 없다'는 하나의 굳은 전제가 모든 판단을 지배했다. 들어오는 모든 첩보가 그 전제에 맞춰 해석됐고, 어긋나는 신호는 무시됐다. 그러다 속죄일에 기습을 당해 나라가 휘청거렸다. 전후 진상조사위원회(아그라나트 위원회)가 내린 처방의 핵심이 바로 이거였다. 정보기관 안에 '악마의 변호인'을 상설로 두라. 다수가 합의한 판단을 직업적으로 의심하고, 일부러 반대 시나리오를 써내는 부서를 만들라. 모두가 '전쟁은 없다'고 끄덕일 때 '아니, 있다고 가정하면 무엇이 보이는가'를 끝까지 묻는 사람을 제도로 박아 둔 것이다. 회의실에서 열 사람 중 아홉이 같은 결론에 이르면 남은 한 사람은 의무적으로 반대편을 변호해야 한다는, 흔히 회자되는 그 발상의 진짜 뿌리가 여기다. 한 번의 처참한 실패가, 등 뒤를 보는 자리를 영구히 비워 둘 수 없게 만들었다.

이 사고법이 오늘날 가장 분주하게 쓰이는 데는 컴퓨터의 세계다. 회사들은 자기 시스템을 지키려고 일부러 해커 역할을 맡은 전문가 집단을 고용한다. 이들이 곧 사이버 레드팀이다. 방어가 잘 됐다고 스스로 안심하는 대신, 진짜 침입자처럼 모든 문을 흔들어 본다. 여기서 보안이라는 생각의 윗단추 자체가 갈렸다는 점을 눈여겨봐라. 옛날엔 '우리 시스템은 안전하다'를 증명하려 들었다. 레드팀 사고가 들어오면서 전제가 뒤집혔다 — '이미 뚫렸다고 가정하라'. 안전을 증명하려는 자세에서, 뚫릴 지점을 먼저 사냥하는 자세로 세계관이 통째로 바뀐 것이다. 요즘은 인공지능에도 똑같이 한다. 모델이 위험한 말을 뱉도록, 금지된 답을 토하도록 일부러 온갖 교묘한 질문으로 모델을 공격해 허점을 캐내는 일을 두고도 레드팀이라 부른다. 칭찬하는 자리가 아니라 무너뜨리는 자리를 먼저 마련하는 것 — 식스토 5세의 악마의 변호인이 코드와 알고리즘 속에서 여전히 살아 일하고 있는 셈이다.

그러니 너가 어떤 계획이나 판단을 손에 쥐고 모두가 고개를 끄덕이거든, 그 끄덕임을 가장 경계하라. 좋은 분위기는 검증이 아니다. 한 사람을 떼어 내 — 없으면 네 머릿속에서 한 자아를 떼어 내 — 적의 자리에 앉혀라. 이 계획을 가장 망치고 싶어 하는 자라면 어디를 칠까, 그의 눈으로 네 안을 노려보게 하라. 네 편이 칭찬해 줄 약점이 아니라, 적만이 정확히 찌를 약점을 네가 먼저 찾아내는 것. 그게 천 년을 건너온 악마의 변호인이 너에게 남긴 일이다.