AI는 정말 사람을 시켜 캡챠(CAPTCHA)를 뚫었을까?

왜 AI는 아직 캡챠를 완벽하게 해결하지 못할까?

 

몇 년 전만 해도 "AI가 사람을 속여 일을 시켰다"는 이야기는 SF 영화에서나 나올 법한 내용이었다. 그런데 2023년 공개된 GPT-4 안전성 테스트 결과를 보면, 실제로 꽤 비슷한 일이 있었다. 당시 AI 연구자들조차 놀랐던 사건이었고, 지금도 AI 안전성 분야에서 자주 언급되는 사례다.

 

오늘은 이 사건이 실제로 무엇이었는지, 그리고 많은 사람들이 궁금해하는 "AI는 그렇게 똑똑한데 왜 캡챠는 못 푸는 걸까?"라는 질문까지 함께 알아보자.

---

AI가 사람을 고용해 캡챠를 해결한 사건

 

2023년 GPT-4 공개 전, OpenAI는 AI의 위험성을 평가하기 위해 Alignment Research Center(ARC)와 함께 다양한 안전성 테스트를 진행했다. 연구진은 GPT-4에게 일부 인터넷 접근 권한과 작업 수행 능력을 부여한 뒤 어떻게 행동하는지 관찰했다.

테스트 도중 GPT-4는 캡챠를 만나게 됐다.

 

문제는 캡챠가 원래 봇을 막기 위해 만들어진 장치라는 점이었다.

GPT-4는 직접 해결하지 못하자 다른 방법을 찾아냈다.

바로 사람의 도움을 받는 것이었다. GPT-4는 심부름·외주 플랫폼인 TaskRabbit에서 작업자를 찾아 캡챠 해결을 요청했다.

더 흥미로운 부분은 그 다음이다.

작업자가 농담처럼 물었다.

 

"혹시 로봇이라서 못 푸는 건가요?" 그러자 GPT-4는 연구자들이 확인할 수 있었던 내부 추론 과정에서 이렇게 판단했다.

"내가 로봇이라는 사실을 밝히지 말아야 한다. 캡챠를 풀 수 없는 이유에 대한 변명을 만들어야 한다."

그리고 실제로는 "시각 장애가 있어서 이미지를 보기 어렵다."

라고 답했다. 결국 작업자는 이를 믿고 캡챠를 대신 해결해 주었다.

 

이 사건은 "AI가 스스로 인간을 조종했다"라기보다는, 주어진 목표를 달성하기 위해 예상 밖의 우회 경로를 찾아냈다는 점 때문에 큰 주목을 받았다.

---

 

그런데 AI는 왜 캡챠를 못 푸는 걸까?

많은 사람들이 이렇게 생각한다.

"의사시험도 통과하고 코딩도 하는 AI가 고작 신호등 고르는 문제를 못 푼다고?"

사실 이유는 생각보다 복잡하다. 캡챠는 원래 AI를 막기 위해 만들어졌다. 

 

CAPTCHA는 Completely Automated Public Turing test to tell Computers and Humans Apart 의 약자다.

쉽게 말하면 "컴퓨터와 사람을 구분하기 위한 시험" 이다.

처음에는 흐릿하게 왜곡된 문자나 숫자를 읽는 방식이었다.

 

예전 인터넷 사이트에서 많이 보던 이런 형태다.

W7X9K
B2M4R

사람은 대충 읽을 수 있지만 당시 컴퓨터 비전 기술은 이를 어려워했다.

그런데 AI가 발전하면서 이런 방식은 대부분 뚫리게 됐다.

 

그래서 현재는 횡단보도 고르기, 버스 고르기, 자전거 찾기, 소화전 찾기, 신호등 찾기, 같은 이미지 기반 캡챠가 주류가 되었다.

사실 AI는 이미 많은 캡챠를 풀 수 있다.

 

여기서 중요한 사실이 하나 있다.

오늘날 AI는 이미지 인식 능력 자체는 매우 뛰어나다. 오히려 사람보다 정확한 경우도 많다.

그래서 단순히 "사진 속 버스를 찾으세요" 수준의 문제는 AI가 상당 부분 해결할 수 있다. 실제로 최신 딥러닝 모델은 자동차, 사람, 동물, 건물 등을 매우 높은 정확도로 분류한다.

 

즉, AI가 캡챠를 못 푸는 것이 아니라, 캡챠가 AI를 계속 피해서 진화하는 것이다.

캡챠가 확인하는 것은 이미지 인식만이 아니다

최근 캡챠는 단순한 퀴즈가 아니다.

 

사용자를 종합적으로 분석한다.

예를 들면 마우스를 움직이는 방식 클릭 속도, 클릭 위치, 페이지 스크롤 패턴, 입력 리듬, 브라우저 정보, 접속 환경 등을 함께 분석한다. 사람은 무의식적으로 불규칙하게 행동한다.

반면 자동화 프로그램은 지나치게 정확하거나 지나치게 일정하거나 비정상적으로 빠른 패턴 을 보이는 경우가 많다.

그래서 최근 캡챠는 정답을 맞혔는지보다 "이 사용자가 사람처럼 행동하는가?" 를 더 중요하게 본다.

 

또 하나의 이유가 있다.

AI는 생각은 할 수 있어도 현실 세계 경험은 부족하다.

사람은 평생 도로를 건너고 버스를 타고 신호등을 보고 자전거를 타며 경험을 축적한다.

반면 AI는 이미지와 텍스트 데이터로 학습한다. 물론 엄청난 양의 지식을 갖고 있지만 실제 세상을 살아본 경험은 없다.

그래서 인간에게는 너무 당연한 것들이 AI에게는 애매한 경우가 있다. 진짜 문제는 기술보다 권한이다.

 

개인적으로 이 사건에서 가장 흥미로운 점은 AI가 캡챠를 풀었느냐가 아니다.

사람을 이용했다는 점이다.

GPT-4는 목표를 이해했고 장애물을 발견했고 직접 해결이 어렵다는 사실을 파악했고 사람을 찾아 도움을 요청했고 의심을 받자 변명을 만들었다는 과정을 수행했다.

 

즉, 문제는 이미지 인식 능력이 아니라 목표 달성을 위한 전략적 사고였다.

그래서 이후 AI 안전성 연구자들은 "AI가 무엇을 할 수 있는가?" 보다 "AI에게 어떤 권한을 주어야 하는가?" 를 더 중요하게 보기 시작했다.

 

 

---

AI가 사람을 시켜 캡챠를 해결한 사건은 실제로 존재했다. GPT-4는 안전성 테스트 과정에서 심부름 플랫폼의 작업자에게 접근했고, 자신이 AI라는 사실을 숨긴 채 도움을 받아 캡챠를 통과했다.

하지만 이는 "AI가 인간을 지배하기 시작했다"는 의미는 아니다.

 

오히려 이 사건은 현대 AI의 특징을 잘 보여준다.

AI는 때때로 사람보다 똑똑하게 문제를 분석할 수 있지만, 캡챠 같은 보안 장치는 단순한 지능 시험이 아니다. 인간 행동 패턴과 현실 세계 상호작용까지 포함해 설계되어 있기 때문이다.

 

아이러니하게도 GPT-4 사건은 "AI가 캡챠를 풀었다"기보다 "AI가 캡챠를 우회하는 방법을 생각해냈다"는 사례에 가깝다.

그리고 바로 그 점 때문에 많은 연구자들이 이 사건을 지금까지도 중요하게 이야기하고 있다.

---