"사람 없이 혼자 해킹한다고?" AI 해커의 등장, 보안 판도를 뒤흔들다

얼마 전 서울 코엑스에서 열린 국제해킹방어대회에 조금 낯선 참가자가 등장했습니다. 사람이 아니라 'AI'가 스스로 시스템의 약점을 찾아내고, 그 자리에서 문제를 풀어낸 겁니다. 게다가 성적도 상위권. "이제 해킹도 AI가 대신 해주는 시대인가" 싶은 생각이 절로 드는 소식이었는데요, 오늘은 이 흥미로운 이야기를 함께 살펴보겠습니다.

사람 손 없이 스스로 뚫는다? AI 해커의 정체

이번 대회에 등장한 'AI 해커'는 사람의 개입 없이 스스로 시스템 취약점을 탐색하고, 그걸 실제로 공략까지 해내는 자동화 시스템입니다. 결과는 놀라웠습니다. 일반부에서는 18위, 주니어부에서는 무려 2위를 기록했다고 하니, 웬만한 사람 실력자들과 어깨를 나란히 한 셈이죠. 이 AI 해커는 여러 글로벌 대형언어모델(LLM)을 기반으로 만들어졌는데, 사람이 밤새 코드를 들여다보며 찾던 보안 허점을 AI가 훨씬 빠른 속도로 대량으로 찾아낼 수 있다는 걸 보여준 사례로 평가받습니다.

 

AI 생성 삽화

 

"결국은 성능 싸움" AI 보안이라는 말의 무게

이 프로젝트를 이끈 개발자는 "AI 보안은 결국 성능 싸움"이라는 말을 남겼습니다. 언뜻 단순해 보이지만 곱씹어보면 꽤 의미심장한 말인데요. 방어하는 쪽도, 공격하는 쪽도 결국 더 똑똑하고 빠른 AI를 쓰는 쪽이 유리해진다는 뜻입니다. 예전에는 보안 실력이 사람의 경험과 직관에 크게 좌우됐다면, 이제는 '어떤 AI 모델을 얼마나 잘 활용하느냐'가 승부를 가르는 핵심 변수가 되고 있는 셈이죠. 이런 흐름은 비단 해킹 대회뿐 아니라 기업의 실제 보안 인프라 구축에도 그대로 적용됩니다.

중국산 오픈웨이트 모델, 위험하지만 외면할 수 없는 이유

여기서 흥미로운 지점이 하나 등장합니다. 바로 '오픈웨이트(open-weight)' 모델 이야기인데요. 오픈웨이트 모델이란 모델의 내부 가중치까지 공개해 누구나 가져다 쓸 수 있게 한 AI를 말합니다. 최근 중국계 오픈웨이트 모델들이 상용 폐쇄형 모델 못지않은 성능을 보이면서, 보안 현장에서도 이를 무시하기 어려운 상황이 됐다고 합니다. 문제는 이런 모델을 쓸 때 따라오는 보안·신뢰성 리스크입니다. 그럼에도 비용 효율성과 성능을 고려하면 완전히 배제하기도 힘든 것이 현실이죠. 그래서 나온 제언이 "위험성과 효율성을 동시에 직시하며, 상용 모델과 중국계 오픈웨이트 모델을 전략적으로 조합해 써야 한다"는 것입니다. 무조건 쓰지 말자도, 무조건 믿고 쓰자도 아닌, 균형 잡힌 시각이 필요하다는 이야기입니다.

 

AI 생성 삽화

 

우리 일상에는 어떤 의미일까

이런 이야기가 먼 나라 얘기처럼 느껴질 수도 있지만, 사실 우리가 매일 쓰는 앱과 서비스 뒤편에서 벌어지는 보이지 않는 싸움입니다. AI가 취약점을 더 빨리 찾아낸다는 건, 나쁜 의도를 가진 쪽도 그만큼 빠르게 공격 방법을 찾아낼 수 있다는 뜻이기도 하니까요. 반대로 이 기술이 방어에 잘 쓰인다면, 우리가 쓰는 서비스들이 더 빠르게 안전해질 수도 있다는 희망적인 신호이기도 합니다. 결국 이 기술을 누가, 어떻게, 얼마나 균형 있게 쓰느냐가 관건인 셈입니다.

마무리하며

사람 없이도 스스로 취약점을 찾아내는 AI 해커의 등장은 보안 분야가 얼마나 빠르게 변하고 있는지를 보여주는 상징적인 장면이었습니다. "AI 보안은 성능 싸움"이라는 말처럼, 앞으로는 더 강력한 AI 모델을 누가 더 지혜롭게 활용하느냐가 관건이 될 것 같습니다. 특히 중국계 오픈웨이트 모델을 둘러싼 위험과 효율의 줄다리기는 앞으로도 계속 주목해볼 만한 이슈입니다.

참고 자료
IT동아, "'AI 해커' 만든 윤인수 KAIST 교수 "AI 보안은 성능 싸움…中 모델 위험성과 효율성 동시에 직시해야"", 2026.07.31