신진서가 이긴 바둑 AI 카타고, 알파고와 뭐가 다른가

신진서 9단이 현존 최강 바둑 AI 카타고를 꺾었다. 2026년 7월 열린 쎈수학·한경 기신전에서 신진서는 2점 접바둑으로 카타고와 3번기를 벌여 2승 1패로 역전 우승했다. 7월 17일 1국은 254수 불계패로 완패했지만, 19일 2국을 290수 끝에 4집반으로 이겼고, 21일 3국도 221수 만에 11집반으로 잡았다(한국경제, 일간스포츠). AI 성능이 크게 오른 뒤 공식 대국에서 카타고를 상대로 2점 접바둑 2연승을 거둔 첫 프로기사다.

2승 1패

3번기 최종 전적역전 우승

2점

접바둑 핸디캡맞바둑 아님

2019년

카타고 첫 공개MIT 오픈소스

먼저 못을 박아두자. 이건 맞바둑 승리가 아니다. 신진서가 흑돌 두 점을 미리 깔고 시작한 핸디캡 매치다. 2016년 이세돌이 알파고를 맞바둑으로 1승 거둔 것과는 조건이 다르다. 그래서 “인간이 AI를 넘어섰다”기보다, 두 점을 접어주면 세계 1위가 비집고 들어갈 틈이 아직 있다는 쪽에 가깝다. 신진서 본인도 “전투에서 AI를 이겨봤다는 점에서 의미 있는 승부”라고 선을 그었다(한국경제).

카타고가 대체 뭔가

카타고(KataGo)는 데이비드 우(David Wu)가 만들어 2019년 2월 27일 처음 공개한 바둑 AI다. C++로 짰고 MIT 라이선스로 배포된다(Wikipedia). 이 한 줄이 핵심이다. 알파고는 구글 딥마인드가 사내에서만 돌린 비공개 시스템이었지만, 카타고는 소스코드와 학습된 신경망을 통째로 인터넷에 풀어놨다. 누구나 내려받아 자기 노트북에서 돌릴 수 있고, 프로 기사들이 복기 도구로 쓰는 것도 대부분 카타고다. 지금 바둑계가 “AI 검토”라고 부르는 것의 실체가 이거다.

처음 학습은 데이비드 우가 제인 스트리트 캐피털의 컴퓨팅 자원을 빌려 엔비디아 V100 GPU 28장으로 19일간 돌렸다. 이후로는 자원봉사자들이 컴퓨팅을 보태는 분산 학습으로 넘어가 계속 강해졌고, 2024년 8월 기준 28블록·512채널(b28c512) 규모까지 커졌다(Wikipedia).

알파고·알파고제로와 무엇이 다른가

알파고(2016)는 프로들의 기보로 먼저 배우고(지도학습) 그 위에 강화학습을 얹은 구조였다. 이듬해 나온 알파고제로는 인간 기보를 아예 버리고 자기 자신과 두는 대국(self-play)만으로 백지에서 최강에 올랐다. 카타고는 이 알파고제로/알파제로 계열의 후예다. 인간 기보 없이 self-play로 배운다는 뼈대는 같다.

구분	알파고제로 (2017)	카타고 (2019~)
공개 여부	딥마인드 사내 비공개	MIT 라이선스 오픈소스
학습 방식	self-play (인간 기보 없음)	self-play (동일)
설계 지향	바둑·체스·쇼기 범용	바둑 특화 (활로·사다리·코미 입력)
실전 편의	승률 위주	예상 집수·접바둑·다양한 규칙 지원
학습 효율	TPU 수천 개·수일	GPU 30장 미만·19일

갈라지는 지점은 두 가지다. 첫째, 카타고는 바둑에 특화된 설계를 잔뜩 집어넣었다. 알파고제로가 바둑·체스·쇼기에 두루 쓸 범용 아키텍처를 지향한 반면, 카타고는 활로(liberty), 사다리(ladder), 코미, pass-alive 같은 바둑 고유 정보를 입력 피처로 손수 넣고, 판 전체 맥락을 읽는 global pooling 층을 더했다(arXiv, Accelerating Self-Play Learning in Go). 이 덕에 학습 효율이 크게 뛰었다. 논문에 따르면 알파제로가 수천 개 TPU를 며칠씩, ELF가 수천 개 GPU를 2주씩 굴린 데 비해, 카타고는 GPU 30장 미만으로 19일 만에 ELF 최종 모델을 넘어섰다. 보수적으로 잡아도 한 자릿수 배수 이상 효율적이라는 게 개발자의 주장이다(arXiv).

둘째, 카타고는 실전 도구로서 편의 기능이 많다. 승률만 뱉는 알파고와 달리 예상 집수(score estimation)를 내주고, 임의의 코미와 접바둑 점수, 작은 판·직사각형 판, 여러 규칙까지 지원한다(Wikipedia). 이번 기신전이 2점 접바둑으로 성립할 수 있었던 것도 카타고가 애초에 핸디캡 상황을 상정하고 만들어진 엔진이기 때문이다.

인간이 최상위 AI를 이긴 게 무슨 뜻인가

운영자 시점에서 보면, 이번 결과의 무게는 “AI를 이겼다”보다 “얼마를 접고 이겼나”에 있다. 맞바둑이라면 세계 1위도 카타고에 좀처럼 못 이긴다는 게 지난 몇 년의 현실이었다. 그 격차를 2점으로 환산했을 때 인간이 절반 이상을 가져왔다는 게 이번 2승 1패의 진짜 뉴스다. 1국을 크게 지고 남은 두 판을 잡아낸 흐름도, 접바둑에서 AI의 초반 우위를 인간이 실전 감각으로 되감을 수 있다는 신호로 읽힌다.

동시에 유의할 대목이 하나 있다. 최강처럼 보이는 이 AI에도 빈틈이 있다. 2022년 연구진은 카타고를 상대로 특정 패턴을 유도해 어이없이 무너뜨리는 적대적 공격(adversarial attack)을 시연했고, 적대적 학습으로 막아도 완전히 메워지지 않았다(arXiv 2211.00241). 초인적 실력과 국소적 취약함이 한 몸에 공존하는 셈이다. 신진서의 접바둑 2승은 그 틈을 인간의 감각으로 파고든 사례이지, 카타고가 약해졌다는 증거는 아니다.

자주 묻는 질문

신진서는 카타고를 맞바둑으로 이긴 건가?

아니다. 신진서가 흑돌 2점을 먼저 깔고 두는 2점 접바둑이었다. 맞바둑에서는 여전히 카타고가 강하다.

카타고와 알파고의 가장 큰 차이는?

공개 여부다. 알파고 계열은 딥마인드 비공개, 카타고는 MIT 라이선스 오픈소스라 누구나 내려받아 쓸 수 있다.

카타고는 인간 기보를 배웠나?

아니다. 알파고제로처럼 자기 대국(self-play)만으로 학습했다. 다만 바둑 특화 설계로 훈련 효율이 훨씬 높다.

이세돌의 2016년 승리와 뭐가 다른가?

이세돌은 맞바둑 1승, 신진서는 2점 접바둑 2승이다. 조건이 달라 단순 비교는 어렵다.