숫자로 보는 정체, 그리고 한국어 전용 AI와 토큰이라는 기초 개념부터 짚어봅니다
보고서는 Solar Open 2의 발전을 이 4가지 축으로 스스로 요약합니다 — 앞으로 이어질 슬라이드들은 이 4가지를 하나씩 자세히 풀어보는 과정입니다.
전체 지식은 방대하지만, 질문 하나에 동원되는 건 일부뿐이라 빠르고 가볍습니다.
거대한 도서관을 통째로 옮기는 대신, 필요한 책 몇 권만 빠르게 꺼내 오는 것과 같아요.
아무리 뛰어난 외국인 통역사도, 그 나라에서 나고 자란 사람만큼 맥락을 읽기는 어렵죠.
글을 잘게 잘라 택배 상자(토큰)에 나눠 담는 것과 같아요. BPE는 자주 붙어 다니는 글자들을 아예 한 상자에 묶어 포장하는 똑똑한 포장법이고요.
💡 막대가 길수록(바이트/토큰이 높을수록) 토큰 하나에 더 많은 정보를 눌러 담는다는 뜻 — 즉 더 알뜰하고 효율적인 토크나이저입니다. 반대로 바이트/토큰이 낮으면 같은 글을 처리하는 데 토큰을 더 낭비하는 셈이죠.
택배 상자(토큰) 하나에 물건(글자 정보)을 얼마나 빽빽하게 채우느냐의 문제예요. Solar Open 2는 같은 크기 상자에 더 많은 짐을 싣습니다.