인공지능
원문 표기 · AI
데이터에서 규칙을 찾아 답을 만드는 프로그램
인공지능은 아주 많은 예시를 살펴 그 안의 규칙을 찾아내고, 그 규칙으로 답을 만들거나 판단하는 프로그램입니다. 살아 있는 존재가 아니고 사람처럼 생각하지도 않습니다. 다음에 올 가능성이 가장 높은 것을 아주 빠르게 계산할 뿐입니다.
더 배우기
거대 언어 모델
원문 표기 · LLM
엄청난 양의 글을 배워 문장을 이어 쓰는 인공지능
거대 언어 모델은 엄청난 양의 글을 읽고 어떤 말 뒤에 어떤 말이 오는지를 배운 모델입니다. 여러분이 글을 쓰면, 다음에 올 법한 낱말을 계속 골라 이어 붙여 답을 만듭니다. 그래서 말은 매끄러운데 내용은 틀릴 수 있습니다.
더 배우기
프롬프트
원문 표기 · Prompt
인공지능에게 쓰는 글 — 여러분의 지시문
프롬프트는 여러분이 인공지능에게 적어 넣는 글입니다. 주문이 아니라 그저 말이지만, 표현이 중요합니다. 내가 누구이고 무엇을 원하며 어떤 형식으로 받고 싶은지 분명히 적을수록 답이 좋아집니다. 답이 마음에 안 들면 따지기보다 프롬프트를 다시 쓰는 편이 빠릅니다.
더 배우기
시스템 프롬프트
원문 표기 · System prompt
대화가 시작되기 전에 미리 정해 두는 지시문
시스템 프롬프트는 여러분의 메시지보다 앞에 놓이는 지시문입니다. 이 도우미가 누구이며 항상 지켜야 할 것과 절대 하지 말아야 할 것을 정해 둡니다. 보통 화면에는 보이지 않지만 모든 답에 영향을 줍니다. 리엔의 교육 원칙도 여기에 들어 있습니다.
토큰
원문 표기 · Token
인공지능이 실제로 세는 글자 조각
인공지능은 글자나 낱말 단위로 읽지 않고, 글을 토큰이라는 작은 조각으로 잘라서 다룹니다. 짧은 낱말은 토큰 하나, 긴 낱말은 여러 개가 되기도 합니다. 길이 제한과 API 요금은 글자 수가 아니라 토큰 수로 셈하기 때문에, 비용이나 용량 이야기에는 늘 이 말이 나옵니다.
컨텍스트 창
원문 표기 · Context window
인공지능이 한 번에 볼 수 있는 글의 양
컨텍스트 창은 인공지능이 작업하는 책상입니다. 지금 질문, 지금까지의 대화, 붙여 넣은 문서가 모두 그 위에 올라가야 합니다. 대화가 그 크기를 넘어서면 오래된 부분부터 책상 밖으로 밀려나고, 인공지능은 그 내용을 정말로 더 이상 볼 수 없습니다. 긴 대화에서 앞부분을 잊어버리는 것처럼 보이는 이유가 이것입니다.
환각(허위 생성)
원문 표기 · Hallucination
근거 없이 그럴듯하게 지어낸 답
이 분야에서 이 말은 오직 한 가지, 즉 틀리거나 근거 없는 출력을 확신에 찬 어조로 내놓는 것을 가리킵니다. 사람이 헛것을 보는 경험과는 아무 관계가 없습니다. 기계는 무엇도 겪지 않습니다. 모델이 출처를 확인하는 것이 아니라 그럴듯한 낱말을 고르기 때문에 생기므로, 이름과 숫자와 인용은 반드시 따로 확인해야 합니다.
온도(temperature)
원문 표기 · Temperature
무난하고 일정한 답과 튀는 답 사이를 조절하는 손잡이
온도는 모델이 다음 낱말을 얼마나 과감하게 고르는지를 정합니다. 낮게 두면 가장 확률 높은 낱말만 고르므로 답이 일정하고 반복 가능해집니다. 사실 확인이나 코드에 좋습니다. 높게 두면 덜 확률적인 낱말까지 집어 답이 다양해지지만 틀릴 여지도 커집니다. 아이디어를 뽑을 때 쓸모가 있습니다.
파라미터(parameter)
원문 표기 · Parameter
모델이 학습하며 조정하는 수많은 숫자 하나하나
파라미터는 영어로 parameter 이고 매개변수라고도 합니다. 모델이 학습하며 스스로 고치는 숫자 전부를 말하며, 가중치가 가장 많고 편향·임베딩·정규화 계수도 파라미터입니다. 7B 모델에는 약 70억 개가 있습니다. 많으면 돌리기 무거워질 뿐, 저절로 더 좋아지지는 않습니다.
더 배우기
학습(훈련)
원문 표기 · Training
예시를 반복해 보여 주며 모델의 숫자를 맞춰 가는 과정
학습은 모델이 만들어지는 과정입니다. 예시를 하나씩 보여 주면 모델이 답을 추측하고, 얼마나 틀렸는지 알려 주면 숫자를 조금씩 정답 쪽으로 옮깁니다. 이것을 수십억 번 반복하면 규칙이 자리를 잡습니다. 느리고 비용이 크기 때문에, 모델은 한 번 학습해 두고 여러 번 가져다 씁니다.
파인튜닝(미세조정)
원문 표기 · Fine-tuning
이미 학습된 모델에 내 예시를 더 가르치는 일
모델을 처음부터 만드는 대신, 이미 완성된 모델을 가져와 내가 준비한 적은 양의 예시로 조금 더 학습시켜 말투나 분야를 물들이는 방법입니다. 처음부터 학습하는 것보다 훨씬 저렴합니다. 다만 초보 단계에서는 프롬프트를 더 분명하게 쓰는 것만으로 해결되는 경우가 대부분입니다.
더 배우기
추론(실행)
원문 표기 · Inference
학습이 끝난 모델을 실제로 돌려 답을 얻는 일
추론은 모델을 평소에 쓰는 일 자체입니다. 글을 넣으면 모델이 계산하고 답이 나옵니다. 이때 모델은 아무것도 새로 배우지 않습니다. 실행 전과 후의 모델은 완전히 같습니다. 인공지능 서비스의 비용이나 속도를 이야기할 때는 대개 이 단계를 가리킵니다.
검색 증강 생성(RAG)
먼저 자료를 찾아 놓고 그것을 보며 답하게 하는 방식
이 방식에서는 시스템이 먼저 질문과 관련된 문단을 내 문서에서 찾아낸 다음, 그 문단을 인공지능에게 건네주며 그것을 근거로 답하라고 시킵니다. 인공지능이 기억에 의존해 답하지 않게 되므로 지어낸 답이 크게 줄고, 어떤 자료를 썼는지 확인할 수도 있습니다.
에이전트
원문 표기 · Agent
도구를 쓰며 스스로 여러 단계를 밟는 인공지능
보통의 챗봇은 답글만 씁니다. 에이전트는 파일 읽기, 검색, 명령 실행 같은 도구를 받아, 결과를 보고 다음에 무엇을 할지 스스로 정하며 목표를 향해 단계를 밟아 갑니다. 그만큼 쓸모가 크고 동시에 위험도 큽니다. 그래서 무엇을 만져도 되고 무엇은 안 되는지 분명히 정해 주어야 합니다. 넓은 의미에서 에이전트는 모델과 하네스를 합친 것이에요 — LangChain 은 "Agent = Model + Harness"라고 적어요.
서브 에이전트
원문 표기 · Sub-agent
메인 에이전트가 일의 한 부분을 맡기려고 띄우는 도우미 에이전트
서브 에이전트는 자기만의 새 컨텍스트 창에서 일합니다. 그래서 많은 파일을 읽거나 넓게 검색한 뒤 결과만 알려 주어, 메인 대화를 짧게 지켜 줍니다. 서브 에이전트에게는 좁은 일 하나와 꼭 필요한 도구만 주세요. 그리고 그 보고도 다른 초안처럼 꼭 확인하세요.
더 배우기
Ralph Loop(랄프 루프)
일이 정말 끝날 때까지 에이전트에게 같은 프롬프트를 계속 다시 주는 방법
에이전트가 멈추려고 하면 훅(hook)이 같은 프롬프트를 다시 줍니다. 에이전트는 파일과 Git 에 이미 저장해 둔 작업에서 이어서 계속합니다. 루프에는 확인할 수 있는 끝 지점과, 최대 반복 횟수 같은 한도가 있어야 합니다. 그렇지 않으면 끝없이 돌 수 있습니다.
더 배우기
스킬
원문 표기 · Skill
필요할 때 인공지능이 불러 쓰는 재사용 지시 묶음
스킬은 한 가지 종류의 일을 위한 지시문과, 필요하면 스크립트까지 담은 작은 폴더입니다. 그 일이 생겼을 때만 읽어 들이므로, 모든 대화가 모든 지식을 짊어지지 않고도 아는 것을 늘릴 수 있습니다. 같은 설명을 프롬프트에 반복해 적고 있다면, 그것이 스킬로 만들 때가 되었다는 신호입니다.
더 배우기
신경망
원문 표기 · Neural network
예시를 보며 규칙을 익히는 단순한 계산의 그물
신경망은 아주 단순한 계산을 겹겹이 이어 붙인 구조입니다. 사람이 규칙을 일일이 적어 주는 것이 아니라, 예시를 아주 많이 보여 주면 스스로 숫자를 조금씩 고쳐 가며 정답에 가까워집니다. 이름은 뇌세포에서 따왔지만 실제로는 컴퓨터가 돌리는 산수일 뿐, 생각하는 생명체가 아닙니다.
더 배우기
머신러닝(기계 학습)
원문 표기 · Machine learning
규칙을 적어 주는 대신 예시로 가르치는 방식
보통의 프로그래밍은 사람이 규칙을 적습니다. 이러면 저렇게 하라고요. 기계 학습은 대신 답이 붙은 예시를 수천 개 보여 주고 규칙은 컴퓨터가 스스로 찾게 합니다. 그래서 사진이나 말소리처럼 딱 떨어지지 않는 것을 잘 다루지만, 예시가 부실하면 자신 있게 틀린 답을 내놓기도 합니다.
더 배우기
딥러닝
원문 표기 · Deep learning
층을 아주 여러 겹 쌓은 기계 학습 — 오늘날 인공지능의 바탕
딥러닝은 층을 여러 겹 쌓은 신경망으로 하는 기계 학습입니다. 앞쪽 층은 사진의 윤곽선 같은 단순한 것을 잡아내고, 뒤로 갈수록 얼굴처럼 더 복잡한 것을 알아봅니다. 요즘 이야기되는 인공지능은 채팅 모델을 포함해 거의 전부 이 방식으로 만들어졌습니다.
더 배우기
원문 표기 · Transformer
요즘 언어 모델을 거의 다 떠받치는 신경망 설계
트랜스포머는 2017년에 발표된 신경망 설계 방식으로, 입력에 있는 모든 낱말이 서로를 한꺼번에 견주어 볼 수 있게 합니다. 덕분에 긴 문장에서도 앞뒤가 흐트러지지 않고 이어집니다. GPT 의 T 가 바로 이것이며, 이름을 아는 채팅 모델은 거의 전부 트랜스포머입니다.
더 배우기
GPT 자세히 보기
가중치(weight)
원문 표기 · Weight
입력을 얼마나 세게 반영할지 정하는, 학습으로 얻은 숫자
가중치는 영어로 weight(여러 개면 weights)라고 합니다. 신경망의 연결마다 있는 숫자로, 입력에 곱해져 그 입력이 결과에 얼마나 영향을 줄지 정합니다. 사람이 적어 넣지 않고, 학습이 답이 좋아지도록 조금씩 고쳐 찾아냅니다. 모델 파일의 대부분이 이 숫자라서, 오픈 모델은 곧 가중치를 내려받을 수 있는 모델입니다.
더 배우기
프롬프트 엔지니어링
원문 표기 · Prompt engineering
인공지능이 잘 답할 수 있게 묻는 기술
프롬프트 엔지니어링은 요청을 잘 적는 실전 기술입니다. 어떤 역할로, 무엇을 위해, 어떤 형태의 답을, 그리고 스스로는 알 수 없는 사실은 무엇인지 함께 알려 주는 것이지요. 프로그래밍보다는 새로 온 동료에게 일을 설명하는 일에 가깝습니다. 같은 모델이라도 어떻게 묻느냐에 따라 훌륭해 보이기도 하고 쓸모없어 보이기도 합니다.
더 배우기
챗봇
원문 표기 · Chatbot
평소 쓰는 말로 대화하는 프로그램
챗봇은 버튼을 누르는 대신 평소 쓰는 문장으로 주고받는 프로그램을 말합니다. 예전 챗봇은 정해진 대본을 따라가다가 조금만 벗어나면 곧바로 막혔지만, 요즘은 대개 언어 모델이 대화창 뒤에 붙어 있습니다. 이 사이트의 리엔도 챗봇이며, 모든 챗봇이 그렇듯 사람이 아니라 규칙대로 도는 소프트웨어입니다.
더 배우기
MCP
인공지능에 도구와 자료를 연결하는 공통 규격
MCP 는 Model Context Protocol 의 줄임말로, 인공지능 비서가 파일을 읽거나 데이터베이스를 조회하거나 다른 서비스를 부르는 등 자기 바깥에 닿을 때 쓰는 약속된 방식입니다. 이것이 없던 때는 도구마다 따로 연결을 만들어야 했습니다. 인공지능 비서의 USB 단자라고 생각하면 됩니다. 규격이 하나라 맞춰 만든 것은 그냥 꽂으면 됩니다. 에이전트가 MCP 클라이언트이고, 자기 기능을 에이전트가 쓸 수 있게 내놓는 프로그램이 MCP 서버입니다 — 예를 들어 WebMCP 는 웹사이트가 웹브라우저를 통해 자기 기능을 에이전트가 쓸 수 있게 내놓는 것입니다.
더 배우기
MCP 서버(MCP server)
MCP 로 AI 앱에 도구와 자료를 내놓는 프로그램
MCP 서버는 자기가 할 수 있는 일 — 부를 수 있는 도구, 읽을 수 있는 자료, 미리 만든 프롬프트 — 을 MCP 로 내놓는 프로그램입니다. MCP 를 아는 앱이면 어디서나 연결해 씁니다 — 클로드 코드, Codex, Claude Desktop, 내가 만든 프로그램. 내 컴퓨터에서 돌며 표준 입출력으로 이야기하기도 하고, 웹에서 돌며 HTTP 로 이야기하기도 합니다. 에이전트가 서버가 내놓은 것을 실행하므로, 설치하기 전에 먼저 읽어 봅니다.
더 배우기
확률
원문 표기 · Probability
어떤 일이 일어날 가능성을 0~1로 나타낸 수
확률은 어떤 일이 얼마나 일어날 것 같은지를 0(절대 안 일어남)부터 1(반드시 일어남)까지의 수로 나타내며, 흔히 백분율로 적습니다. 언어모델은 다음에 올 수 있는 토큰마다 확률을 매기고, 그 확률을 모두 더하면 1이 됩니다. 확률이 높다는 것은 학습한 패턴에 잘 맞는다는 뜻일 뿐, 그 문장이 사실이라는 뜻은 아닙니다.
더 배우기
언어모델
원문 표기 · Language model
다음에 올 토큰의 확률을 계산하는 프로그램
언어모델은 앞의 글을 받아, 다음에 올 수 있는 토큰마다 확률을 계산하는 프로그램입니다. 토큰 하나를 골라 글 끝에 붙이고 다시 계산하기를 되풀이해 글을 씁니다. 요즘의 거대 언어 모델(LLM)은 엄청난 양의 글로 학습한 신경망이지만, 이 사이트의 바이그램처럼 단어 횟수 표 하나로 된 아주 작은 언어모델도 있습니다.
더 배우기
샘플링
원문 표기 · Sampling
확률에 따라 제비를 뽑듯 다음 토큰을 고르기
언어모델은 글을 쓸 때 다음에 올 수 있는 토큰마다 확률을 매깁니다. 샘플링은 늘 1등만 고르지 않고, 확률이 높을수록 자주 뽑히게 제비를 뽑아 하나를 고르는 방식입니다. 그래서 같은 질문에도 답이 달라질 수 있고, 같은 답이 다시 나올 수도 있습니다. 온도·top-k·top-p 가 뽑는 방식을 조절합니다.
더 배우기
탐욕 선택(greedy decoding)
원문 표기 · Greedy decoding
늘 확률이 가장 높은 토큰만 고르는 방식
탐욕 선택은 제비를 뽑지 않고, 단계마다 확률이 가장 높은 후보를 고릅니다. 같은 입력이면 늘 같은 결과가 나오므로 사실이나 코드에는 알맞지만, 글이 단조롭게 되풀이되기 쉽습니다. 단계마다 1등을 고른다고 문장 전체가 가장 좋아지는 것은 아니며, 답이 사실이 되는 것도 아닙니다.
더 배우기
바이그램
원문 표기 · Bigram
나란히 붙은 두 단어의 짝
바이그램은 나란히 붙어 나오는 두 단어의 짝입니다. 바이그램 모형은 훈련 문장에서 어떤 단어 뒤에 어떤 단어가 몇 번 왔는지 세고, 그 횟수를 확률로 바꿉니다. 바로 앞 단어 하나만 보므로 수업용 모형이며, 현대 신경망 언어모델이 이렇게 동작하는 것은 아닙니다. 인공지능 만들기 화면에서 직접 만들어 볼 수 있습니다.
더 배우기
다음 토큰 예측
원문 표기 · Next-token prediction
다음에 올 토큰을 맞히는 일을 되풀이해 글을 만드는 방식.
언어모델이 글을 만드는 기본 방식이에요. 지금까지의 문맥을 보고 다음에 올 수 있는 모든 토큰의 확률을 계산한 뒤 하나를 골라 끝에 붙이고, 길어진 문맥으로 답이 끝날 때까지 이것을 반복해요.
더 배우기
확률 분포
원문 표기 · Probability distribution
일어날 수 있는 결과마다 얼마나 그럴듯한지 적은 목록. 모두 더하면 100%.
일어날 수 있는 모든 결과에 확률을 하나씩 주고, 그 합이 1(100%)이 되게 한 것이에요. 언어모델은 다음 토큰에 대한 확률 분포를 만들고, 탐욕 선택이나 샘플링이 그 분포에서 하나를 골라요.
더 배우기
자기회귀
원문 표기 · Autoregressive
토큰을 하나씩 만들어 다시 입력에 붙이는 방식
자기회귀 모델은 토큰을 한 번에 하나씩 만듭니다. 새 토큰은 글 끝에 붙고, 지금까지의 글 전체가 다음 토큰을 고르는 입력이 됩니다. 답이 한 낱말씩 나타나는 것도, 앞에서 잘못 고른 토큰 하나가 뒤의 글 전체를 엉뚱한 쪽으로 끌고 갈 수 있는 것도 이 반복 때문입니다.
더 배우기
문맥(컨텍스트)
원문 표기 · Context
답 하나를 만들 때 모델이 받는 글 전체
문맥은 모델이 답 하나를 만들 때 받는 모든 것입니다. 시스템 프롬프트, 지금까지의 대화, 붙인 파일, 앱이 찾아 넣은 검색 결과가 모두 들어갑니다. 모델의 가중치는 그대로이고, 문맥이 달라져서 답이 달라집니다. 무엇을 넣을지는 앱이 고르며, 빠진 내용은 모델이 쓸 수 없습니다. 얼마나 들어가는지는 컨텍스트 창이 정합니다.
가중치·파라미터 자세히 보기
추론 모드
원문 표기 · Reasoning mode
답하기 전에 계산을 더 쓰는 설정
추론 모드에서는 모델이 최종 답을 내기 전에 풀이·점검·다른 길 시도 같은 중간 단계를 먼저 만들어 냅니다. 수학·코드·여러 단계를 거치는 문제에 도움이 될 때가 많지만, 토큰을 더 쓰고 시간이 더 걸리며 정답을 보장하지도 않습니다. 화면의 ‘생각 중’ 표시는 제품의 표시일 뿐, 사람 같은 생각을 한다는 증거가 아닙니다.
더 배우기
토크나이저
원문 표기 · Tokenizer
글을 토큰으로 자르고 번호를 붙이는 도구
토크나이저는 글을 토큰으로 자르고, 각 토큰을 자기 어휘 사전의 ID 번호로 바꿉니다. 토큰은 낱말·낱말 일부·글자·바이트일 수 있고, 띄어쓰기와 문장부호도 셈에 들어갑니다. 모델마다 토크나이저가 달라 같은 문장도 토큰 수가 달라질 수 있습니다. AI 실습실은 실제 LLM 토크나이저가 아니라 수업용 단어 분할기를 씁니다.
더 배우기
어텐션(attention)
원문 표기 · Attention
다른 토큰의 정보를 얼마나 섞을지 정하는 계산
어텐션은 트랜스포머 안에서 토큰마다 문맥 속 다른 토큰들에 점수를 매기고, 그 점수만큼 각 토큰의 정보를 섞는 단계입니다. 문장 속 ‘그것’을 그것이 가리키는 낱말과 이어 주는 것이 이 계산입니다. 글을 만드는 모델의 어텐션은 인과적이어서 앞 위치만 쓸 수 있고, 아직 쓰이지 않은 뒤 낱말은 쓸 수 없습니다.
더 배우기
소프트맥스(softmax)
원문 표기 · Softmax
점수(로짓)를 합이 1인 확률로 바꾸는 함수
모델은 단계마다 어휘의 모든 토큰에 로짓이라는 날것의 점수를 냅니다. 소프트맥스는 이 점수 목록을 0과 1 사이이면서 모두 더하면 1인 확률로 바꾸고, 순서는 그대로 둡니다. 점수가 가장 높은 토큰이 확률도 가장 높습니다. 온도는 소프트맥스 전에 점수를 나누어 분포를 뾰족하게 또는 평평하게 만듭니다.
더 배우기
top-k·top-p
원문 표기 · Top-k and top-p
샘플링이 뽑을 후보를 줄이는 두 가지 제한
샘플링 전에 확률이 낮은 후보를 잘라 내는 설정입니다. top-k 는 확률이 높은 토큰 k개만 남깁니다. top-p 는 확률이 높은 순서로 더해 p 이상이 되는 가장 작은 묶음만 남기므로, 남는 개수가 단계마다 달라집니다. 둘 다 엉뚱한 낱말을 줄여 주지만 사실을 확인하는 장치는 아닙니다.
더 배우기
경사 하강법
원문 표기 · Gradient descent
손실이 줄어드는 쪽으로 가중치를 조금씩 옮기기
경사 하강법은 대부분의 모델이 학습하는 방법입니다. 예측을 한 차례 해 본 뒤, 손실을 줄이려면 가중치마다 어느 쪽으로 얼마나 움직여야 하는지(기울기)를 계산합니다. 그리고 학습률을 곱한 작은 걸음만큼 옮깁니다. 이것을 여러 번 되풀이하면 가중치가 데이터에 맞는 값에 가까워집니다. 실전 인공지능 개발 화면에서는 0이던 w 가 약 2가 됩니다.
더 배우기
가중치·파라미터 자세히 보기
학습률
원문 표기 · Learning rate
가중치를 한 번에 얼마나 크게 고칠지 정하는 값
학습률은 경사 하강법에서 매번의 수정에 곱하는 수입니다. 너무 작으면 학습이 아주 느리고, 너무 크면 가중치가 자리를 잡지 못하고 크게 흔들리거나 튀어 버립니다. 모델이 스스로 배우는 값이 아니라 사람이 정하고 시험해 보는 하이퍼파라미터입니다. 실전 인공지능 개발 화면은 0.01을, 입력 × w + b 과제는 0.05를 씁니다.
더 배우기
가중치·파라미터 자세히 보기
손실(loss)
원문 표기 · Loss
예측이 얼마나 틀렸는지 나타내는 숫자 하나
손실은 모델의 예측과 정답 사이의 차이를 숫자 하나로 줄인 것입니다. 학습이란 이 숫자가 작아지도록 가중치를 고치는 일입니다. 그 계산식을 손실 함수라고 하며, 실전 인공지능 개발 화면은 오차 제곱의 평균을 쓰고 다른 과제는 다른 식을 씁니다. 학습 데이터에서 손실이 낮다는 것만으로 새 데이터에서도 잘 맞는다고 볼 수는 없습니다.
더 배우기
가중치·파라미터 자세히 보기
학습 데이터
원문 표기 · Training data
모델이 가중치를 배우는 데 쓰는 예시 모음
학습 데이터는 학습할 때 모델에 보여 주는 예시 모음입니다. 언어모델이라면 문장, 그림 분류 모델이라면 이름표가 붙은 사진, 작은 회귀라면 입력과 정답의 짝입니다. 모델은 이 데이터에 있는 패턴만 익힐 수 있고, 데이터의 오류와 빈틈까지 함께 담습니다. 확인용으로 떼어 둔 검증 데이터와 테스트 데이터는 학습에 쓰지 않습니다.
가중치·파라미터 자세히 보기
평가 지표
원문 표기 · Evaluation metric
본 적 없는 데이터로 매기는 모델의 점수
평가는 학습이 끝난 모델이 얼마나 잘하는지를, 학습에 쓰지 않은 데이터와 정해진 채점 방식(평가 지표)으로 재는 일입니다. 정확도(맞힌 비율)가 가장 간단하고, 틀린 종류를 따로 세는 지표도 있습니다. 한 테스트 데이터에서 점수가 좋아도 증거일 뿐 증명은 아니므로, 틀린 사례도 함께 보고 테스트 데이터는 학습에 섞지 않습니다.
분류 모델
원문 표기 · Classification
어느 범주에 속하는지 맞히는 모델
분류는 정해진 범주 가운데 하나를 답으로 고르는 문제이고, 분류 모델은 그 일을 하는 모델입니다. 스팸인지 아닌지, 붓꽃 세 종류 중 무엇인지, 사진 속 숫자가 무엇인지가 그 예입니다. 범주마다 점수를 매기고 가장 높은 것(argmax)을 고릅니다. 답이 둘이면 이진 분류, 셋 이상이면 다중 분류라고 하며, 답이 숫자 크기라면 회귀입니다.
더 배우기
회귀(regression)
원문 표기 · Regression
연속된 숫자 값을 맞히는 문제
회귀는 범주가 아니라 숫자를 답으로 맞히는 문제입니다. 집값, 내일 강수량(밀리미터), ‘입력 × 2’의 결과가 그 예입니다. 예측한 숫자가 정답과 얼마나 떨어졌는지로 채점하며, 오차 제곱을 많이 씁니다. 실전 인공지능 개발 화면의 작은 프로그램이 회귀이고, 붓꽃이 어느 종류인지 고르는 일은 분류입니다.
더 배우기
과적합
원문 표기 · Overfitting
학습 데이터에만 지나치게 맞춰진 상태
과적합은 모델이 일반적인 패턴 대신 학습 데이터의 우연한 특징과 잡음까지 외워 버린 상태입니다. 그러면 학습한 예시에서는 점수가 아주 높고, 새 예시에서는 눈에 띄게 낮습니다. 학습 점수와 따로 떼어 둔 검증·테스트 데이터의 점수를 비교하면 드러나며, 데이터를 늘리거나 모델을 단순하게 하거나 학습을 일찍 멈추면 줄일 수 있습니다.
더 배우기
하이퍼파라미터
원문 표기 · Hyperparameter
학습 전에 사람이 정하는 설정값
하이퍼파라미터는 학습을 시작하기 전에 사람이 정하는 설정입니다. 학습률, 학습 횟수, 층의 수, 이웃 수 k, 트리 깊이 같은 것이 여기에 속합니다. 학습은 이 값을 바꾸지 않고 파라미터(가중치)를 바꿉니다. 좋은 값은 여러 값을 시험해 검증 데이터에서 견주어 고르며, 최종 테스트 데이터로 고르지 않습니다.
더 배우기
가중치·파라미터 자세히 보기
검증 데이터
원문 표기 · Validation data
설정을 고르려고 떼어 둔 데이터
데이터는 보통 셋으로 나눕니다. 배우는 데 쓰는 학습 데이터, 하이퍼파라미터 같은 설정을 견주는 검증 데이터, 마지막에 한 번만 점수를 매기는 테스트 데이터입니다. 교차검증은 학습 데이터를 여러 조각으로 나눠 한 조각씩 돌아가며 떼어 두고 확인하므로, 데이터가 적을 때 더 안정적으로 비교할 수 있습니다. 테스트 점수를 보면서 계속 조정하면 그 점수가 실제보다 좋게 나옵니다.
더 배우기
활성화 함수
원문 표기 · Activation function
뉴런이 입력을 합친 뒤 거치는 함수
신경망의 뉴런은 먼저 입력을 z = w·x + b 로 합친 뒤, 그 z 를 활성화 함수에 넣습니다. 시그모이드는 어떤 수든 0과 1 사이로 눌러 담고, ReLU 는 음수를 0으로 바꾸고 양수는 그대로 둡니다. 이런 곧지 않은 단계가 없으면 층을 아무리 쌓아도 결국 직선 계산 하나와 같아져서, 신경망이 굽은 패턴을 배울 수 없습니다.
더 배우기
러너(추론 엔진)
원문 표기 · Runner (inference engine)
모델을 불러와 글을 쓰게 하는 프로그램
학습을 마친 모델은 숫자가 담긴 파일일 뿐입니다. 러너는 그 숫자를 불러오고, 내 글을 토큰으로 바꾸고, 모델을 돌려 다음 토큰에 점수를 매긴 뒤 하나를 고르고, 이것을 되풀이하며 나오는 낱말을 바로바로 보여 줍니다. Ollama 와 llama.cpp 는 내 컴퓨터에서 쓸 수 있는 러너입니다.
더 배우기
KV 캐시
원문 표기 · KV cache
앞 토큰의 어텐션 계산을 저장해 다시 쓰는 곳
어텐션에서는 토큰마다 키(key)와 값(value)을 만듭니다. 자기회귀 생성 중에는 앞 토큰들이 바뀌지 않으므로, 그 키와 값을 메모리에 저장해 두고(KV 캐시) 새 토큰마다 다시 계산하지 않고 꺼내 씁니다. 생성이 훨씬 빨라지지만, 문맥이 길수록 캐시가 커져서 GPU 메모리를 많이 차지할 수 있습니다.
더 배우기
가중치·파라미터 자세히 보기
원문 표기 · Tool call
모델이 앱에 도구 실행을 요청하는 정해진 형식
모델은 글만 만들어 낼 수 있어서 스스로 무언가를 실행하지 못합니다. 도구 호출에서 모델은 도구 이름과 인자를 정해진 형식(보통 JSON)으로 내놓고, 앱이 그것을 검사하고 필요하면 허락을 받은 뒤 도구를 실행합니다. 결과는 다시 문맥으로 모델에 보내집니다. 이 반복을 사람들이 에이전트라고 부릅니다.
더 배우기
멀티모달
원문 표기 · Multimodal
글·그림·소리 등 여러 종류의 데이터를 다루기
멀티모달 모델은 글·그림·소리·영상 가운데 두 가지 이상을 받아들이거나 만들어 냅니다. 예를 들어 사진을 받아 그 내용에 대한 질문에 글로 답하는 모델이 있습니다. 어떤 입력이든 모델이 계산할 수 있는 숫자로 바뀝니다. 멀티모달처럼 보이는 기능이 모두 모델 하나인 것은 아닙니다 — 앱이 따로 음성 인식 모델로 말을 글로 바꾼 뒤 보내기도 합니다.
더 배우기
바이브 코딩
원문 표기 · Vibe coding
글로 설명하면 AI가 코드를 쓰는 개발 방식
바이브 코딩은 만들고 싶은 것의 모양과 동작을 평범한 말로 설명하면 AI 도구가 코드를 쓰고, 사람은 결과를 보며 고칠 점을 다시 적는 개발 방식입니다. 아이디어를 빠르게 확인하거나 작은 웹앱·게임을 만들 때 좋습니다. 다만 만들어진 코드에도 실수나 보안 문제가 있을 수 있어 직접 확인해야 합니다. 배움노바의 바이브 코딩 화면에서는 리엔이 앱을 만들어 미리보기로 보여 줍니다.
더 배우기
쿼리·키·값(Query·Key·Value)
원문 표기 · Query, key and value
어텐션이 정보를 찾을 때 쓰는 세 벡터
어텐션에서 위치마다 자기 토큰으로 벡터 세 개를 만듭니다. 쿼리는 이 위치가 무엇을 찾는지, 키는 앞의 각 위치가 무엇을 담고 있는지, 값은 그 위치가 넘겨줄 정보입니다. 모델은 쿼리를 모든 키와 견주어 합이 1 인 가중치를 만들고, 그 가중치만큼 값들을 섞습니다.
더 배우기
BPE
가장 자주 붙는 쌍을 합쳐 가는 토크나이저 방식
BPE(byte pair encoding)는 학습 글로 토크나이저를 만드는 방법입니다. 글자나 바이트 하나씩에서 시작해, 나란히 붙은 두 조각 가운데 가장 자주 나오는 쌍을 새 조각 하나로 합치고, 어휘가 충분히 커질 때까지 되풀이합니다. 그래서 흔한 낱말은 토큰 하나가 되고 드문 낱말은 여러 조각으로 나뉘어, 어떤 글이든 적을 수 있습니다.
더 배우기
GPT 자세히 보기
바이트 단위 BPE
원문 표기 · Byte-level BPE
글자가 아니라 바이트에서 시작하는 BPE
바이트 단위 BPE 는 글자 대신 UTF-8 바이트 값 256가지에서 시작합니다. 그래서 어떤 언어든 처음 어휘가 늘 256개입니다. 모든 글자와 이모지는 바이트로 저장되므로 어휘에 없어서 처리하지 못하는 글이 없습니다. GPT-2 와 그 뒤의 많은 토크나이저가 이 방식을 씁니다.
더 배우기
GPT 자세히 보기
OOV(어휘 밖 낱말)
원문 표기 · OOV (out of vocabulary)
토크나이저의 어휘에 없는 낱말
OOV 는 out of vocabulary 의 약자로, 토크나이저의 어휘 목록에 없는 낱말입니다. 낱말 단위 토크나이저는 이런 낱말을 "모름" 표시로 바꿀 수밖에 없어 뜻을 잃습니다. BPE 는 드문 낱말을 아는 작은 조각으로 나누고, 바이트 단위 BPE 에서는 OOV 가 아예 생기지 않습니다.
더 배우기
말뭉치
원문 표기 · Corpus
학습에 쓰는 글 모음
말뭉치(corpus)는 토크나이저나 언어 모델을 학습시키려고 모은 큰 글 모음입니다. 토크나이저는 말뭉치에서 쌍을 세어 무엇을 합칠지 정하므로, 말뭉치가 어휘를 결정합니다. 한국어 글로 학습하면 한국어 조각이 토큰이 됩니다.
더 배우기
병합 규칙
원문 표기 · Merge rules
BPE 가 쌍을 합치는 순서 목록
BPE 는 학습하면서 합친 쌍을 순서대로 모두 적어 둡니다. 이 목록이 병합 규칙입니다. 새 글을 토큰으로 나눌 때 같은 규칙을 같은 순서로 적용합니다. 규칙은 어휘와 함께 저장하며, 규칙을 바꾸면 토큰 번호가 달라지므로 모델 가중치도 다시 학습해야 합니다.
더 배우기
가중치·파라미터 자세히 보기
BPE 자세히 보기
대화 기록
원문 표기 · Chat history
새 질문과 함께 모델에 다시 보내는 앞의 말들
언어 모델은 요청과 요청 사이에 아무것도 남겨 두지 않습니다. 채팅 앱이 기억하는 것처럼 보이는 까닭은 앞에서 주고받은 말을 새 질문과 함께 다시 보내기 때문입니다. 그 목록이 대화 기록입니다. 모델의 문맥 길이에 들어가야 하므로 긴 대화는 잘라 내거나 요약합니다. 대화 기록이 없으면 질문마다 따로 답합니다.
더 배우기
계산 그래프
원문 표기 · Computation graph
어떤 계산에 어떤 숫자가 쓰였는지 이은 기록
모델이 답을 계산하는 동안 학습 라이브러리는 단계마다 어떤 숫자가 어떤 덧셈·곱셈에 들어가 무엇이 나왔는지 적어 둡니다. 그 단계들의 사슬이 계산 그래프입니다. 역전파는 이 그래프를 손실에서 거꾸로 따라가며, 숫자 하나하나가 결과에 얼마나 영향을 주었는지 차례로 구합니다.
더 배우기
디코더
원문 표기 · Decoder
앞 토큰만 보고 다음 토큰을 쓰는 트랜스포머
디코더는 지금 위치보다 앞에 있는 토큰만 보고 다음 토큰을 예측하는 트랜스포머입니다. 고른 토큰을 덧붙이고 다시 예측하기를 되풀이하며 글을 씁니다. GPT 계열 모델이 이렇게 씁니다. 처음 트랜스포머에는 입력 전체를 한꺼번에 읽는 인코더도 있었지만, 요즘 채팅 모델은 대부분 디코더만 씁니다.
더 배우기
GPT 자세히 보기
확산 모델
원문 표기 · Diffusion model
잡음을 조금씩 걷어 내며 그림을 만드는 모델
확산 모델은 무작위 잡음으로 가득한 그림에서 시작해, 내 글을 길잡이로 단계마다 잡음을 조금씩 걷어 내어 그림을 만듭니다. 진짜 그림에 잡음을 섞고 그것을 되돌리는 법을 익혀 학습합니다. Stable Diffusion 같은 많은 그림·영상 생성기가 이 방식이며, 토큰을 하나씩 쓰는 언어 모델과는 다릅니다.
더 배우기
encode·decode
원문 표기 · encode / decode
글을 토큰 번호로, 번호를 다시 글로 바꾸기
encode 는 토크나이저가 글을 토큰으로 자르고 조각마다 어휘의 번호로 바꾸는 단계입니다. decode 는 거꾸로 번호마다 조각을 찾아 이어 붙여 글로 되돌립니다. 좋은 토크나이저는 encode 뒤 decode 하면 원래 글이 그대로 나오므로, 이것을 검사해 보면 좋습니다.
더 배우기
실행 공급자
원문 표기 · Execution provider
ONNX Runtime 의 기기별 가속기 연결 부품
ONNX Runtime 은 모든 칩과 혼자 이야기하지 않습니다. 실행 공급자(Execution Provider)는 모델의 계산을 한 종류의 하드웨어 — NVIDIA GPU(CUDA·TensorRT), Apple 칩(Core ML), 그냥 CPU — 에 넘겨주는 부품입니다. 쓸 공급자를 순서대로 적으면, 앞 공급자가 못 하는 부분은 다음 공급자가 맡습니다.
더 배우기
FreeToken
큰 MoE 모델을 PC 에서 돌리는 런타임
FreeToken 은 /ai/internals 화면이 소개하는 런타임입니다. 토큰마다 전문가 일부만 쓰는 아주 큰 MoE 모델을 개인 컴퓨터에서 돌리려고 만들었습니다. NVIDIA GPU·CPU·메인 메모리(RAM)와 그 사이 연결을 한 대의 추론 기계처럼 묶어 씁니다.
더 배우기
기울기 크기 제한
원문 표기 · Gradient clipping
너무 큰 기울기를 한도로 줄이기
배치 하나가 아주 큰 기울기를 내면 갱신 한 번에 가중치가 멀리 튀어 손실이 치솟거나 nan 이 될 수 있습니다. 기울기 크기 제한은 갱신 전에 기울기 전체의 크기를 재어, 정한 한도를 넘으면 한도만큼으로 줄입니다. 방향은 그대로 두고 걸음만 짧게 합니다.
더 배우기
가중치·파라미터 자세히 보기
정규화(normalization)
원문 표기 · Normalization
학습이 흔들리지 않게 숫자 크기를 고르게 맞추기
숫자가 여러 층을 지나면서 점점 커지거나 작아지면 학습이 망가질 수 있습니다. 정규화는 단계마다 숫자의 크기를 다시 맞춥니다. 트랜스포머는 층 정규화(layer normalization)를 씁니다 — 토큰마다 숫자를 평균 0, 퍼짐 1 로 맞춘 뒤 학습으로 정한 숫자를 곱하고 더하는데, 이 숫자들도 파라미터입니다.
더 배우기
가중치·파라미터 자세히 보기
MLP
층을 여러 겹 이은 기본 신경망
MLP(다층 퍼셉트론)는 숫자를 층 두 개 이상에 차례로 통과시킵니다. 층마다 가중치를 곱하고 편향을 더한 뒤 ReLU·GELU 같은 활성화 함수를 씌웁니다. 트랜스포머 블록마다 두 층짜리 작은 MLP 가 있어, 어텐션이 다른 토큰의 정보를 섞은 뒤 토큰마다 따로 특징을 바꿉니다.
더 배우기
GPT 자세히 보기
가중치·파라미터 자세히 보기
모멘텀
원문 표기 · Momentum
지난 갱신 방향을 다음 걸음에 이어 가기
그냥 SGD 는 지금 기울기만큼만 가중치를 옮겨 갈지자로 흔들릴 수 있습니다. 모멘텀은 지난 갱신들을 쌓은 값을 두고 새 걸음마다 그 일부를 더해, 가중치가 한 방향으로 꾸준히 굴러가고 작은 흔들림은 덜 타게 합니다. 이 쌓은 값은 옵티마이저가 체크포인트에 함께 저장해야 하는 상태이며, 그냥 SGD 에는 없습니다.
더 배우기
가중치·파라미터 자세히 보기
음수 로그
원문 표기 · Negative log
확률이 작을수록 커지는 값 −log(p)
확률에 로그를 씌우고 앞에 마이너스를 붙이면, 확률이 1 일 때 0 이고 확률이 0 에 가까워질수록 빠르게 커지는 숫자가 됩니다. 학습은 이것을 정답 토큰의 손실로 씁니다. 자신 있게 맞히면 손실이 거의 없고, 자신 있게 틀리면 손실이 큽니다.
더 배우기
ONNX
여러 도구가 함께 읽는 AI 모델 파일 형식
ONNX(Open Neural Network Exchange)는 모델을 담는 공개 파일 형식입니다. PyTorch 같은 프레임워크로 학습한 모델을 .onnx 파일로 내보내면, 원래 학습 코드 없이도 여러 프로그램이 여러 기기에서 실행할 수 있습니다. 2017년 Microsoft 와 Facebook 이 시작했습니다.
더 배우기
ONNX Runtime
ONNX 모델을 여러 기기에서 돌리는 엔진
ONNX Runtime 은 .onnx 모델을 실행하는 Microsoft 의 오픈소스 엔진입니다. Windows·macOS·리눅스·휴대폰·브라우저에서 돌고, 실행 공급자를 통해 GPU 같은 가속기를 씁니다. 배움노바에서는 글을 소리로 읽어 주는 음성 모델을 이것으로 돌립니다.
더 배우기
출력층
원문 표기 · Output layer
어휘의 모든 토큰에 점수를 매기는 마지막 층
출력층은 한 위치의 마지막 벡터를 어휘의 토큰마다 점수 하나로 바꿉니다. 그 점수를 소프트맥스가 다음 토큰의 확률로 바꿉니다. 토큰마다 가중치 한 줄이 필요하므로 어휘가 크면 이 층도 커집니다.
더 배우기
가중치·파라미터 자세히 보기
3B·7B·8B(파라미터 수)
원문 표기 · 3B, 7B, 8B (parameter count)
모델 크기 — B 는 바이트가 아니라 10억 개
3B·7B·70B 같은 이름은 파라미터의 개수입니다. 7B 는 숫자 하나하나가 약 70억 개라는 뜻이며, 파일 크기나 벡터 개수가 아닙니다. 메모리에서 차지하는 크기는 숫자 하나에 몇 바이트를 쓰는지에 달려, 같은 8B 모델이 16비트로는 약 16GB, 4비트로는 약 4GB 입니다(덧붙는 용량 제외).
더 배우기
스케일(scale)
원문 표기 · Quantization scale
저장한 작은 정수를 원래 값으로 되돌리는 곱셈 값
양자화한 파일은 가중치를 작은 정수로 저장합니다. 쓸 때는 런타임이 정수마다 옆에 저장된 스케일을 곱해 원래와 비슷한 값으로 되돌립니다. GGUF 같은 형식은 가중치 32개 같은 작은 묶음마다 스케일을 하나씩 두므로, 파일에는 정수 말고도 스케일·메타데이터가 더 들어 있습니다. 그래서 실제 파일은 단순 계산보다 조금 큽니다.
더 배우기
가중치·파라미터 자세히 보기
잔차 덧셈
원문 표기 · Residual connection
층의 입력을 출력에 다시 더하기(residual)
잔차 덧셈은 층에 들어간 것을 층에서 나온 것에 더합니다: 출력 = 입력 + 층(입력). 원래 정보가 그대로 남고, 층은 무엇을 바꿀지만 배우면 됩니다. 기울기도 여러 층을 지름길로 거슬러 갈 수 있어서, 아주 깊은 트랜스포머도 학습할 수 있습니다.
더 배우기
RoPE
벡터를 돌려서 토큰 위치를 알려 주는 방법
RoPE(회전 위치 임베딩)는 쿼리·키 벡터를 토큰 위치에 따라 정해진 각도만큼 돌려 위치 정보를 넣습니다. 그러면 어텐션이 두 토큰을 견줄 때 둘이 얼마나 떨어져 있는지가 결과에 드러납니다. 2021년에 제안되었고 Llama 를 비롯한 많은 오픈 모델이 씁니다.
더 배우기
SGD
작은 묶음의 기울기로 가중치를 조금씩 고치기
SGD(확률적 경사 하강법)는 가장 단순한 학습 규칙입니다. 무작위로 고른 작은 묶음에서 손실의 기울기를 구하고, 모든 가중치를 그 반대 방향으로 학습률만큼 조금 옮깁니다. 다음 묶음으로 되풀이합니다. Adam 같은 옵티마이저는 여기에 모멘텀 같은 상태를 더하며, 그냥 SGD 는 따로 저장할 것이 없습니다.
더 배우기
가중치·파라미터 자세히 보기
sherpa-onnx
인터넷 없이 받아쓰기·음성 합성을 돌리는 도구
sherpa-onnx 는 Next-gen Kaldi 팀의 오픈소스 프로젝트로, 음성 모델을 ONNX Runtime 으로 돌립니다. 인터넷 없이 말소리를 글자로, 글을 말소리로 바꿀 수 있으며 컴퓨터·휴대폰·작은 보드에서 돕니다. 배움노바에서는 내 목소리를 글자로 받아쓰는 엔진입니다.
더 배우기
SLM
보통 기기에서도 돌 만큼 작은 언어 모델
SLM(작은 언어 모델)은 LLM 과 같은 방식이지만 파라미터가 훨씬 적어 노트북·휴대폰에서 돌고, 답이 빠르며 비용이 적습니다. 정해진 경계는 없고, 보통 파라미터가 수십억 개 이하인 모델을 작다고 부릅니다. 폭넓은 지식과 긴 추론은 약하지만 좁은 일에는 쓸 만합니다.
더 배우기
가중치·파라미터 자세히 보기
받아쓰기(음성 인식)
원문 표기 · Speech-to-text
말소리를 글자로 바꾸기(STT)
받아쓰기(STT, 음성 인식)는 말소리를 글자로 바꾸는 일입니다. 모델이 소리를 짧게 잘라 들으며 가장 그럴듯한 낱말을 적습니다. 그 글을 언어 모델에 보낼 수 있습니다. 요즘 일부 모델은 글로 바꾸지 않고 소리를 바로 받기도 합니다.
더 배우기
TensorRT-LLM
NVIDIA GPU 용 LLM 가속 라이브러리
TensorRT-LLM 은 NVIDIA 가 만든 오픈소스 라이브러리로, 큰 언어 모델을 NVIDIA GPU 에 맞게 최적화합니다. 모델을 그 GPU 에 맞춰 변환하고 여러 요청 묶어 처리하기·양자화 같은 기법을 더해, 서버가 한 번에 더 많은 사용자에게 답하게 합니다. NVIDIA 하드웨어에서만 씁니다.
더 배우기
음성 합성
원문 표기 · Text-to-speech
글을 말소리로 바꾸기(TTS)
음성 합성(TTS)은 글을 소리 내어 읽어 주는 일입니다. 모델이 글자를 소리로 바꾸며 발음·박자·억양을 고릅니다. 배움노바에서 리엔의 목소리가 이렇게 만들어지며, 그 모델은 ONNX Runtime 이 돌립니다.
더 배우기
학습 스텝(step)
원문 표기 · Training step
학습 중 가중치를 한 번 고치는 단위
학습 스텝은 묶음 하나 가져오기 → 순전파 → 손실 계산 → 역전파 → 가중치 갱신을 한 바퀴 도는 것입니다. 학습 기록은 보통 스텝 번호와 손실을 함께 찍어, 스텝이 늘수록 손실이 줄어드는지 볼 수 있게 합니다. 데이터 전체를 한 번 다 보는 것은 에포크(epoch)라는 다른 단위입니다.
더 배우기
가중치·파라미터 자세히 보기
vLLM
많은 LLM 요청을 빠르게 처리하는 서버 엔진
vLLM 은 UC 버클리에서 시작한 오픈소스 엔진으로, 언어 모델을 여러 사용자에게 서비스할 때 씁니다. PagedAttention 방식으로 KV 캐시를 컴퓨터 메모리처럼 작은 쪽으로 나눠 담아 GPU 메모리를 덜 버리고 많은 요청을 함께 처리합니다. OpenAI 와 같은 모양의 API 를 제공합니다.
더 배우기
VLM
그림도 함께 읽는 언어 모델
VLM(시각 언어 모델)은 글과 함께 그림을 받아 글로 답합니다. 그림 담당 부분이 그림을 벡터로 바꾸면 언어 모델이 토큰과 나란히 읽습니다. 사진 속에 무엇이 있는지 묻거나 차트·화면 캡처를 읽게 할 수 있습니다. 내놓는 것은 여전히 글이며, 그림을 만드는 일은 확산 모델 같은 다른 모델이 합니다.
더 배우기
어텐션 헤드
원문 표기 · Attention head
어텐션 계산 한 벌
어텐션 헤드는 쿼리·키·값 가중치를 따로 가지고 어텐션을 한 번 계산하는 단위입니다. 한 층에는 보통 헤드가 여러 개 나란히 있어, 앞 낱말이나 문장의 주어처럼 저마다 다른 연결을 찾도록 배울 수 있습니다. 결과는 이어 붙여 다음으로 넘깁니다. 한 헤드가 어디를 보는지는 쓸모 있는 단서일 뿐 모델 전체의 설명은 아닙니다.
더 배우기
GPT 자세히 보기
가중치·파라미터 자세히 보기
llama.cpp
내 컴퓨터에서 언어 모델을 돌리는 C/C++ 러너
llama.cpp 는 Georgi Gerganov 가 시작한 오픈소스 프로그램으로, 파이썬 없이 C/C++ 로 언어 모델을 CPU·GPU(Apple 칩 포함)에서 돌립니다. GGUF 파일을 읽고, 모델을 변환·양자화하는 도구도 함께 있습니다. Ollama 와 휴대폰 앱 같은 많은 프로그램이 이것을 바탕으로 만들어졌습니다.
더 배우기
모델 체크포인트
원문 표기 · Model checkpoint
학습 중·후에 저장한 모델 가중치 파일
체크포인트는 학습의 한 순간에 가중치와, 흔히 설정·옵티마이저 상태·진행 횟수까지 저장한 파일입니다. 학습이 멈추면 여기서 이어 갈 수 있고, 학습이 끝나면 마지막 체크포인트가 곧 실행할 모델입니다. 파일 수정을 되돌리는 클로드 코드의 체크포인트와는 다른 것입니다.
더 배우기
GPT 자세히 보기
가중치·파라미터 자세히 보기
위치 임베딩
원문 표기 · Positional embedding
토큰이 몇 번째에 있는지 알려 주는 벡터
어텐션만으로는 토큰의 순서를 몰라서 "개가 사람을 문다"와 "사람이 개를 문다"가 똑같아 보입니다. 위치 임베딩은 자리마다 정해진 벡터를 토큰 자신의 벡터에 더해 줍니다. GPT-2 는 자리마다 벡터를 하나씩(1,024자리까지) 학습하며, 다른 모델은 RoPE 같은 다른 방법을 씁니다.
더 배우기
GPT 자세히 보기
원문 표기 · Transformer block
어텐션과 MLP 를 묶은 트랜스포머 한 층
트랜스포머 블록은 거듭 쌓는 단위입니다. 안에서 어텐션이 토큰들 사이에 정보를 섞고, 이어서 작은 MLP 가 토큰마다 특징을 바꾸며, 둘레에 정규화와 잔차 덧셈이 붙습니다. GPT-2 small 은 같은 블록 12개를 쌓고, 더 큰 모델은 더 많이 쌓고 블록을 넓힙니다.
더 배우기
GPT 자세히 보기
역전파
원문 표기 · Backpropagation
출력의 오차를 거꾸로 따라가며 기울기 구하기
순전파로 손실을 얻은 뒤, 역전파는 계산 그래프를 거꾸로 따라가며 연쇄 법칙으로 모든 가중치의 기울기 — 그 가중치를 조금 바꾸면 손실이 얼마나 바뀌는지 — 를 구합니다. 경사 하강법이 그 기울기로 가중치를 고칩니다. PyTorch 에서는 loss.backward() 한 줄이 이 일을 합니다.
더 배우기
가중치·파라미터 자세히 보기
PyTorch
신경망을 만들고 학습시키는 대표 파이썬 라이브러리
PyTorch 는 파이썬용 오픈소스 딥러닝 라이브러리로, 메타(당시 Facebook)가 처음 공개했고 지금은 리눅스 재단 아래 PyTorch 재단이 맡습니다. GPU 에 올릴 수 있는 텐서와 자동 미분을 제공해 loss.backward() 한 줄로 모든 기울기를 구합니다. 코드에서는 torch 라는 이름으로 불러옵니다.
더 배우기
GPT
다음 토큰을 예측하는 트랜스포머 언어 모델
GPT 는 Generative Pre-trained Transformer(미리 학습한 생성형 트랜스포머)의 줄임말입니다. 많은 글로 다음 토큰을 예측하도록 학습한 디코더 트랜스포머이며, 토큰을 하나씩 이어 써서 글을 만듭니다. OpenAI 가 2018년 GPT-1 부터 ChatGPT 바탕의 GPT 모델까지 이 이름을 썼고, 다른 많은 모델도 같은 설계를 씁니다.
더 배우기
어휘 사전
원문 표기 · Vocabulary
토크나이저가 아는 조각과 번호(ID) 목록
토크나이저의 어휘 사전은 만들어 낼 수 있는 조각을 번호(ID)와 함께 정해 둔 목록입니다. 모델은 항목마다 임베딩 한 줄과 출력 점수 하나를 두므로 어휘 크기가 모델 모양을 정합니다. 모델은 학습할 때 쓴 어휘로만 제대로 돕니다 — 다른 사전을 끼우면 번호의 뜻이 달라집니다.
더 배우기
GPT 자세히 보기
교차 엔트로피
원문 표기 · Cross-entropy
정답 확률의 음수 로그로 매기는 손실
교차 엔트로피 손실은 모델이 정답에 준 확률만 보고 거기에 음수 로그를 씌웁니다. 정답 토큰에 확률 1 을 주었으면 손실은 0 이고, 그 확률이 낮을수록 손실이 커집니다. 여러 토큰의 평균이 언어 모델 학습이 줄이려는 숫자입니다. 손실이 낮다는 것은 이 데이터를 잘 맞힌다는 뜻이지 사실을 말한다는 보장은 아닙니다.
더 배우기
미분
원문 표기 · Derivative
입력이 조금 바뀔 때 결과가 얼마나 바뀌는지
미분은 한 값이 아주 조금 바뀔 때 다른 값이 얼마나 빨리 바뀌는지를 재는 것입니다. 학습에서는 손실을 가중치로 미분한 값이 그 가중치를 어느 쪽으로 얼마나 옮길지 알려 줍니다. 기울기는 모든 가중치의 미분값을 모은 것입니다. 손으로 계산하지 않아도 라이브러리가 저절로 구해 줍니다.
더 배우기
가중치·파라미터 자세히 보기
드롭아웃
원문 표기 · Dropout
학습 때 신경망 일부를 무작위로 끄기
드롭아웃은 학습 스텝마다 한 층의 출력 가운데 10% 같은 무작위 몫을 0 으로 만듭니다. 그러면 신경망이 어느 한 부분에 지나치게 기대지 못해 과적합이 줄어듭니다. 추론할 때는 드롭아웃을 끄고 모두 씁니다. 비율을 너무 높이면 학습이 느려지고 모델이 약해집니다.
더 배우기
순전파
원문 표기 · Forward pass
입력을 층마다 차례로 계산해 출력까지 가기
순전파는 모델이 평소처럼 계산하는 것입니다 — 입력이 층을 차례로 지나 점수나 예측으로 나옵니다. 학습할 때는 그 출력으로 손실을 계산하고, 이어서 역전파가 반대 방향으로 갑니다. 추론에는 순전파만 있으면 됩니다.
더 배우기
시드(seed)
원문 표기 · Random seed
무작위 결과를 똑같이 되풀이하게 하는 시작 번호
컴퓨터는 시드라는 시작 값에서 난수를 만들어 냅니다. 시드가 같으면 같은 순서의 난수가 나오므로, 학습·데이터 섞기·샘플링을 그대로 다시 돌려 확인할 수 있습니다. 시드는 실행을 되풀이할 수 있게 할 뿐 답이 맞다는 보장은 아닙니다. GPU 의 일부 계산은 시드를 고정해도 조금씩 다를 수 있습니다.
더 배우기
OCR
그림 속 글자를 읽어 글로 바꾸는 기술
OCR(광학 문자 인식)은 사진이나 스캔한 PDF 같은 그림 속 글자를 컴퓨터가 찾고 복사할 수 있는 진짜 글로 바꿉니다. 스캔한 PDF 는 OCR 로 읽기 전까지 쪽마다 그림일 뿐입니다. 손글씨나 흐린 그림에서는 잘못 읽을 수 있으므로 중요한 글은 확인해야 합니다.
더 배우기
Adam
가중치마다 걸음을 맞춰 주는 대표 옵티마이저
Adam 은 2014년에 발표된 옵티마이저로, 지금은 트랜스포머를 비롯한 대부분의 신경망 학습에 기본으로 씁니다. 가중치마다 최근 기울기의 평균(모멘텀과 비슷)과 그 크기의 평균을 기억해, 그 가중치에 알맞은 걸음 크기를 고릅니다. 보통 그냥 SGD 보다 빠르고 매끄럽게 학습하지만, 그 상태를 더 저장해야 합니다.
더 배우기
가중치·파라미터 자세히 보기
어댑터
원문 표기 · Adapter
얼려 둔 모델 옆에 덧붙여 학습하는 작은 가중치
파인튜닝에서 모델의 가중치를 모두 바꾸는 대신, 원래 가중치는 고정하고 옆에 덧붙인 작은 어댑터만 학습할 수 있습니다. 가장 널리 알려진 것이 LoRA 로, 가는 행렬 두 개를 배워 그 곱으로 가중치 행렬을 조금 고칩니다. 어댑터 파일은 모델보다 아주 작고, 같은 기본 모델에 일마다 다른 어댑터를 바꿔 끼울 수 있습니다.
더 배우기
가중치·파라미터 자세히 보기
파인튜닝·LoRA 자세히 보기
에이전트 메모리
원문 표기 · Agent memory
에이전트가 적어 두고 다시 불러오는 기억
언어 모델은 세션이 끝나면 모두 잊습니다. 에이전트 메모리는 하네스가 쓸모 있는 사실·규칙·진행 상황을 보통 파일에 적어 두고, 다음에 다시 문맥에 불러오는 부분입니다. 예를 들어 클로드 코드는 세션을 시작할 때마다 CLAUDE.md 와 자동 메모리를 읽습니다. 이 메모리는 파일 속 글이지 컴퓨터의 RAM 이 아닙니다.
더 배우기
에이전틱 시스템
원문 표기 · Agentic system
언어 모델을 도구와 이어 일하게 만든 설계
에이전틱 시스템은 언어 모델에 도구·파일·반복 루프를 이어, 한 번 답하는 데서 그치지 않고 일을 해내게 만든 구성을 통틀어 부르는 말입니다. Anthropic 은 코드가 단계를 정하는 워크플로와 모델이 스스로 단계를 정하는 에이전트를 모두 이 말로 묶습니다. 그런 시스템의 설계를 이야기할 때 씁니다.
더 배우기
argmax
가장 큰 값 자체가 아니라 그 값의 위치
max 는 목록에서 가장 큰 숫자를, argmax 는 그 숫자가 있는 자리를 돌려줍니다. 분류기는 argmax 로 점수가 가장 높은 범주를 고르고, 탐욕 선택은 가장 그럴듯한 다음 토큰을 고릅니다. 자리는 보통 0 부터 셉니다.
더 배우기
기준 모델
원문 표기 · Baseline model
넘어야 할 점수를 정하는 아주 단순한 모델
똑똑해 보이는 모델을 믿기 전에, 가장 흔한 답만 고르거나 평균을 쓰는 것 같은 단순한 기준 모델과 견주어 봅니다. 내 모델이 기준 모델을 겨우 넘는다면 배운 것이 거의 없습니다. 점수 옆에 기준 모델의 점수를 함께 적어야 그 숫자의 뜻이 보입니다.
더 배우기
배치(batch)
원문 표기 · Batch
한 번에 함께 처리하는 예시 묶음
학습은 예시를 하나씩 보지 않고, 글 조각 12개 같은 한 묶음(배치)을 가져와 한꺼번에 손실을 계산하고 한 번 갱신합니다. 배치가 크면 GPU 를 잘 쓰지만 메모리가 더 듭니다. 학습 중 메모리가 모자라면 배치 크기부터 줄여 봅니다.
더 배우기
GPT 자세히 보기
블록 크기
원문 표기 · Block size
모델이 한 번에 읽는 토큰 수(문맥 길이)
nanoGPT 같은 코드에서 블록 크기는 학습 예시 하나에 담는 토큰의 최대 개수이며, 모델이 쓸 수 있는 가장 긴 문맥이기도 합니다. 어텐션에 드는 메모리가 이것에 따라 빠르게 늘어서, 학습 중 메모리가 모자라면 블록 크기를 줄이는 것이 흔한 해결책입니다. 모델은 블록 크기보다 더 앞을 볼 수 없습니다.
더 배우기
GPT 자세히 보기
BM25
낱말 겹침으로 문서 순위를 매기는 공식
BM25 는 검색어와 문서가 함께 가진 낱말로 점수를 매깁니다. 드문 낱말은 흔한 낱말보다 크게 치고, 같은 낱말이 되풀이되면 점수가 갈수록 덜 오르며(빈도 포화), 긴 문서가 길다는 까닭만으로 이기지 않게 길이를 보정합니다. 빠르고 이름·코드처럼 정확한 낱말에 강합니다. 다른 말로 쓴 같은 뜻은 임베딩 검색이 더 잘 찾아, 둘을 함께 쓰는 시스템이 많습니다.
더 배우기
확률 보정(calibration)
원문 표기 · Calibration
점수가 실제로 맞히는 비율과 맞는지
모델의 점수를 실제 확률로 읽을 수 있으면 잘 보정되었다고 합니다 — 0.8 이라고 답한 것들 가운데 약 80% 가 맞는 경우입니다. 많은 모델이 퍼센트처럼 보이는 0~1 사이 숫자를 내지만 보정되지 않았을 수 있으니, 점수를 확률로 믿기 전에 남겨 둔 데이터로 확인합니다.
더 배우기
인과 마스크
원문 표기 · Causal mask
뒤 토큰을 가려 앞만 보게 하는 장치
학습할 때 모델은 문장 전체를 한꺼번에 받지만, 토큰마다 그 앞의 토큰만으로 예측해야 합니다. 인과 마스크는 소프트맥스 전에 뒤쪽 위치의 점수를 마이너스 무한대로 바꿔, 어느 위치도 자기 뒤를 보지 못하게 막습니다. 마스크가 없으면 모델이 미래의 정답을 베껴서 쓸모 있는 것을 배우지 못합니다.
더 배우기
글자 단위 모델
원문 표기 · Character-level model
글자 하나를 토큰 하나로 쓰는 언어 모델
글자 단위 모델은 글자·띄어쓰기·문장부호 하나하나를 토큰 하나로 다루므로 어휘가 아주 작고 토크나이저를 따로 학습하지 않아도 됩니다. nanoGPT 의 셰익스피어 예제처럼 연습에는 쉽지만, 낱말 조각 토큰을 쓰는 모델보다 문장마다 훨씬 많은 단계를 거칩니다. 가중치가 자기 글자 어휘에만 맞으므로 GPT-2 토큰을 기대하는 러너에 그대로 넣을 수 없습니다.
더 배우기
GPT 자세히 보기
가중치·파라미터 자세히 보기
채팅 템플릿
원문 표기 · Chat template
채팅 모델이 기대하는 대화 감싸기 형식
채팅 모델은 정해진 한 가지 형식으로 적은 대화로 학습했습니다. 그 형식은 특별한 토큰으로 시스템·사용자·모델 부분이 어디서 시작하고 끝나는지 표시합니다. 채팅 템플릿은 내 메시지 목록을 그 글로 바꿔 줍니다. Ollama·llama.cpp 같은 러너는 모델 파일에서 템플릿을 읽습니다. 템플릿이 틀리면 모델이 횡설수설하거나 같은 말을 되풀이할 수 있습니다.
더 배우기
저장된 지침
원문 표기 · Saved instructions
ChatGPT 가 새 대화마다 따르는 내 설정
ChatGPT 설정에는 나에 대한 정보와 원하는 답의 모양을 지침으로 저장할 수 있습니다. 예를 들어 "나는 초보이니 짧은 문장으로 설명해 줘" 같은 것입니다. ChatGPT 는 이것을 새 대화마다 더해서, 같은 말을 되풀이하지 않아도 됩니다. 그래도 지시일 뿐이라 답을 이끌 뿐 보장하지는 않으며, 비밀 정보는 넣지 않습니다.
더 배우기
GPT 자세히 보기
닫힌 모델
원문 표기 · Closed model
회사의 앱·API 로만 쓰는 비공개 모델
닫힌 모델은 가중치를 공개하지 않습니다. 그 회사의 앱이나 API 로만 쓰며, 가격·사용 한도·옛 버전을 언제 없앨지도 회사가 정합니다. Claude·Gemini·ChatGPT 바탕의 GPT 모델이 닫힌 모델입니다. 흔히 가장 뛰어나지만, 내 자료가 회사의 서버로 갑니다.
더 배우기
GPT 자세히 보기
가중치·파라미터 자세히 보기
완료 문구
원문 표기 · Completion promise
일이 정말 끝났을 때만 에이전트가 쓰는 약속 문구
Ralph Loop 에서는 DONE 같은 짧은 완료 문구를 정합니다. 에이전트가 그 문구를 정확히 쓸 때까지 루프가 이어지고, 프롬프트는 정말 사실일 때만 쓰라고 알려 줍니다. 에이전트가 끝에 닿지 못할 수도 있으므로 최대 바퀴 수·예산과 함께 쓰고, 끝난 뒤 결과는 직접 확인합니다.
더 배우기
컨텍스트 관리
원문 표기 · Context management
모델의 한정된 문맥에 무엇을 넣을지 고르는 일
모델이 한 번에 읽을 수 있는 양은 정해져 있습니다. 컨텍스트 관리는 하네스가 무엇을 넣을지 정하는 일입니다 — 어떤 파일, 어떤 앞 대화, 어떤 도구 결과를 넣고, 대화가 길어지면 무엇을 요약하거나 뺄지. 잘하면 중요한 사실은 보이고 잡음은 빠지며, 일이 길어질수록 더 중요해집니다.
더 배우기
Core ML
Apple 기기용 모델 런타임
Core ML 은 Apple 기기의 앱 안에서 기계 학습 모델을 돌리는 Apple 의 기본 프레임워크입니다. CPU·GPU·뉴럴 엔진 칩을 쓰고, 자료를 서버로 보내지 않고 기기 안에서 실행합니다. PyTorch 같은 도구로 만든 모델은 Apple 의 coremltools 등으로 Core ML 형식으로 먼저 바꿉니다.
더 배우기
누적 확률
원문 표기 · Cumulative probability
큰 확률부터 차례로 더해 간 합
후보를 확률이 큰 것부터 줄 세우고 차례로 더해 가면 그 합이 누적 확률입니다. top-p 샘플링이 이것을 씁니다 — p = 0.9 이면 합이 90% 에 닿는 가장 작은 후보 묶음만 남겨 그 안에서 뽑으므로, 모델이 확신할수록 후보가 줄어듭니다.
더 배우기
결정 트리
원문 표기 · Decision tree
예·아니오 질문을 이어 가며 분류하는 모델
결정 트리는 "꽃잎 길이 < 2.5cm?" 같은 특징에 대한 질문의 사슬을 배우고, 답마다 다음 질문으로 내려가 끝(잎)에서 범주를 정합니다. 읽기 쉬운 모델입니다. 깊이 제한 없이 자라게 두면 학습 데이터를 완벽히 외워 새 데이터에서는 더 못하는 과적합이 생길 수 있습니다.
더 배우기
임베딩 모델
원문 표기 · Embedding model
글을 뜻 검색용 벡터로 바꾸는 모델
임베딩 모델은 글을 쓰지 않습니다. 문장이나 문서를 읽고 벡터 하나를 내놓아, 뜻이 비슷한 글끼리 비슷한 방향의 벡터를 갖게 합니다. 검색·추천·RAG 시스템이 이 벡터로 관련 있는 글을 찾습니다. 작은 것은 휴대폰에서 돌려 내 메모를 찾는 데도 쓸 수 있습니다.
더 배우기
임베딩 검색
원문 표기 · Embedding search
낱말이 아니라 뜻 벡터가 가까운 글을 찾는 검색
임베딩 검색은 질문과 모든 문서를 같은 임베딩 모델로 벡터로 바꾸고, 벡터가 가장 가까운(흔히 코사인 유사도로 잰) 문서를 돌려줍니다. "자동차 고치기"로 검색해도 "차 수리" 문서를 찾으니, 낱말 맞추기가 놓치는 것을 찾습니다. 벡터가 가깝다는 것은 뜻이 비슷하다는 것이지 문서가 참이거나 답이라는 뜻은 아닙니다.
더 배우기
임베딩 공간
원문 표기 · Embedding space
임베딩 벡터들이 놓이는 여러 차원의 공간
임베딩 벡터 하나하나는 수백 차원짜리 공간의 한 점입니다. 그 공간에서 모델이 비슷하다고 보는 것끼리 가까이 모입니다. 거리는 같은 모델이 만든 벡터끼리만 뜻이 있습니다 — 임베딩 모델이 다르면 공간도 달라 벡터를 서로 견줄 수 없습니다.
더 배우기
피드포워드 층
원문 표기 · Feed-forward layer
토큰마다 따로 거치는 블록 속 신경망
어텐션이 토큰들 사이에 정보를 섞은 뒤, 피드포워드 층은 토큰마다 벡터를 같은 작은 신경망으로 따로 처리합니다 — 보통 더 넓은 층, GELU 같은 활성화 함수, 원래 폭으로 돌아오는 층입니다. 블록의 MLP 가 바로 이것이며, 큰 모델에서는 파라미터의 대부분이 여기 있습니다.
더 배우기
GPT 자세히 보기
가중치·파라미터 자세히 보기
GELU
많은 트랜스포머가 쓰는 부드러운 활성화 함수
GELU(Gaussian Error Linear Unit)는 ReLU 와 비슷한 활성화 함수지만 0 에서 뾰족하게 꺾이지 않고 부드럽게 휩니다. 큰 양수는 거의 그대로, 큰 음수는 거의 0 이 되고, 0 근처 값은 살짝 줄어듭니다. GPT-2 와 BERT 가 피드포워드 층에서 씁니다.
더 배우기
GPT 자세히 보기
일반화
원문 표기 · Generalization
처음 보는 데이터에서도 잘 맞히는 능력
학습의 목표는 학습 예시에서 점수를 잘 받는 것이 아니라 새 예시에서 잘하는 것입니다. 그 능력이 일반화입니다. 학습에 쓰지 않고 남겨 둔 데이터로 잽니다. 학습 데이터에서는 완벽한데 새 데이터에서 못하는 모델은 일반화하지 못하고 외운 것이며, 이것이 과적합입니다.
더 배우기
GPT-2
2019년 OpenAI 의 트랜스포머 언어 모델
GPT-2 는 OpenAI 가 2019년에 공개한 디코더 트랜스포머 언어 모델로, 파라미터 1억 2천4백만 개부터 15억 개까지 여러 크기가 있습니다. 토큰·위치 임베딩, 거듭 쌓은 트랜스포머 블록, 토큰 50,257개 어휘의 출력층이라는 설계가 단순하고 잘 알려져 있어, nanoGPT 같은 프로젝트가 LLM 을 가르치려고 다시 만듭니다.
더 배우기
GPT 자세히 보기
가중치·파라미터 자세히 보기
작업 인계
원문 표기 · Handoff
다른 에이전트에게 일과 맥락 넘기기
작업 인계는 한 에이전트가 남은 일을 더 알맞은 다른 에이전트에게, 알아야 할 내용과 함께 넘기는 것입니다. 맥락을 얼마나 넘길지, 어느 모델이 이어받을지, 결과가 어떻게 돌아올지는 하네스가 정합니다. 맥락이 너무 적으면 다음 에이전트가 같은 일을 되풀이하고, 너무 많으면 헤맵니다.
더 배우기
은닉층
원문 표기 · Hidden layer
입력과 출력 사이에 있는 신경망의 중간 층
은닉층은 입력과 출력층 사이에 있는 층입니다. 숫자를 받아 가중치를 곱하고 활성화 함수를 거쳐 새 숫자로 넘기며, 입력에도 답에도 바로 보이지 않는 특징을 만들어 냅니다. 딥러닝은 은닉층이 여러 겹이라는 뜻입니다.
더 배우기
가중치·파라미터 자세히 보기
Imagen
글을 그림으로 만드는 Google 의 예전 모델
Imagen 은 글 설명을 그림으로 바꾸는 Google 의 모델 계열입니다. 배움노바 강좌는 2026년 10월 기준으로 Gemini API 의 예전 Imagen 모델 서비스가 끝났고, 그곳의 그림 생성·편집은 Nano Banana 모델로 제공된다고 안내합니다.
더 배우기
지시 준수
원문 표기 · Instruction following
모델이 받은 지시를 얼마나 그대로 따르는지
지시 준수는 모델이 프롬프트·시스템 프롬프트의 지시 — 형식, 길이, 언어, 하지 말아야 할 것 — 를 얼마나 잘 따르는지입니다. 모델마다 차이가 크고 이것을 따로 시험합니다. 뛰어난 모델도 벗어날 수 있으니, 앱은 안전을 지시에만 맡기지 말고 권한 같은 실제 제한을 코드로 걸어야 합니다.
더 배우기
k-최근접 이웃(k-NN)
원문 표기 · k-nearest neighbours (k-NN)
가장 가까운 예 k개로 답을 정하는 방법
k-NN 은 학습이랄 것이 거의 없이 학습 예시를 모두 간직합니다. 새 예시가 오면 가장 가까운 예시 k개를 찾아 그중 가장 많은 범주로 답합니다. 이웃 수 k 는 학습 밖에서 고르는 하이퍼파라미터입니다 — 작으면 잡음에 휘둘리고, 크면 차이가 흐려집니다.
더 배우기
LangChain
LLM 앱·에이전트용 오픈소스 프레임워크
LangChain 은 파이썬·자바스크립트로 쓰는 오픈소스 프레임워크로, 언어 모델 위에 앱을 만들 때 모델을 도구·문서·메모리·다른 모델과 잇습니다. 짝인 LangGraph 로 단계가 분명한 에이전트를 만듭니다. LangChain 은 하네스를 모델을 뺀 주변 시스템 전체라고 설명하며, 배움노바 강좌가 이것을 인용합니다.
더 배우기
LiteRT
Google 의 기기용 모델 런타임
LiteRT 는 기기 안에서 기계 학습 모델을 돌리는 Google 의 런타임으로, 2024년부터 TensorFlow Lite 의 새 이름입니다. 안드로이드·iOS·웹·작은 보드에서 돌고, 있으면 휴대폰 GPU 같은 가속기를 쓰며 자료를 서버로 보내지 않습니다.
더 배우기
llama.rn
React Native 앱용 llama.cpp
llama.rn 은 llama.cpp 를 감싼 React Native 용 오픈소스 라이브러리입니다. React Native 로 만든 휴대폰 앱이 서버 없이 기기 안에서 GGUF 모델을 불러와 글을 만들게 해 줍니다. PocketPal AI 가 이렇게 만든 앱이며, Flutter 앱은 다른 llama.cpp 바인딩으로 같은 일을 합니다.
더 배우기
메인 에이전트
원문 표기 · Main agent
서브 에이전트에게 일을 맡기는 중심 에이전트
메인 에이전트는 내 대화 속의 에이전트입니다. 프로젝트 전체 검색 같은 일의 한 부분은 자기만의 새 문맥과 더 적은 도구를 가진 서브 에이전트를 띄워 맡기고, 요약만 돌려받습니다. 그러면 메인 에이전트의 문맥이 깨끗하게 유지됩니다. 마지막 답은 메인 에이전트가 책임집니다.
더 배우기
최대 바퀴 수
원문 표기 · Maximum number of rounds
루프를 몇 번까지만 돌지 정한 한도
에이전트 루프는 스스로 끝에 닿지 못할 수도 있고, 바퀴마다 토큰과 돈이 듭니다. 최대 바퀴 수는 그 횟수를 넘으면 무슨 일이 있어도 끝내는 한도입니다. 확인할 수 있는 끝나는 기준·토큰 예산과 함께 언제나 정합니다.
더 배우기
호스트(Host)
원문 표기 · MCP host
MCP 클라이언트를 품은, 사람이 쓰는 AI 앱
MCP 에는 역할이 셋 있습니다. 호스트는 사람이 쓰는 AI 앱 — 클로드 코드, Claude Desktop, 코드 편집기 — 입니다. 그 안에서 서버마다 클라이언트 하나가 연결을 맡고, 서버는 도구와 자료를 내놓습니다. 어떤 서버를 켤지는 호스트가 정하며, 도구를 쓰기 전에 사용자에게 허락을 받아야 합니다.
더 배우기
initialize
MCP 연결 처음에 버전을 맞추는 인사 요청(2025-11-25 까지의 규격)
MCP 규격 2025-11-25 까지는 세션이 initialize 로 시작합니다. 클라이언트가 쓰는 프로토콜 버전과 할 수 있는 일을 보내면, 서버는 쓸 버전과 내놓는 것(예: 도구), 자기 이름으로 답합니다. 이어서 클라이언트가 notifications/initialized 알림을 보내야 tools/list·tools/call 을 쓸 수 있습니다. 최신 규격(2026-07-28)에는 이 악수가 없고, 요청마다 _meta 에 버전을 실어 보냅니다.
더 배우기
MCP 서버에 도구 하나를 실행해 달라는 요청
tools/call 은 도구 이름과 인자를 보냅니다. 서버는 그 도구를 실행하고 결과를 보통 글 내용으로, 안 되면 오류로 답합니다. 어떤 도구를 쓸지는 모델이 고르지만 요청은 호스트 앱이 보내며, 위험한 일은 실행 전에 사용자에게 물어야 합니다.
더 배우기
MCP 서버에 도구 목록을 묻는 요청
tools/list 는 MCP 서버에 무엇을 할 수 있는지 묻습니다. 서버는 도구마다 이름, 모델이 언제 쓸지 정할 때 읽는 설명, 인자를 적은 입력 스키마를 돌려줍니다. 모델이 이 설명을 믿고 움직이므로 믿을 수 있는 서버에만 연결합니다.
더 배우기
Nano Banana
Google 의 Gemini 그림 생성·편집 모델
Nano Banana 는 글로 그림을 만들고 고치는 Gemini 모델을 Google 이 부르는 이름입니다. 새 그림을 설명하거나, 그림을 올려 같은 사람·물건은 두고 배경만 바꾸는 식으로 고칠 수 있습니다. Gemini 앱과 Gemini API 로 씁니다.
더 배우기
nanochat
작은 채팅 LLM 을 끝까지 만드는 코드
nanochat 은 Andrej Karpathy 가 2025년에 nanoGPT 를 잇는 프로젝트로 공개한 오픈소스입니다. 토크나이저 학습, 사전 학습, 채팅용 파인튜닝, 평가, 결과와 대화하는 웹 화면까지 작은 코드 하나에 담았습니다. ChatGPT 같은 모델이 처음부터 끝까지 어떻게 만들어지는지 배우는 용도입니다.
더 배우기
GPT 자세히 보기
파인튜닝·LoRA 자세히 보기
nanoGPT
GPT-2 방식 모델을 학습하는 짧은 코드
nanoGPT 는 Andrej Karpathy 가 공개한 오픈소스 코드로, PyTorch 몇백 줄로 GPT 방식 모델을 학습·파인튜닝합니다. 큰 GPU 로 GPT-2 를 재현할 수도, 노트북 CPU 로 셰익스피어 글자 단위 모델을 몇 분 만에 학습시킬 수도 있습니다. 지금은 만든 사람이 오래된 것으로 표시하고 nanochat 을 안내하지만, GPT-2 방식 모델을 들여다보기에는 여전히 알기 쉽습니다.
더 배우기
GPT 자세히 보기
파인튜닝·LoRA 자세히 보기
Ollama
오픈 모델을 내려받아 내 컴퓨터에서 돌리는 앱
Ollama 는 macOS·Windows·리눅스용 무료 러너입니다. 명령 하나로 오픈 모델을 내려받아 바로 대화할 수 있고, 내 프로그램이 부를 수 있는 로컬 API 도 엽니다. 양자화한 모델 파일과 채팅 템플릿을 알아서 다뤄 주므로, 인터넷 없이 모델을 돌려 보는 쉬운 첫걸음입니다.
더 배우기
오픈 모델
원문 표기 · Open model
가중치를 내려받아 직접 돌릴 수 있는 모델
오픈 모델은 가중치를 공개해, 내 컴퓨터나 서버에 내려받아 돌릴 수 있습니다. 흔히 무료이고 자료를 밖으로 보내지 않아도 됩니다. 다만 많은 것이 완전한 오픈 소스가 아니라 오픈 웨이트입니다 — 가중치는 공개해도 학습 데이터나 코드는 아닐 수 있고, 라이선스에 제한이 있을 수 있습니다. Llama·Gemma·Qwen 이 그 예입니다.
더 배우기
옵티마이저
원문 표기 · Optimizer
기울기로 가중치를 어떻게 고칠지 정하는 규칙
역전파는 가중치마다 기울기를 알려 주고, 옵티마이저는 그것으로 가중치를 어떻게 바꿀지 정합니다. 그냥 SGD 는 기울기 반대쪽으로 정해진 걸음만큼 갑니다. Adam 같은 것은 지난 기울기도 기억해 더 알맞은 걸음을 고릅니다. 옵티마이저의 상태도 체크포인트에 저장해야 학습을 이어 갈 수 있습니다.
더 배우기
가중치·파라미터 자세히 보기
PocketPal AI
휴대폰에서 인터넷 없이 작은 모델과 대화하는 앱
PocketPal AI 는 iPhone·안드로이드용 오픈소스 앱으로, GGUF 형식의 작은 언어 모델을 내려받아 휴대폰 안에서 돌려 인터넷 없이 대화하게 해 줍니다. llama.cpp 위에 llama.rn 으로 만들었습니다. 휴대폰 메모리가 작으니 작고 강하게 양자화한 모델이 잘 맞습니다.
더 배우기
후속 학습
원문 표기 · Post-training
기본 학습 뒤 특정 행동을 더 가르치는 학습
사전 학습은 엄청난 데이터로 글을 이어 쓰는 법을 가르칩니다. 후속 학습은 그 뒤에 옵니다 — 예시 대화로 파인튜닝하고, 사람이나 자동 채점의 피드백으로 배우고, 도구 쓰기 같은 일을 연습합니다. 날것의 글 예측기가 쓸모 있는 도우미가 되고, 코딩 에이전트가 하네스와 함께 일을 잘하게 되는 단계입니다.
더 배우기
파인튜닝·LoRA 자세히 보기
Q4_K_M
GGUF 에서 흔히 고르는 4비트 양자화 방식
Q4_K_M 은 llama.cpp 의 "k-quant" 방식 가운데 하나입니다. 대부분의 가중치를 4비트쯤으로 저장하고 민감한 일부는 비트를 더 쓰며(M 은 중간), 가중치를 묶음으로 나눠 스케일을 함께 씁니다. 파일 크기와 품질 사이의 균형이 좋아 많이 고르며, 크기는 FP16 의 30% 쯤입니다.
더 배우기
가중치·파라미터 자세히 보기
추천 시스템
원문 표기 · Recommender system
좋아할 만한 것을 예측해 골라 주는 AI
추천 시스템은 사람과 비슷한 사람들이 전에 한 일을 보고, 그 사람이 원할 만한 영상·노래·물건을 예측해 먼저 보여 줍니다. 대화하거나 글을 쓰지 않아도 가장 널리 쓰이는 AI 가운데 하나입니다. AI 가 ChatGPT 만이 아니라는 좋은 예입니다.
더 배우기
GPT 자세히 보기
회귀 계수
원문 표기 · Regression coefficient
회귀 모델이 입력마다 곱하는 학습된 숫자
선형 회귀는 가격 = a × 크기 + b 같은 식으로 예측합니다. a 와 b 는 학습하면서 데이터로 찾아내는 계수이며, 트리 깊이처럼 내가 고르는 설정과 달리 파라미터입니다. 계수는 그 입력이 1 늘 때 예측이 얼마나 움직이는지 보여 줍니다.
더 배우기
가중치·파라미터 자세히 보기
규칙 기반 시스템
원문 표기 · Rule-based system
사람이 쓴 규칙대로만 판단하는 프로그램
규칙 기반 시스템은 "제목에 '공짜 돈'이 있으면 스팸"처럼 사람이 쓴 만약-그러면 규칙을 따릅니다. 데이터로 배우지 않아 설명하기 쉽지만, 아무도 생각하지 못한 경우에는 틀립니다. 머신러닝은 그 규칙을 예시에서 찾아냅니다. 둘 다 AI 에 들어갑니다.
더 배우기
유사도
원문 표기 · Similarity
두 벡터·글이 얼마나 비슷한지 나타낸 값
유사도는 두 벡터가 얼마나 가까운지 잽니다. 가장 흔한 코사인 유사도는 방향을 견주어 1 이면 같은 방향, 0 이면 관계없음, −1 이면 반대입니다. 임베딩 검색이 이것으로 문서 순서를 매깁니다. 유사도가 높다는 것은 뜻이 가깝다는 것이지 두 문장이 같은 참말이라는 뜻은 아닙니다.
더 배우기
fit
원문 표기 · scikit-learn fit
scikit-learn 의 모델 학습 함수
scikit-learn 에서는 모든 모델을 같은 방식으로 학습시킵니다 — model.fit(X, y) 가 입력 X 와 정답 y 로 배웁니다. 그다음 model.predict(X_new) 로 예측합니다. fit 은 학습용 데이터로만 하고 테스트 데이터는 마지막까지 남겨 두어야 점수가 부풀지 않습니다.
더 배우기
끝 조건
원문 표기 · Stop condition
에이전트의 일이 끝났는지 확인할 수 있는 기준
끝 조건은 에이전트가 언제 멈출지 정하는 기준입니다. "tests/ 의 모든 테스트가 통과하고 페이지가 오류 없이 열린다"처럼 확인할 수 있게 적습니다. 에이전트는 단계마다 이 조건을 확인하고 참이 될 때까지 계속 일합니다. "더 좋게 해 줘" 같은 막연한 바람은 끝나지 않으므로, 오래 도는 루프에는 바퀴 수나 토큰 한도도 함께 정합니다.
더 배우기
멈춤 토큰
원문 표기 · Stop token
"글이 여기서 끝난다"는 뜻의 특별한 토큰
멈춤 토큰은 글의 끝을 표시하는 특별한 토큰입니다. 학습할 때 모델은 예문마다 끝에 이 토큰을 보므로, 답이 어디서 끝나는지 배웁니다. 글을 만들 때는 이 토큰이 뽑히거나 길이 한도에 닿으면 프로그램이 멈춥니다. 이 토큰이 없으면 모델은 낱말을 끝없이 덧붙입니다.
더 배우기
GPT 자세히 보기
특수 토큰
원문 표기 · Special token
글 조각 대신 자리를 표시하는 예약 토큰
특수 토큰은 토크나이저가 글 조각이 아니라 할 일을 위해 남겨 둔 토큰입니다. [BOS] 는 글의 시작을, [EOS] 는 글의 끝을 알리고 모델이 EOS 를 내면 생성이 멈춥니다. [PAD] 는 빈자리를 채우고, [UNK] 는 토크나이저가 모르는 글자를 대신합니다. XSLM 은 줄바꿈을 실제 모델의 EOS 처럼 씁니다.
더 배우기
safetensors
모델 가중치를 안전하게 저장하는 파일 형식
safetensors 는 모델의 가중치를 저장하는 파일 형식입니다. 파일에는 숫자와, 층마다 이름·데이터 형식·모양을 적은 작은 JSON 머리말만 들어 있습니다. 예전의 Python pickle 기반 형식은 파일을 열 때 숨은 코드가 실행될 수 있었지만 safetensors 는 그럴 수 없어서, Hugging Face 가 기본으로 씁니다.
더 배우기
가중치·파라미터 자세히 보기
사전 학습
원문 표기 · Pre-training
언어모델 학습의 첫 단계이자 가장 큰 단계
사전 학습은 언어모델을 만드는 첫 단계로, 모델이 엄청난 양의 글에서 다음 토큰을 예측하도록 학습합니다. 이 단계에서 언어 전반을 폭넓게 다루게 되지만, 아직 지시를 잘 따르지는 못합니다. 그 뒤 지시 학습 같은 단계가 모델을 도우미로 다듬습니다.
더 배우기
지시 학습(SFT)
원문 표기 · Instruction tuning (SFT)
지시를 따르도록 요청·답변 쌍으로 하는 추가 학습
지시 학습은 SFT(지도 파인튜닝)라고도 하며, 사전 학습을 마친 모델을 요청과 좋은 답변의 쌍으로 더 학습시킵니다. 그러면 모델이 글을 그냥 이어 쓰는 대신 사람이 묻는 방식에 맞춰 답하게 됩니다. 후속 학습의 한 부분입니다.
더 배우기
파인튜닝·LoRA 자세히 보기
Llama
Meta 가 가중치를 공개한 언어 모델 계열
Llama 는 Meta 가 만든 언어 모델 계열입니다. Meta 가 모델의 가중치를 공개하기 때문에, 누구나 Meta 의 라이선스 조건 안에서 내려받아 자기 컴퓨터에서 돌릴 수 있습니다. llama.cpp 와 Ollama 같은 도구도 처음에는 Llama 모델을 돌리는 것에서 시작했습니다.
가중치·파라미터 자세히 보기
Qwen
알리바바가 만든 언어 모델 계열
Qwen 은 Alibaba Cloud 가 만든 언어 모델 계열입니다. 노트북용 작은 모델부터 서버용 큰 모델까지, 그리고 Qwen3-Coder 같은 코딩 모델까지 많은 Qwen 모델이 가중치를 공개한 오픈 모델로 나옵니다. OpenRouter 같은 서비스를 통해서도 쓸 수 있습니다.
가중치·파라미터 자세히 보기
빈도 포화
원문 표기 · Term frequency saturation
낱말 검색에서 같은 낱말이 더 나와도 점수가 점점 덜 오르는 성질
BM25 같은 낱말 검색에서는 문서에 찾는 낱말이 자주 나올수록 점수가 오르지만, 한 번 더 나올 때마다 오르는 폭이 점점 줄어듭니다. 그래서 점수가 끝없이 커지지 않고 어느 높이에서 멈춥니다. 같은 낱말만 잔뜩 되풀이한 문서가 1등을 차지하지 못하게 하는 장치입니다.
더 배우기
기준값
원문 표기 · Threshold
이 값을 넘으면 "예"로 판정하는 경계 숫자
분류기는 보통 최종 답 대신 점수를 냅니다. 기준값은 그 점수에 긋는 선으로, 넘으면 "예", 못 넘으면 "아니요"로 판정합니다. 기준값을 옮기면 양성으로 분류되는 예가 달라집니다 — 올리면 "예"라고 하는 일이 줄지만 더 신중해집니다. 점수 0.7 이 곧 70% 확률이라는 뜻은 아닙니다.
더 배우기
토큰 예산
원문 표기 · Token budget
작업이나 에이전트 루프가 쓸 수 있는 토큰의 최대량
토큰 예산은 에이전트가 한 작업에 쓸 수 있는 토큰 수의 상한입니다. AI 서비스는 토큰 수로 요금을 매기므로, 토큰 예산은 곧 비용 한도이기도 합니다. 예산이 없는 루프는 밤새 돌며 돈을 쓸 수 있고, 예산이 떨어지면 목표를 다 이루지 못했어도 에이전트가 멈춥니다.
더 배우기
검증 손실
원문 표기 · Validation loss
학습에 쓰지 않은 글로 잰 손실
학습하는 동안 숫자 두 개를 지켜봅니다. 학습 손실은 모델이 배우는 글로 재고, 검증 손실은 학습에 쓰지 않고 따로 둔 글로 잽니다. 학습 손실은 계속 내려가는데 검증 손실이 오르기 시작하면, 모델이 일반적인 규칙 대신 예문을 외우고 있다는 뜻이므로 거기서 멈추거나 모델을 줄입니다.
더 배우기
Antigravity CLI
agy 명령으로 시작하는 Google 의 터미널용 코딩 에이전트
Antigravity CLI 는 터미널에서 도는 Google 의 코딩 에이전트입니다. 공식 페이지의 설치 스크립트로 설치하고, 프로젝트 폴더에서 agy 명령으로 시작합니다. 처음에는 브라우저가 열려 Google 계정으로 로그인합니다. Google 의 Gemini 모델을 쓰고, 클로드 코드·Codex 처럼 계획을 승인하면 파일을 읽고 고치고 실행합니다. 예전 Gemini CLI 사용자를 위한 이전 안내서도 나와 있습니다.
더 배우기
Claude Cowork
파일과 앱에 걸친 여러 단계의 일을 맡기는 Claude 기능
Claude Cowork 는 Claude 데스크톱 앱에서 프로그래밍이 아닌 여러 단계의 일을 맡기는 기능입니다. 폴더 속 파일 정리, 영수증 더미를 표로 만들기, 여러 문서로 보고서 초안 쓰기 같은 일입니다. 폴더를 주고 원하는 결과를 말하면 단계를 계획하고 차례로 해 나가며, 나는 그 과정을 지켜볼 수 있습니다. 다른 에이전트처럼 결과는 내가 확인해야 하는 초안입니다.
더 배우기
특성(Feature)
모델이 판단에 쓰는 입력 값 하나(예: 집 크기)
특성은 모델이 보는 입력 데이터의 한 가지 값입니다. 집값 모델이라면 집 크기·방 개수·역까지 거리가 특성이고, 표 데이터에서는 보통 열 하나가 특성 하나입니다. 어떤 특성을 넣느냐가 중요합니다 — 답과 상관없는 특성은 잡음이 되어 모델을 오히려 나쁘게 만들 수 있습니다.
더 배우기
Hugging Face
AI 모델과 데이터를 함께 나누는 사이트·회사
Hugging Face 는 사람들이 AI 모델·데이터셋·작은 데모 앱을 올리고 내려받는 사이트입니다. 코드에 GitHub 가 있다면 AI 모델에는 Hugging Face 가 있는 셈입니다. 이 회사는 그 모델을 불러와 실행하는 Transformers 같은 오픈소스 파이썬 라이브러리도 만듭니다. 아주 작은 것부터 큰 것까지 많은 오픈 모델을 여기서 내려받습니다.
이미지 생성
원문 표기 · Image generation
글로 쓴 설명을 받아 AI 가 새 그림을 만드는 일
이미지 생성은 AI 모델이 글로 쓴 설명(프롬프트)을 새 그림으로 바꾸는 일이고, 많은 모델은 내가 준 그림을 고치기도 합니다. 대상·스타일·크기·바꾸면 안 되는 것을 설명하고, 한 번에 한 가지만 고치면 결과가 좋아집니다. 쓰기 전에 잘못된 글자·손가락 개수 같은 실수와, 사람·상표·화풍에 대한 권리를 확인합니다.
더 배우기
이미지 인식
원문 표기 · Image recognition
사진 속에 무엇이 있는지 알아보는 AI 기술
이미지 인식은 사진을 보고 그 안에 무엇이 있는지 — 고양이, 정지 표지판, 손글씨 숫자 — 알아보는 AI 기술입니다. 보통 이름표가 붙은 사진을 많이 보고 학습한 딥러닝 신경망으로 합니다. 휴대폰은 이것으로 사진첩을 분류하고, 자동차는 도로 표지판을 읽습니다.
LoRA
모델은 얼려 두고 작은 덧붙임만 학습하는 값싼 파인튜닝
LoRA(Low-Rank Adaptation)는 큰 모델을 적은 비용으로 파인튜닝하는 방법입니다. 원래 가중치는 그대로 얼려 두고, 어댑터라고 부르는 작은 행렬만 새로 학습해 더합니다. 학습할 숫자가 훨씬 적어 GPU 메모리와 저장 공간이 적게 들고, 기본 모델 하나에 일마다 다른 작은 어댑터를 바꿔 끼울 수 있습니다.
더 배우기
가중치·파라미터 자세히 보기
풀 파인튜닝
원문 표기 · Full fine-tuning
모델의 모든 가중치를 업데이트하는 파인튜닝
풀 파인튜닝은 사전학습된 모델의 가중치 전체를 새 데이터로 다시 학습합니다. 7B 모델이면 70억 개 파라미터가 모두 바뀌고, 결과물도 원본과 같은 크기의 새 모델이 통째로 하나 생깁니다. 모델을 가장 크게 바꿀 수 있지만 GPU 메모리와 시간이 가장 많이 듭니다. 보통 "파인튜닝"이라고만 하면 이것을 가리킵니다.
더 배우기
가중치·파라미터 자세히 보기
PEFT
모델의 극히 일부만 학습하는 파인튜닝
PEFT(파라미터 효율적 파인튜닝)는 적은 수의 파라미터만 학습하고 나머지는 얼려 두는 파인튜닝 방법들을 묶어 부르는 이름입니다. 가장 널리 알려진 것이 LoRA 입니다. 풀 파인튜닝보다 메모리와 저장 공간이 훨씬 적게 듭니다.
더 배우기
가중치·파라미터 자세히 보기
QLoRA
양자화한 모델에 LoRA 를 써서 메모리를 더 줄이는 방법
QLoRA 는 먼저 베이스 모델을 양자화해 가중치를 더 적은 비트로 저장한 다음, 그 위에 LoRA 어댑터를 학습합니다. 얼려 둔 모델이 메모리를 훨씬 적게 차지하므로 큰 모델도 보통 GPU 한 장으로 파인튜닝할 수 있습니다.
더 배우기
가중치·파라미터 자세히 보기
저랭크 행렬
원문 표기 · Low-rank matrix
작은 표 두 개로 다시 만들 수 있는 큰 숫자 표
저랭크 행렬은 서로 독립된 정보가 적어서, 훨씬 작은 표 두 개의 곱으로 적을 수 있는 큰 숫자 표입니다. 랭크 r 이 그 표들이 얼마나 작아도 되는지를 말합니다. LoRA 는 파인튜닝이 가중치에 만드는 변화가 저랭크라고 가정하고, 그래서 작은 행렬 두 개만 학습합니다.
더 배우기
가중치·파라미터 자세히 보기
치명적 망각
원문 표기 · Catastrophic forgetting
모델이 새것을 배우다가 알던 것을 잃어버리는 일
모델을 새 데이터로 더 학습하면 가중치가 새 데이터에 맞게 움직이면서 예전에 배운 것과 어긋날 수 있습니다. 그러면 원래 잘하던 일을 못하게 됩니다. 모든 가중치가 바뀌는 풀 파인튜닝에서 위험이 크고, 원본 가중치를 얼려 두는 LoRA 에서는 더 적습니다.
더 배우기
가중치·파라미터 자세히 보기
행렬 곱
원문 표기 · Matrix multiplication
두 숫자 표를 행과 열끼리 곱해 더하는 계산
행렬 곱은 두 행렬을 합치는 계산으로, 결과의 숫자 하나하나는 첫 행렬의 행 하나와 둘째 행렬의 열 하나를 칸끼리 곱해 모두 더한 값입니다. 안쪽 크기가 같아야 해서 4×3 행렬과 3×2 행렬을 곱하면 4×2 행렬이 됩니다. 신경망 안의 계산은 거의 다 행렬 곱이라, 이것을 한꺼번에 많이 하도록 만든 GPU 를 AI 에 씁니다.
더 배우기
뉴런
원문 표기 · Neuron
신경망에서 가장 작은 계산 단위
인공 뉴런은 숫자 여러 개를 받아 각각 가중치를 곱하고, 편향과 함께 모두 더한 뒤, 그 합을 활성화 함수에 통과시킵니다. 뉴런을 여러 개 나란히 놓으면 층이 되고, 층을 쌓으면 신경망이 됩니다. 이름은 뇌의 신경세포에서 빌렸지만, 여기서 뉴런은 곱하고 더하는 계산일 뿐입니다.
더 배우기
가중치·파라미터 자세히 보기
최적화
원문 표기 · Optimization
손실이 가장 작아지도록 모델의 숫자를 고쳐 나가는 일
머신러닝에서 최적화는 모델의 가중치를 조금씩 바꿔 손실 — 예측이 얼마나 틀렸는지 — 을 줄이는 일입니다. 보통 손실이 줄어드는 방향을 계산해 그쪽으로 조금 옮기는 경사 하강법을 씁니다. 최적화는 학습 데이터에 맞는 숫자를 찾을 뿐이라, 새 데이터에서 맞는다는 보장과는 다릅니다.
가중치·파라미터 자세히 보기
원문 표기 · Output format
답을 목록·표·JSON·파일 중 어떤 꼴로 낼지 정한 것
출력 형식은 프롬프트에서 답의 모양을 정하는 부분입니다 — 글머리표 목록, 열을 정한 표, 키를 정한 JSON, 또는 파일입니다. 이것을 적어 두면 답을 다시 고쳐 쓸 일이 줄고, 프로그램이 결과를 바로 읽을 수 있습니다. 역할·목표·배경·예시·제약과 함께 좋은 프롬프트의 여섯 부분 가운데 하나입니다.
더 배우기
양성
원문 표기 · Positive class
예/아니요 분류에서 모델이 찾으려는 "예" 쪽
답이 두 가지인 분류에서 양성은 찾으려는 쪽입니다 — 스팸 거르기에서는 스팸, 건강 검진에서는 병이 있음입니다. 양성은 좋다는 뜻이 아니라 "찾던 것이 나왔다"는 뜻일 뿐입니다. 정밀도·재현율·혼동 행렬은 모두 이 양성을 기준으로 셉니다.
scikit-learn
고전적인 머신러닝을 쉽게 쓰게 해 주는 파이썬 라이브러리
scikit-learn 은 분류·회귀·군집화·모델 평가 같은 고전적인 머신러닝을 위한 무료 파이썬 라이브러리입니다. 모든 모델을 같은 방식 — fit() 으로 배우고 predict() 로 답하기 — 으로 써서 처음 배우는 사람이 많이 씁니다. 큰 신경망을 학습시키는 용도는 아니고, 그런 일에는 PyTorch 를 씁니다.
토큰 ID
원문 표기 · Token ID
토크나이저가 어휘 목록에서 토큰마다 붙인 번호
토크나이저는 아는 토큰을 모두 번호 매겨 둔 어휘 목록을 가지고 있습니다. 토큰 ID 는 그 목록에서 토큰의 번호입니다. 모델은 글자를 보지 않고, 글을 토큰 ID 목록으로 바꿔 그 숫자로 계산한 뒤, 나온 ID 를 다시 글로 바꿉니다. 같은 낱말도 모델마다 ID 가 다를 수 있습니다.
GPT 자세히 보기
ChatGPT
OpenAI 가 만든 대화형 AI 서비스
ChatGPT 는 OpenAI 가 만들어 2022년 11월에 공개한 대화형 AI 서비스입니다. 질문을 입력하면 거대 언어 모델이 답을 쓰고, 첨부한 파일과 그림을 읽거나 기능을 켜 두면 웹 검색도 합니다. 답은 초안입니다 — 유창한 글도 틀릴 수 있으니 사실과 숫자는 직접 확인합니다.
더 배우기
GPT 자세히 보기
Gemini
Google 의 AI 모델 이름이자 그 모델로 만든 대화 앱
Gemini 는 Google 의 거대 언어 모델 이름이자, 그 모델로 만든 대화 앱의 이름입니다. 글뿐 아니라 그림·소리·영상도 받는 멀티모달 모델입니다. Google 의 코딩 에이전트인 Antigravity CLI 와 예전 Gemini CLI 도 Gemini 모델로 돕니다.
Grok
xAI 의 AI 모델 이름이자 그 모델로 만든 대화 앱
Grok 은 xAI 가 만든 거대 언어 모델의 이름이자, 그 모델로 만든 대화 앱(웹·휴대폰·X 안)의 이름입니다. Grok Build(Grok CLI 라고도 부릅니다)는 다른 것으로, 터미널에서 도는 xAI 의 코딩 에이전트입니다. 짧게 말해 Grok 은 모델, Grok CLI 는 그 모델을 쓰는 도구입니다.
SKILL.md
에이전트 스킬의 이름·설명·단계를 적는 파일
에이전트 스킬은 모두 SKILL.md 라는 파일이 든 폴더입니다. 맨 위 --- 줄 사이에 스킬 이름과, 언제 쓰는지 알려 주는 설명을 적고, 그 아래에 할 일을 보통 마크다운으로 적습니다. 에이전트는 처음에 이름과 설명만 읽고, 일이 필요할 때 나머지를 읽습니다. 같은 폴더에 스크립트와 참고 파일을 함께 둘 수 있습니다.
더 배우기
Gemini CLI
Google 이 먼저 내놓은 터미널용 오픈소스 AI 에이전트
Gemini CLI 는 터미널에서 도는 Google 의 오픈소스 AI 에이전트로, Gemini 모델을 씁니다. 클로드 코드·Codex 처럼 파일을 읽고 명령을 실행하고 지시 파일을 따르며, 에이전트 스킬도 지원합니다. 배움노바 AI 강좌는 지금 Google 의 새 도구인 Antigravity CLI(agy)를 가르칩니다. Google 이 Gemini CLI 사용자를 위한 이전 안내서를 냈으니, 옛 안내를 따르기 전에 공식 페이지를 확인합니다.
리소스(Resources)
MCP 서버가 앱이 읽도록 내놓는 데이터
MCP 서버는 세 가지를 내놓을 수 있습니다 — 모델이 부르는 도구, 사용자가 고르는 프롬프트, 그리고 앱이 읽을 수 있는 데이터인 리소스입니다. 리소스는 파일·기록·메모 목록 같은 것이고, notes://shopping 처럼 저마다 주소(URI)가 있습니다. 도구는 일을 하고, 리소스는 내용만 건넵니다.
더 배우기
Claude
Anthropic 이 만든 AI 모델과 대화 서비스
Claude 는 Anthropic 이 만든 거대 언어 모델의 이름이자, 웹·데스크톱·휴대폰에서 쓰는 대화 앱의 이름입니다. 클로드 코드는 다른 것입니다 — Claude 모델을 써서 내 파일로 일하는 하네스 프로그램입니다. 짧게 말해 Claude 는 모델이고, 클로드 코드는 그 모델을 감싼 도구입니다.
GitHub Copilot
코드 쓰기를 돕는 GitHub 의 AI 도우미
GitHub Copilot 은 GitHub 의 AI 코딩 도우미입니다. 코드 편집기에서는 입력하는 동안 다음 줄을 제안하고 채팅 창에서 질문에 답합니다. 에이전트 모드와 Copilot CLI 에서는 파일을 고치고 명령을 실행하기도 하며, 에이전트 스킬도 읽습니다. 제안은 추측이므로 직접 읽고 테스트합니다.
OpenCode
터미널에서 쓰는 오픈소스 AI 코딩 에이전트
OpenCode 는 터미널에서 도는 오픈소스 코딩 에이전트입니다. 클로드 코드·Codex 처럼 프로젝트를 읽고 파일을 고치고 명령을 실행하지만, 여러 회사의 모델을 골라 연결할 수 있습니다. 에이전트 스킬도 읽습니다.
더 배우기
Grok CLI
xAI 의 터미널용 AI 코딩 에이전트(Grok Build)
Grok 은 xAI 가 만든 AI 모델의 이름입니다. Grok Build(Grok CLI 라고도 부릅니다)는 클로드 코드·Codex 처럼 터미널에서 도는 xAI 의 코딩 에이전트입니다. 공식 안내의 설치 스크립트나 전역 npm 패키지로 설치하고, 버전 명령으로 설치를 확인합니다.
Orca
여러 AI 코딩 에이전트를 나란히 돌리는 오픈소스 데스크톱 앱
Orca 는 클로드 코드·Codex·OpenCode 같은 AI 코딩 에이전트 여러 개를 한꺼번에 돌리는 오픈소스 데스크톱 앱입니다. 에이전트마다 자기 Git 워크트리에서 일해 변경이 서로 부딪치지 않고, 결과를 한 창에서 비교하고 검토합니다. 각 에이전트의 구독은 내 것을 씁니다.
알파고
원문 표기 · AlphaGo
구글 딥마인드가 만든 바둑 인공지능
알파고(AlphaGo)는 구글 딥마인드가 만든 바둑 프로그램입니다. 2016년 3월 세계 최정상급 기사인 이세돌 9단을 4승 1패로 이겨, 많은 전문가가 10년은 더 걸린다고 본 일을 해냈습니다. 딥러닝 신경망과 수 읽기 탐색을 함께 쓰고, 스스로와 대국하며 실력을 키웠습니다(강화 학습).
더 배우기
이진 분류
원문 표기 · Binary classification
답이 딱 두 가지 중 하나인 분류
이진 분류는 답이 두 가지뿐인 분류 문제입니다 — 스팸/정상, 사기/정상, 병 있음/없음. 모델은 보통 0과 1 사이의 점수를 내고, 기준값으로 그 점수를 "예"나 "아니요"로 바꿉니다. 찾으려는 쪽을 양성이라고 부릅니다.
더 배우기
다중 분류
원문 표기 · Multiclass classification
답이 셋 이상 가운데 하나인 분류
다중 분류에서는 입력마다 셋 이상의 범주 가운데 딱 하나를 고릅니다 — 고양이·강아지·토끼, 숫자 0~9 같은 것입니다. 모델이 범주마다 점수를 내면 소프트맥스가 확률로 바꾸고, 가장 높은 것이 답이 됩니다. 사진 한 장에 이름표가 여러 개 붙을 수 있다면 다른 문제(다중 레이블)입니다.
더 배우기
생각의 사슬
원문 표기 · Chain-of-thought
모델에게 풀이 과정을 단계별로 적게 하는 프롬프트 기법
생각의 사슬(Chain-of-Thought, CoT)은 모델에게 마지막 답 전에 풀이 단계를 적게 하는 프롬프트 기법입니다 — 예를 들어 "단계별로 풀어 줘"라고 덧붙입니다. 언어모델은 토큰을 하나씩 만들기 때문에, 먼저 적은 단계가 다음 계산의 문맥이 되어 수학·논리 문제의 답이 좋아지는 경우가 많습니다. 적힌 단계는 글일 뿐, 답이 실제로 어떻게 계산됐는지 보장하는 기록은 아닙니다.
연쇄 법칙
원문 표기 · Chain rule
함수 안의 함수의 기울기는 기울기끼리 곱해 구한다는 미분 규칙
연쇄 법칙은 합성 함수의 기울기(미분)가 바깥 함수의 기울기와 안쪽 함수의 기울기를 곱한 값이라는 규칙입니다. 신경망은 함수를 길게 이어 붙인 것이라, 역전파는 출력에서 첫 층까지 거꾸로 가며 연쇄 법칙을 되풀이해 가중치 하나하나가 손실에 주는 영향을 구합니다. 작은 기울기를 여러 번 곱하면 기울기가 사라지고, 큰 기울기를 여러 번 곱하면 폭발하는 까닭도 여기에 있습니다.
가중치·파라미터 자세히 보기
합성 함수
원문 표기 · Composite function
한 함수의 결과를 다른 함수에 넣어 만든 함수
합성 함수는 함수 안에 함수를 넣은 것입니다 — 먼저 g(x) 를 계산하고 그 결과를 f 에 넣으며, f(g(x)) 로 씁니다. 신경망은 커다란 합성 함수로, 층마다 앞 층의 결과를 받아 계산합니다. 이런 함수의 기울기는 연쇄 법칙으로 구합니다.
군집화
원문 표기 · Clustering
정답 없이 비슷한 데이터끼리 무리 짓기
군집화(클러스터링)는 아무도 이름표를 붙이지 않은 데이터를 비슷한 것끼리 무리 짓는 일입니다 — 예를 들어 손님을 사는 물건과 횟수에 따라 몇 무리로 나눕니다. 비지도 학습의 한 가지로, 알고리즘이 무리를 찾고 그 무리가 무슨 뜻인지는 사람이 정합니다. 무리 개수를 정해 주는 k-평균(k-means)이 흔한 방법입니다.
더 배우기
혼동 행렬
원문 표기 · Confusion matrix
맞힘과 틀림을 종류별로 나누어 센 표
혼동 행렬은 분류기의 답과 실제 정답을 맞대어 센 표입니다. 예/아니요 문제라면 참 양성·거짓 양성·거짓 음성·참 음성 네 칸이 있습니다. 정확도·정밀도·재현율은 모두 이 네 칸의 수로 계산하므로, 이 표를 보면 모델이 얼마나 틀리는지뿐 아니라 어느 쪽으로 틀리는지도 알 수 있습니다.
거짓 양성
원문 표기 · False positive
모델은 "예"라고 했지만 실제 답은 "아니요"인 경우
거짓 양성은 잘못 울린 경보입니다 — 없는 것을 있다고 답한 경우로, 보통 메일이 스팸함에 가거나 건강한 사람이 병이 있다고 나오는 일입니다. 거짓 양성이 많으면 정밀도가 낮습니다. 이것이 거짓 음성보다 나쁜지는 그 일에서 각 실수가 얼마나 비싼지에 달렸습니다.
거짓 음성
원문 표기 · False negative
모델은 "아니요"라고 했지만 실제 답은 "예"인 경우
거짓 음성은 놓친 경우입니다 — 있었는데 모델이 잡아내지 못한 것으로, 스팸이 받은편지함에 들어오거나 검사가 병을 찾지 못하는 일입니다. 거짓 음성이 많으면 재현율이 낮습니다. 암 검진에서는 놓치는 것이 잘못 울린 경보보다 훨씬 비쌀 수 있어 재현율을 더 중요하게 봅니다.
재현율
원문 표기 · Recall
실제 정답 가운데 모델이 찾아낸 비율
재현율은 실제 양성 가운데 모델이 제대로 찾아낸 비율로, 참 양성 ÷ (참 양성 + 거짓 음성) 입니다. 재현율이 낮으면 놓치는 것이 많아 스팸이 받은편지함으로 많이 들어옵니다. 재현율을 올리면 보통 정밀도가 내려갑니다 — 더 많이 잡으려면 잘못 울리는 경보도 늘기 때문입니다.
정밀도
원문 표기 · Precision
모델이 "예"라고 한 것 가운데 정말 맞은 비율
정밀도는 모델이 "예"라고 답한 것 가운데 실제로 맞은 비율로, 참 양성 ÷ (참 양성 + 거짓 양성) 입니다. 정밀도가 낮으면 잘못 울리는 경보가 많아 멀쩡한 메일이 스팸함으로 갑니다. 기준을 엄격하게 하면 정밀도는 오르지만 보통 재현율이 내려갑니다. (컴퓨터에서 숫자 하나를 몇 비트로 적는지를 뜻하는 "정밀도"와는 다른 말입니다.)
F1 점수
원문 표기 · F1 score
정밀도와 재현율을 하나로 합친 점수
F1 점수는 정밀도와 재현율의 조화 평균으로, 2 × P × R ÷ (P + R) 입니다. 둘이 모두 높아야 높게 나오고, 하나만 좋고 다른 하나가 나쁘면 낮게 나옵니다. 그래서 범주의 수가 크게 다를 때 — 정확도만 보면 좋아 보여도 양성을 거의 놓치는 경우 — 에 쓸모가 있습니다.
조화 평균
원문 표기 · Harmonic mean
작은 값 쪽으로 크게 끌려가는 평균
두 수 a 와 b 의 조화 평균은 2ab ÷ (a + b) 입니다. 보통 평균과 달리 작은 쪽으로 강하게 끌려가서, 한 값이 높아도 다른 값이 낮으면 낮게 나옵니다. F1 점수가 정밀도와 재현율을 합칠 때 이 평균을 씁니다.
코사인 유사도
원문 표기 · Cosine similarity
두 벡터가 얼마나 같은 방향을 가리키는지 −1~1 로 잰 값
코사인 유사도는 길이는 무시하고 두 벡터 사이의 각도를 잽니다. 1 이면 같은 방향, 0 이면 상관없음(직각), −1 이면 정반대입니다. 임베딩 검색은 이것으로 질문과 뜻의 벡터가 같은 쪽을 가리키는 글을 찾습니다. 벡터가 가깝다는 것은 주제가 비슷하다는 뜻이지, 그 문장이 사실이라는 뜻은 아닙니다.
데이터 편향
원문 표기 · Data bias
학습 데이터가 한쪽으로 치우쳐 모델이 불공정해지는 문제
데이터 편향은 학습 데이터가 모델이 실제로 만날 사람이나 경우를 고르게 담지 못할 때 생깁니다. 모델은 그 치우침까지 배웁니다 — 예를 들어 한 집단의 사진이 적게 들어간 얼굴 인식 모델은 그 집단을 더 자주 틀립니다. 집단마다 결과를 따로 확인하고, 모델뿐 아니라 데이터를 고칩니다.
더 배우기
딥 리서치
원문 표기 · Deep research
AI 가 여러 자료를 몇 분 동안 찾아 읽고 보고서를 써 주는 기능
딥 리서치(깊이 조사)는 ChatGPT·Gemini·Claude 같은 AI 대화 서비스의 기능으로, AI 가 몇 분 동안 웹 페이지를 여럿 찾아 읽은 뒤 출처 링크가 달린 보고서를 씁니다. 찾는 시간을 크게 줄여 주지만, 자료를 잘못 읽거나 잘못 옮길 수 있으니 중요한 주장은 링크를 열어 직접 확인합니다.
더 배우기
GPT 자세히 보기
딥페이크
원문 표기 · Deepfake
AI 로 진짜처럼 만든 가짜 영상·사진·목소리
딥페이크는 딥러닝으로 실제 사람처럼 보이거나 들리게 만든 가짜 영상·사진·목소리입니다. 같은 기술을 영화나 더빙에 정당하게 쓰기도 하지만, 남이 하지 않은 말을 지어내거나 사기를 치거나 실제 사람의 성적인 이미지를 만드는 데 쓰면 범죄가 될 수 있습니다. 충격적인 영상은 믿기 전에 출처부터 확인합니다.
더 배우기
차원
원문 표기 · Dimension
벡터에 든 숫자의 개수
벡터의 차원은 그 안에 든 숫자의 개수로, [1.2, 0.5, 3.0] 은 3차원 벡터입니다. 숫자 하나하나를 축 하나의 위치로 보면 숫자 두 개는 평면 지도의 점, 세 개는 공간의 점이 됩니다. AI 의 임베딩은 수백~수천 차원인 경우가 많아 그림으로 그릴 수는 없지만 계산은 똑같이 합니다.
더 배우기
에포크
원문 표기 · Epoch
학습 데이터 전체를 처음부터 끝까지 한 번 훑는 한 바퀴
에포크는 모델이 학습 데이터의 모든 예를 한 번씩 다 본 한 바퀴입니다. 학습은 보통 여러 에포크를 돕니다. 에포크마다 검증 데이터의 손실을 확인하고, 학습 손실은 내려가는데 검증 손실이 더 나아지지 않거나 오르면 에포크를 더 돌려도 모델이 외우기만 합니다.
더 배우기
인공지능법
원문 표기 · EU AI Act
위험 수준에 따라 AI 를 규제하는 유럽연합의 법
유럽연합(EU)의 인공지능법(AI Act)은 2024년 8월 1일에 발효된, 이런 종류로는 처음인 포괄적 인공지능 법입니다. AI 를 위험 수준에 따라 나눠, 어떤 쓰임은 금지하고, 채용·신용 평가 같은 고위험 쓰임에는 엄격한 의무를 지우며, 그 밖에는 AI 가 만든 내용임을 알리는 것 같은 투명성 의무를 둡니다. 규정은 몇 해에 걸쳐 단계적으로 적용됩니다.
더 배우기
전문가 시스템
원문 표기 · Expert system
사람 전문가가 적은 규칙으로 판단하던 초기 인공지능
전문가 시스템은 1970~80년대에 널리 쓰인 초기 인공지능으로, 사람 전문가가 "만약 ~이면 ~하라" 같은 규칙을 잔뜩 적어 넣어 만듭니다 — 예를 들어 병을 진단하는 규칙입니다. 어떤 규칙을 썼는지 설명할 수는 있었지만, 아무도 규칙을 적지 않은 경우에는 무너졌고 수천 개의 규칙을 최신으로 유지하기도 어려웠습니다. 데이터에서 규칙을 배우는 머신러닝이 대부분 그 자리를 이어받았습니다.
더 배우기
얼굴 인식
원문 표기 · Face recognition
사진 속 얼굴이 누구인지 알아보는 AI 기술
얼굴 인식은 사진에서 얼굴을 찾아 알고 있는 사람과 맞춰 보는 AI 기술로, 휴대폰이 얼굴을 보고 잠금을 푸는 것이 그 예입니다. 얼굴을 벡터로 바꿔 벡터끼리 비교하는 방식으로 합니다. 학습 사진에 적게 들어간 집단에서는 더 자주 틀릴 수 있고, 공공장소의 사람에게 쓰면 개인정보와 법의 문제가 생깁니다.
더 배우기
생성형 인공지능
원문 표기 · Generative AI
글·그림·소리·영상을 새로 만들어 내는 AI
생성형 인공지능은 분류나 예측만 하는 대신 글·그림·음악·목소리·영상·코드 같은 새 내용을 만들어 내는 AI 입니다. 대화형 도우미와 이미지 생성기가 그 예입니다. 결과는 학습 데이터의 패턴으로 만든 것이라, 자신 있게 들려도 틀릴 수 있습니다(환각).
지식 증류
원문 표기 · Knowledge distillation
큰 모델을 흉내 내도록 작은 모델을 학습시키는 방법
지식 증류는 작은 "학생" 모델이 정답만이 아니라 큰 "선생" 모델의 출력을 따라 하도록 학습시키는 방법입니다. 학생은 정보가 더 많은 선생의 확률 점수 전체를 보고 배우므로, 훨씬 작고 빠르면서도 선생에 가까운 성능을 내는 경우가 많습니다. 정확도를 조금 내주고 속도와 비용을 얻는 설계 선택입니다.
레이블
원문 표기 · Label
학습 데이터마다 붙인 정답 이름표
레이블(라벨)은 학습 데이터 하나하나에 붙인 정답 이름표입니다 — 고양이 사진에는 "고양이", 스팸 메일에는 "스팸", 집 기록에는 가격. 지도 학습에는 레이블이 꼭 필요하고, 그 품질이 모델의 한계가 됩니다 — 틀리거나 들쭉날쭉한 레이블은 틀린 답을 가르칩니다. 레이블 붙이기는 사람이 손으로 하는 느린 일인 경우가 많습니다.
더 배우기
지도 학습
원문 표기 · Supervised learning
정답 이름표가 붙은 예로 배우는 학습
지도 학습에서는 모델이 정답(레이블)과 짝지은 예로 배웁니다 — "고양이"·"강아지"가 적힌 사진, 가격이 적힌 집 기록 같은 것입니다. 정답에 맞도록 스스로를 고친 뒤 새 예의 답을 예측합니다. 분류와 회귀가 대표적인 두 갈래입니다. 레이블이 붙은 데이터가 많이 필요하고, 보통 그것이 가장 비싼 부분입니다.
더 배우기
비지도 학습
원문 표기 · Unsupervised learning
정답 없이 데이터 속 구조를 스스로 찾는 학습
비지도 학습은 레이블이 없는 데이터에서 구조를 스스로 찾습니다 — 비슷한 것끼리의 무리(군집화), 튀는 데이터, 데이터를 더 간단히 나타내는 방법 같은 것입니다. 레이블을 붙이기 너무 비쌀 때 쓸모가 있습니다. 찾아낸 무리에는 이름이 없어서, 무슨 뜻인지는 사람이 정합니다.
더 배우기
강화 학습
원문 표기 · Reinforcement learning
행동해 보고 받은 보상으로 좋은 행동을 익히는 학습
강화 학습에서는 에이전트가 환경 속에서 행동해 보고, 그 결과로 보상이나 벌점을 받습니다. 여러 번 해 보며 길게 봐서 보상이 가장 큰 행동을 익힙니다. 알파고가 스스로와 대국하며 이렇게 실력을 키웠고, RLHF 는 이것으로 대화 모델의 답하는 방식을 다듬습니다. 보상을 잘못 설계하면 엉뚱한 행동을 배웁니다.
더 배우기
보상 모델
원문 표기 · Reward model
두 답 가운데 사람이 더 좋아할 쪽에 점수를 매기는 모델
보상 모델은 사람이 두 답 가운데 더 나은 쪽을 고른 비교 자료로 학습합니다. 그래서 어떤 답이든 점수를 매길 수 있게 되고, 강화 학습에서 사람의 판단을 대신합니다. 허점이 있으면 문제가 됩니다 — 언어모델이 정말 나아지는 대신 길고 듣기 좋은 답처럼 보상 모델만 기쁘게 하는 법을 배울 수 있습니다.
RLHF
사람의 선택을 보상으로 삼아 모델을 다듬는 학습
RLHF(Reinforcement Learning from Human Feedback)는 사람의 선호로 언어모델을 다듬는 방법입니다. 보통 ① 좋은 예시 답으로 모델을 파인튜닝하고, ② 사람이 두 답을 비교해 고른 자료로 보상 모델을 만든 뒤, ③ 보상 모델이 높게 매기는 답을 쓰도록 강화 학습을 시킵니다. 대화형 도우미가 지시를 따르고 공손하게 답하는 큰 까닭이 이것입니다.
파인튜닝·LoRA 자세히 보기
모델 카드
원문 표기 · Model card
모델의 용도·데이터·한계를 정리한 짧은 문서
모델 카드는 모델과 함께 공개하는 문서입니다. 모델을 어디에 쓰고 어디에 쓰면 안 되는지, 어떤 데이터로 학습했는지, 어떻게 평가했는지, 알려진 한계와 편향, 라이선스를 적습니다. 다른 사람이 그 모델이 자기 일에 맞는지 판단하게 돕습니다. Hugging Face 의 모델에는 보통 모델 카드가 붙어 있습니다.
n-그램
원문 표기 · n-gram
앞 n−1개 낱말을 세어 다음 낱말을 맞히는 모델
n-그램 모델은 글에서 앞 n−1개 낱말 다음에 어떤 낱말이 몇 번 왔는지 세고, 그 횟수를 확률로 바꿉니다. 바이그램(n = 2)은 앞 낱말 하나, 트라이그램은 둘을 봅니다. 빠르고 이해하기 쉽지만 그보다 앞은 쓰지 못하고, 본 적 없는 낱말 이어짐에는 확률을 주지 못합니다 — 신경망 언어모델이 넘어선 한계입니다.
더 배우기
수치 미분
원문 표기 · Numerical differentiation
입력을 아주 조금 바꿔 보며 기울기를 어림하는 방법
수치 미분은 입력에 아주 작은 값 h 를 더해 출력이 얼마나 바뀌는지 보고 기울기를 어림합니다: (f(x + h) − f(x)) ÷ h. 간단해서 검산에 쓸모 있지만 근삿값일 뿐이고, 파라미터마다 계산을 한 번씩 더 해야 해서 가중치가 수백만 개인 모델에는 너무 느립니다. 그래서 딥러닝 프레임워크는 자동 미분을 씁니다.
가중치·파라미터 자세히 보기
온디바이스 AI
원문 표기 · On-device AI
서버 없이 휴대폰·노트북 안에서 바로 돌리는 AI
온디바이스 AI 는 데이터를 서버로 보내지 않고 내 휴대폰·노트북 같은 기기 안에서 모델을 돌립니다. 데이터가 밖으로 나가지 않고, 인터넷 없이도 되며, 네트워크 지연 없이 답합니다. 대신 메모리·속도·배터리가 모자라서 모델이 작고 양자화된 경우가 많아, 가장 큰 클라우드 모델만큼 하지는 못합니다.
더 배우기
퍼플렉서티
원문 표기 · Perplexity
언어모델이 다음 토큰을 얼마나 헷갈려 하는지 나타내는 값
퍼플렉서티는 언어모델이 글을 얼마나 잘 예측하는지 재는 값으로, 낮을수록 좋습니다. 값이 10 이면 모델이 걸음마다 평균적으로 토큰 10개 가운데 고르게 하나를 고르는 것만큼 헷갈린다는 뜻입니다. 손실에서 바로 나오는 값입니다(평균 손실을 e 의 지수로 올린 값). 낮다는 것은 예측을 잘한다는 뜻이지, 글이 참이거나 쓸모 있다는 뜻은 아닙니다.
위치 인코딩
원문 표기 · Positional encoding
토큰마다 몇 번째인지 알려 주는 숫자를 더하는 방법
어텐션만으로는 입력을 토큰 꾸러미로 볼 뿐 순서를 알 수 없습니다. 위치 인코딩은 첫째·둘째·셋째 같은 자리를 숫자로 만들어 토큰의 임베딩에 더해 이 문제를 풉니다. 이것이 없으면 트랜스포머에게 "개가 사람을 문다"와 "사람이 개를 문다"가 똑같아 보입니다.
오차
원문 표기 · Prediction error
예측값과 정답의 차이
오차는 예측값에서 정답을 뺀 값입니다. 학습에서는 보통 오차를 제곱해 평균을 내어(평균 제곱 오차) 손실로 삼습니다 — 그래서 크게 빗나간 것이 훨씬 무겁게 세어지고, 플러스와 마이너스 오차가 서로 지워지지 않습니다. 모델은 그 평균이 작아지도록 가중치를 고칩니다.
더 배우기
가중치·파라미터 자세히 보기
가지치기
원문 표기 · Pruning
학습된 모델에서 덜 중요한 가중치를 잘라 가볍게 하는 방법
가지치기(프루닝)는 학습된 모델의 출력에 영향이 적은 가중치나 연결을 잘라 모델을 작게, 때로는 빠르게 만드는 방법입니다. 이름은 나무에서 필요 없는 가지를 치는 원예에서 왔습니다. 너무 많이 자르면 정확도가 떨어져서 보통 짧게 다시 학습시킵니다. 양자화·지식 증류와 함께 모델을 줄이는 방법의 하나입니다.
가중치·파라미터 자세히 보기
재현성
원문 표기 · Reproducibility
같은 데이터·코드로 다시 돌려 같은 결과를 얻을 수 있는 성질
실험은 다른 사람이 같은 데이터·코드·설정으로 다시 돌려 같은 결과를 얻을 수 있을 때 재현성이 있습니다. 그러려면 데이터 버전, 코드 버전, 라이브러리와 파이썬 버전, 난수 시드, 실행한 명령을 그대로 적어 둡니다. 그래도 GPU 계산은 실행할 때마다 조금씩 다를 수 있습니다.
규칙 기반 챗봇
원문 표기 · Rule-based chatbot
사람이 정해 둔 규칙대로만 답하는 챗봇
규칙 기반 챗봇은 입력한 말을 사람이 적어 둔 규칙 — 핵심 낱말이나 패턴 — 과 맞춰 보고 정해 둔 답을 돌려줍니다. 예측하기 쉽고 값싸며, if 문 몇 개로도 만들 수 있습니다. 하지만 새 답을 만들어 내는 LLM 챗봇과 달리 규칙 밖의 말은 다루지 못합니다.
더 배우기
음성 모델
원문 표기 · Speech model
글을 말소리로, 말소리를 글로 바꾸는 AI 모델
음성 모델은 말소리를 다루는 AI 모델로, 글을 목소리로 바꾸거나(음성 합성) 목소리를 글로 바꿉니다(음성 인식). 작은 음성 모델은 내 기기에서 돌 수 있습니다 — 배움노바의 읽어 주기 목소리도 음성 모델을 한 번 내려받으면 내 기기에서 글을 소리로 바꾸고, 대화 메시지는 여전히 언어모델 서비스로 갑니다.
더 배우기
전치 행렬
원문 표기 · Transpose
행과 열을 서로 바꾼 행렬
전치 행렬은 행렬의 행과 열을 맞바꾼 것으로, 1행이 1열이 되는 식입니다. m × n 행렬은 n × m 이 되고 Aᵀ 로 적습니다. 행렬 곱 전에 모양을 맞출 때 늘 씁니다 — 예를 들어 어텐션은 쿼리 행렬에 전치한 키 행렬을 곱합니다.
튜링 테스트
원문 표기 · Turing test
기계의 대화가 사람과 구별되지 않는지 가리는 시험
1950년 앨런 튜링은 심사위원이 숨은 사람 하나, 숨은 기계 하나와 글로 대화해서 어느 쪽이 기계인지 확실히 가려내지 못하면 기계가 통과하는 "이미테이션 게임"을 제안했습니다. 이것을 튜링 테스트라고 부릅니다. 통과는 기계가 사람의 대화를 흉내 낼 수 있다는 뜻일 뿐, 이해하거나 느끼거나 의식이 있다는 뜻은 아닙니다.
더 배우기
과소적합
원문 표기 · Underfitting
학습한 데이터조차 잘 맞히지 못하는 상태
과소적합은 모델이 너무 단순하거나 덜 학습해서 규칙을 잡지 못해, 자기 학습 데이터에서도 많이 틀리는 상태입니다. 학습 데이터에 너무 꼭 맞춘 과적합의 반대입니다. 더 큰 모델, 더 나은 특성, 더 긴 학습으로 고칩니다.
더 배우기
XAI
모델이 왜 그런 답을 냈는지 보여 주는 설명 가능한 인공지능
XAI(Explainable AI, 설명 가능한 인공지능)는 모델이 왜 그런 답을 냈는지 — 예를 들어 어떤 낱말이나 픽셀이 가장 중요했는지 — 사람이 볼 수 있게 하는 방법들의 분야입니다. 대출·채용·의료처럼 결정이 사람에게 영향을 주는 곳에서 특히 필요하고, 실수나 불공정한 이유를 찾아 설명하게 해 줍니다. 설명도 근삿값이라 확인이 필요합니다.
더 배우기
Amazon Bedrock
여러 회사의 AI 모델을 하나의 API 로 쓰게 해 주는 AWS 서비스
Amazon Bedrock 은 AWS 의 클라우드 서비스로, 기업이 Anthropic 의 Claude 를 비롯한 여러 회사의 AI 모델을 AWS 의 요금·보안 설정으로 부를 수 있게 합니다. 클로드 코드도 Anthropic 계정 대신 Bedrock 을 거쳐 Claude 를 쓰도록 설정할 수 있지만, 그러면 claude.ai 로그인이 필요한 일부 기능은 쓸 수 없습니다.
승인 정책
원문 표기 · Approval policy
에이전트가 언제 나에게 허락을 물어야 하는지 정하는 Codex 설정
Codex 에서 샌드박스는 에이전트가 기술적으로 할 수 있는 범위(파일 쓰기·네트워크)를, 승인 정책은 언제 멈추고 나에게 물을지를 정합니다. on-request 는 샌드박스 밖이 필요할 때 묻고, never 는 묻지 않아 스크립트나 격리된 컨테이너에 맞습니다. 둘을 함께 정합니다. -a 옵션이나 config.toml 의 approval_policy 로 고릅니다.
더 배우기
workspace-write
작업 폴더 안에서만 고치고 실행하는 Codex 샌드박스 모드
workspace-write 는 Codex 의 샌드박스 모드입니다. 에이전트는 작업 폴더 안에서만 파일을 고치고 명령을 실행하며, 네트워크는 기본으로 꺼져 있고 .git·.codex 같은 폴더는 쓰지 못합니다. Git 저장소에서는 on-request 승인 정책과 함께 이것을 흔히 씁니다. 다른 모드는 read-only(읽기만)와 danger-full-access 입니다.
더 배우기
danger-full-access
샌드박스 없이 무엇이든 하게 하는 Codex 모드
danger-full-access 는 Codex 의 샌드박스를 끕니다 — 에이전트가 내 사용자의 모든 권한으로 어떤 파일이든 읽고 쓰고 네트워크도 씁니다. 명령 하나만 잘못돼도 데이터가 지워지거나 새어 나갈 수 있으니, 버려도 되는 격리된 컨테이너나 가상 머신 안에서만 씁니다.
더 배우기
config.toml
Codex 의 설정 파일 ~/.codex/config.toml
config.toml 은 Codex 가 기본 설정을 두는 파일로, 홈 폴더의 ~/.codex/config.toml 에 있습니다. 매번 붙이던 옵션 — 모델, 생각하는 정도, 승인 정책, 샌드박스 모드, MCP 서버 — 을 여기에 한 번 적어 두면 기본값이 됩니다. TOML 형식이라 키 = 값 줄과 [구역] 제목으로 씁니다.
더 배우기
프로필
원문 표기 · Profile
-p 로 골라 쓰는 이름 붙은 Codex 설정 묶음
Codex 프로필은 한 종류의 일에 맞춘 설정 묶음에 이름을 붙인 것입니다 — 예를 들어 샌드박스를 엄격하게 한 읽기 전용 "review" 프로필입니다. 기본값은 config.toml 에 두고, codex -p <이름> 으로 그 실행에만 프로필의 설정을 씁니다. 같은 옵션을 매번 입력할 일이 줄어듭니다.
더 배우기
codex cloud
Codex 일을 OpenAI 클라우드에서 돌리고 결과를 내 컴퓨터에 적용하는 기능
codex cloud 는 일을 내 컴퓨터가 아니라 OpenAI 의 클라우드 환경에서 도는 Codex 에게 맡깁니다. 내 컴퓨터를 쓰지 않으므로 여러 일을 동시에 맡기고, 끝난 결과 가운데 원하는 것만 고를 수 있습니다. codex apply 는 클라우드 일의 변경을 내 저장소로 가져오고, 다른 diff 처럼 검토합니다.
더 배우기
streamable HTTP
원문 표기 · Streamable HTTP
원격 MCP 서버가 HTTP 로 주고받는 방식
MCP 서버는 크게 두 가지로 연결됩니다. 로컬 서버는 내 컴퓨터에서 돌며 표준 입력·출력(stdio)으로 주고받습니다. 원격 서버는 다른 곳에서 돌며 HTTP 로 주고받는데, 지금의 표준 방식을 streamable HTTP 라고 부릅니다 — 서버가 답을 한꺼번에 보내거나 나눠서 흘려보낼 수 있습니다. 주소(URL)를 주어 더합니다.
더 배우기
교차 검토
원문 표기 · Cross-review
한 에이전트가 끝낸 일을 다른 AI·사람이 확인하게 하기
교차 검토는 한 에이전트가 일하고 다른 쪽 — codex review 같은 다른 AI, 서브 에이전트, 사람 — 이 그것을 확인하는 것입니다. 놓치는 곳이 다른 두 번째 확인자가, 첫 에이전트가 되풀이하는 실수나 "다 끝났다"는 주장을 잡아냅니다. 에이전트로 일할 때의 습관이지, 교차 검증 같은 통계 방법이 아닙니다.
더 배우기
미리 학습된 가중치
원문 표기 · Pretrained weights
다른 사람이 이미 학습해 둔 모델의 숫자
미리 학습된 가중치는 누군가 이미 학습시킨 모델의 숫자를 내려받을 수 있는 파일로 공개한 것입니다. 이것에서 시작하면 처음부터 학습하는 큰 비용을 아끼고, 파인튜닝으로 내 일에 맞출 수 있습니다. 배움노바 XSLM 과정은 일부러 이것을 쓰지 않습니다 — 코드를 직접 쓰고 숫자를 모두 직접 학습시켜, 그 숫자가 어디서 오는지 보게 합니다.
더 배우기
가중치·파라미터 자세히 보기
파인튜닝·LoRA 자세히 보기
점진적 공개
원문 표기 · Progressive disclosure
처음엔 조금만, 필요할 때 더 읽는 방식
에이전트는 스킬을 점진적 공개 방식으로 세 단계에 걸쳐 읽습니다 — ① 처음에는 스킬마다 이름과 설명만, ② 일이 맞으면 SKILL.md 전체를, ③ 필요할 때만 폴더 속 스크립트와 참고 파일을 읽습니다. 그래서 스킬을 많이 설치해도 컨텍스트 창이 차지 않습니다.
더 배우기
리서치 미리보기
원문 표기 · Research preview
완성 전에 먼저 써 보도록 연 기능의 초기 단계
리서치 미리보기는 새 기능을 다 만들기 전에 사람들이 써 보고 의견을 보내도록 먼저 연 단계입니다. 나중에 바뀌거나 제한이 있거나 없어질 수 있어서, 아직 중요한 일에는 기대지 않습니다. Anthropic 은 클로드 코드의 채널 같은 기능에 이 표시를 붙입니다.
Cursor
VS Code 를 바탕으로 만든 AI 코드 편집기
Cursor 는 AI 가 들어 있는 코드 편집기로, Anysphere 라는 회사가 VS Code 를 바탕으로 만들어 화면과 확장이 낯익습니다. 입력하는 동안 코드를 제안하고, 프로젝트에 대한 질문에 답하며, 여러 파일을 한꺼번에 고치는 에이전트 모드가 있습니다. 에이전트 스킬과 AGENTS.md 도 읽습니다. (글자 입력 위치를 가리키는 커서와는 다른 말입니다.)
더 배우기
Goose
Block 이 처음 공개한 오픈소스 AI 에이전트
Goose 는 결제 회사 Block 이 처음 공개한 오픈소스 AI 에이전트로, 내 컴퓨터에서 데스크톱 앱이나 터미널로 돕니다. 여러 회사의 모델을 골라 쓰고 MCP 로 도구에 연결합니다. 에이전트 스킬도 읽습니다.
더 배우기
Kiro
명세를 먼저 쓰고 만드는 AWS 의 AI 코딩 편집기
Kiro 는 AWS(Amazon Web Services)가 만든 AI 코딩 편집기입니다. 대화와 코드를 고치는 에이전트 말고도, 에이전트가 만들기 전에 요구 사항·설계·할 일 목록을 담은 명세(spec)를 먼저 쓰도록 이끕니다. 에이전트 스킬도 읽습니다.
더 배우기
Junie
JetBrains 의 AI 코딩 에이전트
Junie 는 IntelliJ IDEA·PyCharm·PhpStorm 같은 코드 편집기를 만드는 JetBrains 의 AI 코딩 에이전트입니다. 그 편집기 안에서 일을 계획하고, 파일을 고치고, 테스트를 돌립니다. 에이전트 스킬도 읽습니다.
더 배우기
Kimi
Moonshot AI 의 AI 모델 이름(터미널 코딩 도구도 있음)
Kimi 는 중국 회사 Moonshot AI 가 만든 AI 모델과 대화 앱의 이름입니다. 일부 Kimi 모델은 가중치까지 공개되어 있습니다. Moonshot AI 는 명령줄 코딩 에이전트도 내놓아, 터미널에서 돌릴 수 있는 AI 도구 목록에 Kimi 가 함께 나옵니다.
더 배우기
가중치·파라미터 자세히 보기
Amp
Sourcegraph 에서 시작한 AI 코딩 에이전트
Amp 는 코드 검색 회사 Sourcegraph 에서 시작한 AI 코딩 에이전트입니다. 터미널과 코드 편집기에서 돌며, 클로드 코드·Codex 처럼 프로젝트를 읽고 파일을 고치고 명령을 실행합니다. 에이전트 스킬도 읽습니다.
더 배우기
OpenHands
소프트웨어 개발용 오픈소스 AI 에이전트
OpenHands(예전 이름 OpenDevin)는 소프트웨어 개발 AI 에이전트를 위한 오픈소스 플랫폼입니다. 에이전트가 샌드박스 안에서 코드를 쓰고, 명령을 실행하고, 웹을 둘러봅니다. 내 컴퓨터나 서버에 직접 설치해 쓸 수 있습니다. 에이전트 스킬도 읽습니다.
더 배우기
Roo Code
VS Code 에 넣는 오픈소스 AI 코딩 에이전트 확장
Roo Code 는 VS Code 에 AI 코딩 에이전트를 더하는 오픈소스 확장입니다. 내가 승인하면 파일을 읽고 고치고 터미널 명령을 실행하며, 어느 회사의 모델을 쓸지 내가 고릅니다. 에이전트 스킬도 읽습니다.
더 배우기
Laravel Boost
AI 에이전트가 Laravel 프로젝트를 잘 다루게 돕는 패키지
Laravel Boost 는 Laravel 팀이 AI 코딩 에이전트를 위해 만든 공식 패키지입니다. Laravel 프로젝트에 설치하면 에이전트에게 앱을 살펴보는 도구(라우트·데이터베이스 구조·로그)가 든 MCP 서버, Laravel 에 맞춘 지침, 프로젝트가 쓰는 패키지 버전의 문서 검색을 줍니다. 에이전트 스킬과도 함께 씁니다.
더 배우기
자동 미분
원문 표기 · Automatic differentiation
기울기를 라이브러리가 대신 구해 주는 기능
신경망을 학습하려면 손실에 대한 모든 가중치의 기울기가 필요합니다. 자동 미분은 계산을 하는 동안 단계마다 기록해 두었다가, 그 기록을 거꾸로 따라가며 연쇄 법칙으로 기울기를 정확히 구합니다. PyTorch 에서는 이 기능을 autograd 라고 부르며, 사람은 앞으로 가는 계산만 쓰면 됩니다.
더 배우기
가중치·파라미터 자세히 보기
편향(bias)
원문 표기 · Bias term
뉴런의 합에 더하는 숫자 — 가중치처럼 학습된다
뉴런은 입력마다 가중치를 곱해 더한 뒤 숫자 하나를 더 더하는데, 이것이 편향입니다. 편향 덕분에 입력이 모두 0 이어도 0 이 아닌 답을 낼 수 있고, 뉴런이 얼마나 쉽게 반응할지가 옮겨집니다. 편향도 파라미터라서 학습할 때 가중치와 함께 고쳐집니다.
더 배우기
가중치·파라미터 자세히 보기
정확도(accuracy)
원문 표기 · Accuracy (model)
전체 예 가운데 모델이 맞힌 비율
정확도는 맞게 예측한 수를 전체 예의 수로 나눈 값입니다. 읽기 쉽지만 한쪽 답이 훨씬 많을 때는 속을 수 있습니다 — 메일 100통 중 99통이 정상이면 늘 "정상"이라고만 답하는 모델도 99% 가 나옵니다. 그래서 정밀도·재현율을 함께 봅니다.
Agent Skills
스킬을 SKILL.md 폴더로 묶는 방법을 정한 열린 표준
Agent Skills 는 agentskills.io 에서 관리하는 열린 형식으로, 스킬을 어떻게 담는지 정합니다 — 이름과 설명을 머리말에 적은 SKILL.md 파일이 든 폴더에, 필요하면 스크립트와 참고 파일을 더합니다. 형식이 공통이라 같은 스킬 폴더를 클로드 코드·Codex 등 여러 코딩 에이전트가 함께 씁니다. 표준은 형식만 정할 뿐 스킬이 안전한지는 확인하지 않습니다.
더 배우기
마켓플레이스
원문 표기 · Marketplace
클로드 코드 플러그인을 골라 설치하는 목록
플러그인 마켓플레이스는 스킬·서브 에이전트·훅·MCP 서버를 묶은 플러그인의 목록이 든 저장소입니다. 마켓플레이스를 한 번 추가하면 그 안의 플러그인을 명령 하나로 설치하고, 팀이 같은 도구를 함께 쓰고 업데이트할 수 있습니다. 플러그인은 내 컴퓨터에서 코드를 실행할 수 있으니 믿을 수 있는 마켓플레이스만 추가합니다.
더 배우기
Stop 훅
원문 표기 · Stop hook
에이전트가 멈추려 할 때 실행되는 스크립트
Stop 훅은 에이전트가 자기 차례를 마치고 멈추려 할 때마다 클로드 코드가 실행하는 훅입니다. 스크립트는 일을 확인하고 멈춤을 막아 에이전트를 다시 일하게 할 수 있습니다. Ralph Loop 가 이렇게 만들어졌습니다 — 훅이 멈춤을 붙잡고, 완료 문구가 나오거나 한도에 닿을 때까지 같은 프롬프트를 다시 넣습니다.
더 배우기
Claude Desktop
컴퓨터에 설치하는 Claude 앱
Claude Desktop 은 macOS·Windows 용 Claude 앱입니다. 대화 말고도 내 컴퓨터의 MCP 서버에 연결해 내가 허락한 도구·파일을 Claude 가 쓰게 할 수 있고, 터미널을 열지 않고 클로드 코드·Cowork 일을 맡길 수도 있습니다. MCP 의 말로는 호스트입니다.
더 배우기
Claude Agent SDK
클로드 코드의 하네스로 나만의 에이전트를 만드는 라이브러리
Claude Agent SDK 는 클로드 코드를 움직이는 하네스 — 에이전트 루프·도구·권한·컨텍스트 관리 — 를 Python·TypeScript 라이브러리로 떼어 낸 것입니다. 이것을 쓰면 그 반복을 직접 짜지 않고도 파일을 읽고 명령을 실행하고 도구를 부르는 나만의 에이전트를 만들 수 있습니다. 옛 이름은 Claude Code SDK 입니다.
적응형 추론
원문 표기 · Adaptive thinking
걸음마다 먼저 생각할지, 얼마나 생각할지 모델이 정하는 방식
적응형 추론에서는 모델이 걸음마다 답하기 전에 생각할지, 얼마나 오래 생각할지를 스스로 정합니다 — 쉬운 걸음은 빨리, 어려운 걸음은 길게 생각합니다. 생각 토큰의 수를 정해 주는 대신 노력 수준으로 전체 양을 조절합니다 — 높이면 더 생각하고 깊이 따지며, 낮추면 더 빠르고 쌉니다. 일부 모델만 지원합니다.
생각 토큰
원문 표기 · Thinking tokens
모델이 답을 쓰기 전에 생각하는 데 쓰는 토큰
생각 토큰은 추론 모델이 답을 내기 전에 문제를 풀어 가며 쓰는 토큰입니다. 다른 토큰처럼 요금이 매겨지고 컨텍스트도 차지합니다. 생각 예산은 쓸 수 있는 생각 토큰의 상한입니다. 클로드 코드에서는 노력 수준으로 생각의 양을 조절하고, 예산이 정해진 모델에서는 MAX_THINKING_TOKENS 설정으로 상한을 정합니다.
bypassPermissions
모든 확인을 끄는 클로드 코드 권한 모드
bypassPermissions 는 클로드 코드가 전혀 묻지 않고 파일을 고치고 명령을 실행하는 권한 모드이고, --dangerously-skip-permissions 옵션으로 시작하면 이 모드가 됩니다. 잘못되거나 해로운 명령도 막는 것이 없으니, 인터넷이 막히고 망가져도 괜찮은 컨테이너나 가상 머신에서만 씁니다.
더 배우기
메모리 파일
원문 표기 · Memory file
클로드 코드가 세션마다 처음에 읽는 지시 파일
클로드 코드에서 메모리는 세션을 시작할 때마다 읽는 지시 파일 — CLAUDE.md(또는 AGENTS.md)와 자동 메모리의 메모 — 을 말합니다. 아무것도 부탁하기 전에 컨텍스트에 실리므로 첫 메시지부터 컨텍스트 창의 일부를 차지합니다. 그래서 짧게 둡니다. 이 메모리는 디스크의 글 파일이지, 컴퓨터의 RAM 이 아닙니다.
더 배우기
ultrathink
부탁에 넣으면 그 차례만 더 깊이 생각하게 하는 낱말
부탁에 ultrathink 를 넣으면 클로드 코드가 그 한 차례만 더 깊이 생각합니다 — 세션의 나머지에 쓰는 모델이나 노력 수준은 그대로입니다. 까다로운 버그나 설계 결정처럼 어려운 한 걸음에 쓰기 좋습니다. 더 생각하는 만큼 시간이 걸리고 토큰을 더 씁니다.
더 배우기
Claude in Chrome
Claude 가 내 Chrome 에서 페이지를 열고 눌러 보며 확인하게 하는 확장
Claude in Chrome 은 브라우저 확장입니다. 클로드 코드와 연결하면 Claude 가 내 Chrome 에서 직접 페이지를 열고, 클릭하고, 입력하고, 콘솔 오류를 읽으므로 코드를 고친 뒤 화면에서 결과를 스스로 확인합니다. Chrome·Edge 같은 Chromium 브라우저에서 같은 claude.ai 계정으로 로그인해 씁니다.
더 배우기
도구를 쓰기 직전에 실행되고, 그 동작을 막을 수 있는 훅
PreToolUse 는 에이전트가 도구를 쓰기 바로 전 — 파일을 고치기 전, 쉘 명령을 실행하기 전 — 에 걸리는 훅입니다. 훅 명령은 곧 일어날 일을 보고 막을 수 있습니다 — 종료 코드 2 로 끝나면 그 동작을 막고, stderr 에 쓴 이유를 에이전트에게 알려 줍니다. 위험한 명령이나 비밀 파일 편집을 막는 데 씁니다. 클로드 코드와 Codex 모두에 있습니다.
더 배우기
PostToolUse
도구를 쓴 직후에 실행되는 훅
PostToolUse 는 에이전트가 도구를 쓴 바로 뒤 — 예를 들어 파일을 고친 뒤 — 에 걸리는 훅입니다. 이미 한 동작을 되돌리지는 못하지만 뒤처리를 할 수 있어, 에이전트가 고친 파일마다 Prettier 같은 포매터를 돌리는 데 흔히 씁니다. 클로드 코드와 Codex 모두에 있습니다.
더 배우기
matcher
훅을 어느 도구에 걸지 고르는 부분
훅의 matcher 는 그 훅이 어떤 도구에 실행될지 고릅니다. 도구 이름이나 패턴으로, 쉘 명령은 Bash, 파일 고치기는 Edit|Write 처럼 씁니다. matcher 가 없으면 모든 도구마다 훅이 돌아 느려지고, 막으려던 것 말고 다른 것까지 막을 수 있습니다.
더 배우기
/clear
클로드 코드에서 대화를 비우고 새로 시작하기
/clear 를 입력하면 대화가 비워져 다음 요청이 깨끗한 컨텍스트 창에서 시작합니다. 관계없는 다른 일로 넘어갈 때 씁니다 — 지난 대화가 창을 채우거나 일을 엉뚱한 쪽으로 끌지 않습니다. 앞 세션은 저장되어 /resume 으로 다시 열 수 있습니다.
더 배우기
Esc
클로드 코드가 일하는 도중에 멈추게 하는 키
클로드 코드가 일하는 중에 Esc 를 누르면 지금 단계가 바로 멈추고 대화는 그대로 남으므로, 무엇이 틀렸는지 말하고 이어 갈 수 있습니다. Esc 를 두 번 누르면(또는 /rewind) 체크포인트 목록이 열려 대화와 코드를 앞 시점으로 되돌립니다. 틀린 계획을 끝까지 두는 것보다 일찍 멈추는 편이 쌉니다.
더 배우기
claude mcp add
터미널에서 클로드 코드에 MCP 서버를 등록합니다
claude mcp add 는 클로드 코드에 새 MCP 서버를, 그리고 그 서버가 주는 도구를 더합니다. 인터넷의 원격 서버는 --transport http 와 주소로, 내 컴퓨터에서 도는 서버는 -- 뒤에 그 서버를 켜는 명령을 적어 더합니다. claude mcp list 는 등록된 서버를 보여 주고 claude mcp remove 는 하나를 지웁니다.
더 배우기
--scope(MCP 범위)
원문 표기 · --scope (MCP)
더한 MCP 서버를 어디에 저장하고 누가 쓸지 정하는 옵션
claude mcp add 는 서버를 세 범위 중 하나에 저장합니다. 기본인 local 은 이 프로젝트에서 나만 쓰게 하고(~/.claude.json), project 는 프로젝트 맨 위의 .mcp.json 에 적어 git 으로 팀과 함께 쓰며 처음 쓸 때 승인을 묻고, user 는 내 모든 프로젝트에서 쓰게 합니다. 쉘 강좌에서 말하는 변수의 범위(scope)와는 다른 뜻입니다.
더 배우기
Shift+Tab
클로드 코드의 권한 모드를 바꾸는 단축키
클로드 코드 터미널에서 Shift+Tab 을 누르면 권한 모드가 차례로 바뀝니다 — default 는 편집·명령마다 묻고, acceptEdits 는 파일 편집을 묻지 않고, plan 은 읽기만 하며 바꾸기 전에 계획을 보여 줍니다. 큰 변경 전에 계획 모드로 바꾸면 계획을 먼저 읽고 고칠 수 있습니다. default 가 아닌 모드가 켜져 있으면 그 이름이 입력창 아래에 보입니다. v2.1.283 부터 터미널 세션은 auto 모드로 시작하므로 첫 누름이 default 로 바꾸고, 순서는 auto → default → acceptEdits → plan 입니다.
더 배우기
Anthropic
Claude 를 만드는 AI 회사
Anthropic(앤트로픽)은 2021년에 세워진 AI 연구 회사입니다. Claude 언어 모델과 클로드 코드 같은 도구를 만들고, AI 를 안전하게 만드는 연구를 발표합니다.
OpenAI
ChatGPT 와 Codex 를 만드는 AI 회사
OpenAI(오픈AI)는 2015년에 세워진 AI 연구 회사입니다. GPT 모델들과 대화 서비스 ChatGPT, 코딩 에이전트 Codex 를 만듭니다.
GPT 자세히 보기
훅 이벤트
원문 표기 · Hook event
SessionStart 처럼 훅이 실행되는 순간의 이름
훅 이벤트는 훅(내 스크립트)이 실행되는 순간의 이름입니다 — 세션이 시작할 때, 프롬프트를 보냈을 때, 도구를 실행하기 전과 뒤, Claude 가 멈출 때. 설정 파일에 이벤트와 그 순간에 실행할 명령을 적습니다.
더 배우기
스킬 설정 항목
원문 표기 · Skill setting field
allowed-tools 처럼 SKILL.md 머리말에 쓰는 클로드 코드 설정
SKILL.md 의 프런트매터에는 name·description 말고도 클로드 코드가 읽는 항목이 있습니다 — 묻지 않고 쓸 도구, 나만 실행할지, / 메뉴에 보일지. Agent Skills 를 읽는 다른 에이전트는 이 항목을 무시할 수 있습니다.
더 배우기
XChat
XSLM 과정에서 직접 만드는 챗봇
XChat 은 XSLM 과정에서 직접 만드는 작은 대화 프로그램입니다. 질문을 Runner 에 보내면 내가 학습한 GPT 가 답을 만들고, XChat 이 그 답을 보여 줍니다 — 미리 학습된 모델이나 외부 AI API 는 쓰지 않습니다.
더 배우기
GPT 자세히 보기
claude -p 실행 결과를 어떤 꼴로 출력할지 고르기
클로드 코드를 대화 화면 없이 실행할 때(`claude -p`) 무엇을 출력할지 정하는 옵션입니다. 기본값 `text` 는 답 글만, `json` 은 답(`result`)·세션 ID·예상 비용이 든 JSON 하나를, `stream-json` 은 실행하는 동안 일이 생길 때마다 JSON 한 줄씩 출력합니다. 다른 프로그램이 값을 꺼내 써야 하는 스크립트는 보통 `json` 을 고릅니다.
더 배우기
AGENTS.override.md
같은 폴더의 AGENTS.md 대신 읽히는 Codex 지침 파일
Codex 는 폴더마다 `AGENTS.override.md` 를 `AGENTS.md` 보다 먼저 찾고 한 폴더에서 파일 하나만 읽기 때문에, 이 파일이 있으면 옆의 `AGENTS.md` 는 읽지 않습니다. 함께 쓰는 지침 파일을 고치거나 지우지 않고 잠깐 다른 지침을 시험해 볼 때 쓰고, 지우면 원래 지침으로 돌아갑니다. 클로드 코드는 이 파일을 읽지 않습니다.
더 배우기
skill-creator
새 에이전트 스킬을 함께 만들어 주는 스킬
skill-creator 는 새 스킬(`SKILL.md` 가 든 폴더)을 만드는 과정을 이끌어 주는 스킬입니다. 스킬이 무엇을 하고 언제 쓰여야 하는지 묻고, 그 답으로 파일을 씁니다. Codex 에는 처음부터 들어 있어 `$skill-creator` 로 부르고, Anthropic 의 공개 skills 저장소에도 있으며 그쪽은 예시 질문으로 스킬을 시험하는 일까지 돕습니다.
더 배우기
승인 정책(approval policy)
Codex 가 명령 실행 전에 사람에게 물을지 정하는 규칙
승인 정책은 Codex 가 명령을 실행하기 전에 멈추고 사람에게 물을지를 정합니다. `--ask-for-approval`(`-a`)로 정하며, `on-request` 는 샌드박스가 허락한 일은 묻지 않고 실행하고 그 밖의 일은 묻습니다. `never` 는 묻지 않지만 샌드박스 안에서만 움직입니다. Codex 가 버전 관리 폴더에 권하는 Auto 모드는 `workspace-write` 와 `on-request` 를 합친 것이고, 예전 값 `untrusted` 는 이제 지원되지 않습니다.
더 배우기
evals.json
스킬을 시험할 질문과 기대 결과를 적은 파일
evals.json 은 스킬을 시험할 문제 목록입니다. 문제마다 사용자가 할 법한 요청과 좋은 결과가 어떤 모습인지를 적고, 같은 요청을 스킬이 있을 때와 없을 때로 실행해 비교하면 스킬이 정말 도움이 되는지 알 수 있습니다. 정해진 형식은 없고, Anthropic 의 skill-creator 는 `evals/evals.json` 에 아래 필드로 둡니다.
더 배우기
NVIDIA
AI 에 쓰이는 그래픽 칩(GPU)으로 유명한 미국 회사
NVIDIA(엔비디아)는 그래픽 카드(GPU)를 설계해 파는 미국 회사입니다. GPU 는 원래 게임 화면을 빨리 그리려고 만들었지만, AI 모델을 학습시키고 실행하는 데 필요한 엄청난 양의 계산도 잘해서 대부분의 AI 데이터 센터가 씁니다. NVIDIA 는 자기 GPU 에서 돌아가는 프로그램을 만드는 도구 모음인 CUDA 도 만듭니다.
더 배우기
Google DeepMind
알파고와 Gemini 를 만든 구글의 AI 연구 조직
Google DeepMind(구글 딥마인드)는 구글 안의 AI 연구 조직입니다. 2016년 이세돌 9단을 이긴 바둑 AI 알파고(AlphaGo)를 만들었고, 구글의 Gemini 모델을 개발합니다. 따로 쓰는 앱이 아니라 연구 조직이라, 그 결과는 Gemini 같은 구글 제품 안에서 만납니다.
더 배우기
NIST
AI 위험 관리 지침을 내는 미국 표준 기관
NIST(미국 국립표준기술연구소)는 측정 단위와 기술 표준을 정하는 미국 정부 기관입니다. AI 분야에서는 AI 시스템의 위험을 찾아 줄이는 방법을 담은 AI 위험 관리 프레임워크(AI RMF)와, 이것을 챗봇 같은 생성형 AI 에 맞춘 생성형 AI 프로필을 냅니다. 법이 아니라 스스로 따르는 지침입니다.
더 배우기
Gartner
IT 동향 보고서로 알려진 미국 조사·자문 회사
Gartner(가트너)는 기업을 조사해 정보 기술에 관한 보고서와 전망(예: 하이프 사이클 도표)을 내는 미국 조사 회사입니다. 뉴스는 기업 리더를 대상으로 한 Gartner 설문을 자주 인용합니다. 그 숫자는 조사한 회사들의 이야기이지, 모든 회사의 이야기는 아닙니다.
더 배우기
안드레이 카파시
원문 표기 · Andrej Karpathy
nanoGPT 와 언어 모델 만들기 무료 강의로 알려진 AI 연구자
안드레이 카파시(Andrej Karpathy)는 OpenAI 창립 멤버였고 Tesla 오토파일럿의 AI 를 이끈 AI 연구자입니다. nanoGPT·makemore·nanochat 같은 작고 읽기 쉬운 프로젝트와, 신경망을 처음부터 만드는 무료 영상 강의를 공개합니다. 2025년에 "바이브 코딩"이라는 말을 처음 썼습니다.
더 배우기
GPT 자세히 보기