AI 채팅 서비스는 대화를 어떻게 기억할까? - 컨텍스트 관리의 모든 것
Claude, ChatGPT 같은 AI 채팅 서비스가 이전 대화를 기억하고, 파일을 반복 수정하는 원리. 대화 내역 저장부터 컨텍스트 윈도우 관리, 파일 상태 관리까지 실무 아키텍처를 개념 중심으로 정리했다.
4개의 글
Claude, ChatGPT 같은 AI 채팅 서비스가 이전 대화를 기억하고, 파일을 반복 수정하는 원리. 대화 내역 저장부터 컨텍스트 윈도우 관리, 파일 상태 관리까지 실무 아키텍처를 개념 중심으로 정리했다.
Claude, OpenAI, Gemini 세 가지 LLM API의 토큰당 가격을 비교하고, 용도별로 어떤 모델을 선택하면 좋을지 정리한다.
LLM API로 코딩 에이전트나 대화형 AI를 만드는 핵심 원리. Tool Use, Agent Loop, 스트리밍까지 실제 구현 방법을 코드와 함께 알아본다.
GPT가 문장을 입력받아 답변을 생성하는 전체 과정을 구체적으로 살펴본다. 토큰화, Transformer 구조, 파라미터 수까지.