학습 방식책을 읽는다.이해되지 않거나 궁금한 내용을 GPT에 질문한다.책 내용과 대화 내용을 기준으로 챕터를 정리한다.정리된 내용을 다시 읽고, 직접 이해한 표현으로 수정한다.최종 내용을 GitHub에 기록한다.Chapter 01. RAG 이해하기2. RAG란 무엇인가?RAG(Retrieval-Augmented Generation) 는 사용자의 질문과 관련된 외부 정보를 검색(Retrieval)하고, 그 정보를 LLM의 Context에 추가한 뒤 답변을 생성(Generation)하는 방식이다.사용자 질문 ↓관련 외부 정보 검색 (Retrieval) ↓검색 결과를 Context로 구성 ↓LLM에 질문 + Context 전달 ↓답변 생성 (Generation)핵심은 다음 한 문장으로 정리할 수..

머신러닝을 처음 공부하면 선형회귀, 로지스틱 회귀, 의사결정트리,Random Forest, 신경망처럼 여러 모델의 이름부터 접하게 된다.그런데 모델 이름부터 외우기 시작하면 정작 중요한 질문이 남는다.머신러닝은 도대체 데이터를 가지고 무엇을 하는 걸까?이번 글에서는 가장 단순한 선형회귀의 수식에서 시작해서입력값이 많아지고, 변수 사이의 관계가 복잡해지고,결국 신경망과 딥러닝까지 이어지는 흐름을 살펴본다.다만 먼저 한 가지 범위를 정해두자.이번 글은 머신러닝 전체 중에서도정답이 있는 데이터를 이용해 새로운 결과를 예측하는 지도학습(Supervised Learning)을중심으로 설명한다.머신러닝에는 이 외에도 데이터의 구조를 찾는 비지도학습,보상을 기반으로 행동을 학습하는 강화학습 등 다양한 방식이 존재한다..

ChatGPT에 질문을 입력하면 잠시 후 자연스러운 문장으로 답변이 돌아온다. 겉으로 보면 GPT가 질문을 읽고 머릿속에서 답을 완성한 뒤 전달하는 것처럼 보인다. 하지만 생성형 언어 모델의 실제 동작은 이와 다르다.GPT 계열의 생성형 언어 모델은 입력을 토큰으로 변환하고, 앞에 놓인 토큰을 바탕으로 다음에 올 토큰의 확률을 계산한다. 선택한 토큰을 입력 뒤에 붙인 다음 같은 과정을 반복하면서 답변을 만든다.이 글의 범위이 글은 공개된 Transformer 및 GPT 논문을 바탕으로 GPT 계열 생성형 언어 모델의 일반적인 추론 과정을 설명한다. 공개된 초기 GPT는 Decoder-only Transformer를 사용했지만, GPT-5.6을 포함한 현재 상용 모델의 정확한 레이어 구성, 파라미터 수, ..

http://school.programmers.co.kr/learn/courses/30/lessons/59410 프로그래머스SW개발자를 위한 평가, 교육의 Total Solution을 제공하는 개발자 성장을 위한 베이스캠프programmers.co.kr select animal_type, ifnull(name, 'No name') as name, sex_upon_intakefrom animal_ins

https://school.programmers.co.kr/learn/courses/30/lessons/42861 프로그래머스SW개발자를 위한 평가, 교육의 Total Solution을 제공하는 개발자 성장을 위한 베이스캠프programmers.co.kr크루스칼 알고리즘을 사용해 최소 신장 트리를 만든다.모든 다리를 비용 기준으로 오름차순 정렬한다.비용이 작은 다리부터 확인한다.두 섬의 대표가 다르면 사이클이 발생하지 않으므로 연결한다.해당 다리의 비용을 minCost에 더하고 두 집합을 합친다.Union-Findfind(): 섬이 속한 집합의 대표를 찾고 경로를 압축한다.union(): 서로 다른 두 집합을 하나로 합친다.p[x] 시간복잡도다리 정렬: O(E log E)Union-Find: 약 O(E)..

https://school.programmers.co.kr/learn/courses/30/lessons/59047 프로그래머스SW개발자를 위한 평가, 교육의 Total Solution을 제공하는 개발자 성장을 위한 베이스캠프programmers.co.krselect animal_id, namefrom animal_inswhere animal_type = 'Dog' and name like '%el%'order by name asc, animal_id asc; LIKE 'el%'el로 시작el, ella, elementLIKE '%el'el로 끝남el, labelLIKE '%el%'el이 포함됨el, hello, ellaLIKE 'e%l'e로 시작하고 l로 끝남el, emailLIKE '%e%l%'e가 나..