전체 글 27

[선형대수학]

고려대학교 컴퓨터학과 주재걸 교수님의 인공지능을 위한 선형대수학 강의를 듣고 정리한 내용입니다 SVD를 공부하면서 특히 도움이 되었던 부분은 topic modeling과의 연결이었다.강의에서는 SVD를 단순한 행렬 분해 기법으로만 설명하는 것이 아니라, 실제 머신러닝 문제에서 어떻게 활용되는지도 함께 설명해주었다. 특히 low-rank approximation과 dimension reduction 개념이 topic modeling과 연결된다는 점이 인상적이었다.현재 다른 프로젝트에서 topic modeling을 활용하려고 하고 있기 때문에, 이번 학습을 통해 topic modeling 내부에서도 similarity matrix, 차원 축소, 잠재 의미 공간(latent space)과 같은 여러 선형대수 ..

synapse 2026.05.31

[선형대수학] Least Squares Normal Equation

고려대학교 컴퓨터학과 주재걸 교수님의 인공지능을 위한 선형대수학 강의를 듣고 정리한 내용입니다 Least Squares와 그 기하하적 의미 + 정규방정식 1. 문제 설정 Overdetermined system 식 개수 > 미지수 개수 → Ax = b 정확히 만족 불가능 따라서 Ax ≈ b 형태로 근사해를 구함 목표 x_hat = argmin ||b - Ax||^2 2. 정규방정식 유도 ||b - Ax||^2 = (b - Ax)^T (b - Ax) 전개 = b^T b - x^T A^T b - b^T A x + x^T A^T A x 정리 b^T A x = x^T A^T b → b^T b - 2 x^T A^T b + x^T A^T A x x에 대해 미분 -2 A^T b + 2 A^T A x = 0 정리 ..

synapse 2026.04.06

[기초 세션 복습] 생성형 AI와 LLM, RAG, AGENT까지

2026년 3월 30일 synapse 기초 세션 복습 과제입니다 1. 생성형 AI기존 데이터 재현 X→ 패턴과 구조를 학습하여 새로운 데이터 생성 생성형 AI는 라벨 없이도 학습이 가능하다→ 입력 데이터가 정답 역할을 하기 때문 학습 단계 + 생성 단계→ 구조와 패턴을 학습하고 이를 바탕으로 잠재 변수를 활용하여 새로운 데이터를 생성 잠재 변수를 활용하여 데이터를 생성하는 모델 예시Generative Adversarial Networks (GANs) Variational Autoencoders (VAEs) 확산 모델 (Diffusion Model) 자귀회귀 모델→ 이전 데이터를 바탕으로 다음 데이터를 하나씩 생성 따라서 생성형 AI는 데이터에 매우 강하게 의존하고 데이터에 따라 모델의 성능과 결과가..

synapse 2026.04.06

[기초 세션 복습] Transformer와 Attention

2026년 3월 30일 synapse 기초 세션 복습 과제입니다 1. 시퀀스 모델 개요순서가 있는 데이터 처리 모델앞의 정보가 뒤에 영향을 줌 2. RNN → LSTM → Seq2Seq RNN순차적으로 정보 처리LSTM장기 의존성 문제 해결기억 유지 가능 Seq2Seq (Sequence to Sequence) Encoder → Decoder 구조하나의 벡터(context vector)에 모든 정보를 압축 → 정보 손실 발생 (특히 문장이 길어질수록 심각) 3. Attention 등장 배경기존 문제 장기 의존성 문제 정보 손실 문제 4. Attention 핵심 개념모든 정보를 하나로 압축하지 않음필요한 부분만 선택적으로 참고→ 입력 전체를 참고하지만 중요도에 따라 다르게 반영 5. Atte..

synapse 2026.04.06

[기초 세션 복습] NLP 기초: 단어를 숫자로 (Embedding & RNN)

2026년 3월 30일 synapse 기초 세션 복습 과제입니다 1. Embedding벡터화 [텍스트 → 숫자] One-Hot Encodingex.I [0] → [1, 0, 0]am [1] → [0, 1, 0]happy [2] → [0, 0, 1]→ 희소 표현단어 수 증가 시 0이 무한대로 증가한다의미 결여 → 단어 간 유사도 계산 어렵다 Word Embedding단어 → dense vector 의미를 반영한다 → 비슷한 의미를 가졌다면 벡터 공간에서 가까운 위치에 존재한다 ex. 강아지[1, 0, 0, 0, ....] → [0.2, 0.7, 0.4, 0.1....] 2. Word2VecCBOW주변 단어를 통해 중심 단어를 예측→ 맥락을 통해 파악 ex. I __ to the school. Sk..

synapse 2026.04.05