본문 바로가기
  • 適者生存

WorkOut44

LG Aimers | Linear Regression (선형 회귀) 📌 Linear regression (Multidimension)2차원일 때 1차원과의 차이점  (키, 손 크기) vs. 몸무게 $x= (x_1,x_2)$               $x \in \mathcal{X} = \mathbb{R}^2, y \in \mathcal{Y} = \mathbb{R}$ Input : 키와 손 사이즈 2개의 입력Output : 몸무게Model Class : \mathcal{G} = {g_{a1, a2, b}(x) = a_1x_1 + a_2x_2 + b}$$\theta = (a_1, a_2, b)$ , 3개 순서쌍 찾기 Loss Function$l(g_\theta(x^{(i)}), y^{(i)})$   =   $(g_\theta(x^{(i)}) - y^{(i)})^2$   =.. 2024. 7. 25.
LG Aimers | Supervised Learning (지도학습) 📌 Supervised Learning 어떤 문제와 그에 대한 정답이 있을 때 문제와 정답 쌍을 다양하게 제공하는 형태로 학습 진행▶ Image Classification, Text Classification, Next Word Prediction, Translation, Price Prediction 등   Supervised Learning  Data : $x \in X$ usually a vector (대부분 다차원 벡터)Label : $y \in Y$ (카테고리, 실숫값 등)▶ Unsupervised Learning 과의 가장 큰 차이점 Dataset$(x^{(1)}, y^{1}), (x^{2}, y^{2}), ... (x^{n}, y^{n})$   Image Classification Inpu.. 2024. 7. 24.
LG Aimers | LLM (Large Language Models; 초거대 언어모델) 📌 LLM 모델 발전 상황 GPT - 3 (Generative Pre-trained Transformer)Open AI 모델General-purpose algorithm (일반 인공지능)▶ 요약, 번역 등 정해진 Task만 수행하는 Model이 아닌 언어 이해 & 생성 관련 모든 질문에 응답1750억 Parameter로 이루어진 초거대 언어 모델 언어 이해는 잘 했으나 사용자의 지시를 잘 따르지 못 함 InstructGPT언어 이해가 잘되는 GPT-3를 활용해서 사람의 지시를 유용하게 & 안전하게 응답 생성 RLHF (Reinforcement Learning from Human Feedback) ▶ 사람의 피드백으로 강화학습  ➕ RLAIF 도 있음  사람의 지시 이행을 위해 1) 특정 질문에 대한 응.. 2024. 7. 24.
LG Aimers | Overfitting & Underfitting (머신러닝 과대적합 & 과소적합) 📌 Bias & Variance (편향과 분산) 기계학습의 정의 학습 Data 개수 N개 $ S = {(x_i,y_i)}^N_{i=1}$,               $x \in \mathbb{R}^D, y \in$ {-1,+1} ▶ x는 input, y는 Desired Output▶ x는 Multi Dimension인 Vector 형태▶ y는 Binary Classification (-1/+1)  Model Class(=Hyper Class) 정의 필요  $h(x|w,b) = w^T x + b$ (Linear model) ▶ 모델 형식에 따라 내부에 Parameter 존재 🔎 Parameter값이 결정되지 않고 Training Data의 학습을 통해 결정되는 것    🔎  Parameter Esti.. 2024. 7. 23.
LG Aimers | Machine Learning 개론 ✅ Machine Learning (ML) 인공지능의 한 분야로 Data로부터 개선되는 알고리즘을 설계하고 개발하는 분야   ✅ Artificial Intelligence (AI)사람의 손으로 인간과 유사한 지능을 만드는 분야  ▶ machine learning, computer vision, 자연어 처리, Robotics 등 포함    ✅ Deep Learning  기계학습 中 계층이 많은 신경망을 쓰는 분야딥러닝 역시 기계학습의 한 분야이며 특정 모델(신경망)을 사용하는 분야 ➕ Tom Mitchell's definition기계학습은 컴퓨터 프로그램을 다루는 것이며, E & P & T로 정의할 수 있음 T : Task (수행할 작업)P : Performance Measure (성능지표)E : Expe.. 2024. 7. 22.

티스토리툴바