특징 학습

기계 학습과 데이터 마이닝
패러다임 지도 학습 비지도 학습 온라인 기계 학습 메타-학습 준지도 학습 자기 지도 학습 강화 학습 규칙 기반 기계 학습 뉴로모픽 엔지니어링 양자 기계 학습
문제 분류 생성 모델 회귀 분석 클러스터 분석 차원 축 이상 탐지 데이터 정제 AutoML 연관 규칙 학습 구조 기반 예측 특징 공학 특징 학습 순위 학습 문법 유도 온톨로지 학습 멀티모덜 학습
지도 학습 (통계적 분류 • 회귀 분석) 결정 트리 학습법 앙상블 학습법 배깅 부스팅 랜덤 포레스트 최근접 이웃 탐색 k-NN 선형 회귀 나이브 베이즈 인공신경망 로지스틱 회귀 퍼셉트론 상관 벡터 머신(RVM) 서포트 벡터 머신(SVM)
클러스터 분석 BIRCH CURE 알고리즘 계층적 군집화 k-평균 알고리즘 퍼지 클러스터링 기댓값 최대화 알고리즘 DBSCAN OPTICS 평균이동
차원 축소 인자 분석 CCA 독립 성분 분석 선형 판별 분석 음수 미포함 행렬 분해 주성분 분석 t-SNE
구조화 예측 그래프 모형 베이즈 네트워크 조건부 무작위장 은닉 마르코프 모형 잠재 디리클레 할당
이상 탐지 무작위 표본 합의 k-최근접 이웃 알고리즘 국소 특이점 요인 고립 포레스트
인공 신경망 오토인코더 딥 러닝 순방향 신경망 순환 신경망 LSTM GRU 볼츠만 머신 제한된 생성적 적대 신경망 확산 모델 자기조직화 지도 합성곱 신경망 U-Net LeNet 알렉스넷 딥드림 신경 방사장 트랜스포머 비전 맘바 스파이킹 신경망 멤트렌지스터 전기화학 RAM 다층 퍼셉트론
강화 학습 Q 러닝 SARSA 시간차 학습
인간 참여학습 액티브 러닝 크라우드소싱 휴먼인더루프 RLHF
모델 진단 결정계수 혼동 행렬 러닝 커브 수신자 조작 특성
이론 커널 메소드 편향-분산 트레이드오프 계산학습이론 경험적 위험 최소화 PAC 러닝 통계적 학습이론 VC 이론
회의/저널 NeurIPS ICML ICLR ML JMLR
관련 문서 기계 학습 알고리즘 목록 기계 탈학습 지식 증류 유사도 학습 대조 학습
v t e

특징 학습(feature learning) 또는 표현 학습(representation learning)은 특징을 자동으로 추출할 수 있도록 학습하는 과정이다. 지도 학습과 비지도 학습으로 나눌 수 있다.

특징 학습은 통계적 분류와 같은 머신 러닝 과제가 수학적으로나 컴퓨터상에서 처리하기 편리한 입력을 종종 요구하기 때문에 필요하다. 그러나 특정한 특징을 알고리즘으로 정의하려는 시도는 사진, 영상, 감각 데이터와 같은 실제 세계의 데이터에 대해서는 어려움을 겪었다. 이에 대한 대안으로 명시적인 알고리즘에 의존하지 않고 이러한 특징들을 검사를 통해 발견하는 것이 제안되었다.

특징 학습에는 지도, 비지도, 자기지도 학습이 있다.

• 지도 학습은 레이블이 있는 입력값을 사용하여 특징을 학습하는 것이다. 레이블이 지정된 데이터는 입력-레이블 쌍을 포함하고 있으며 정답으로 실측 자료 레이블을 내놓아야 한다.^[1] 지도 학습은 높은 레이블 예측 정확도를 가져오는 모델로 특징 표현을 생성하는 데 활용할 수 있다. 응용의 예시로는 인공 신경망, 다층 퍼셉트론, 사전 학습이 있다.
• 비지도 학습은 레이블이 없는 데이터를 이용하여 데이터 간의 관계를 분석하는 방식으로 특징을 학습한다.^[2] 사전 학습, 독립 성분 분석, 행렬 분해,^[3] 다양한 형태의 클러스터 분석이 여기 포함된다.^[4][5][6]
• 자기지도 학습에서 특징은 비지도 학습처럼 레이블이 없는 데이터를 사용하여 학습된다. 그러나 입력-레이블 쌍은 각 데이터 지점에서 만들어져, 기울기 하강과 같은 지도 학습법을 통해 데이터 구조를 학습할 수 있게 된다.^[7] 고전적인 예시로는 워드 임베딩, 오토인코더가 있다.^[8][9] 자기지도 학습은 합성곱 신경망이나 변환기 등의 심층 신경망을 통해 많은 분야에 응용되어 왔다.^[7]

• AutoML
• 딥 러닝
• 워드 임베딩
• 벡터 양자화
• 변분 오토인코더

이 글은 컴퓨터 과학에 관한 토막글입니다. 여러분의 지식으로 알차게 문서를 완성해 갑시다.