콘텐츠로 이동

AI·머신러닝 기초

인공지능의 범위와 기본 학습 방식 분야의 검토 완료 백과 문서다.

  • 가설가설은 입력에서 출력을 예측하기 위해 학습 알고리즘이 후보로 고려하는 하나의 함수나 규칙이다.
  • 가설 공간가설 공간은 학습 알고리즘이 선택할 수 있는 모든 후보 함수나 모델의 집합이다.
  • 가우스 과정가우스 과정은 함수의 임의 유한 개 지점 값이 다변량 정규분포를 이루도록 정의한 비모수 베이즈 모델이다.
  • 강화학습에이전트가 환경과 상호작용하며 누적 보상을 높이는 행동 정책을 학습하는 방식이다.
  • 개념 드리프트개념 드리프트는 시간에 따라 입력과 목표 사이의 관계가 바뀌어 과거 데이터로 학습한 모델의 예측 규칙이 덜 맞게 되는 현상이다.
  • 거리 학습거리 학습은 같은 의미의 표본은 가깝고 다른 의미의 표본은 멀어지도록 표현 공간의 거리 함수나 임베딩을 학습하는 방법이다.
  • 검증 데이터셋검증 데이터셋은 모델 학습 중 하이퍼파라미터 선택과 조기 종료에 사용하지만 가중치 직접 학습에는 쓰지 않는 분할이다.
  • 결정 트리결정 트리는 특성 조건으로 데이터를 재귀적으로 분할해 잎에서 범주나 수치를 예측하는 비모수 지도학습 모형이다.
  • 계산지능계산지능은 신경망, 진화 계산, 퍼지 시스템처럼 적응과 근사 계산을 활용해 복잡한 문제를 푸는 접근 계열이다.
  • 계층적 군집화계층적 군집화는 데이터 집단을 단계적으로 합치거나 나누어 중첩된 군집 관계를 덴드로그램으로 표현하는 방법이다.
  • 고전적 인공지능명시적인 기호, 논리, 규칙, 탐색과 지식 표현을 중심으로 한 고전적 인공지능 연구 전통을 가리키는 표현이다.
  • 공짜 점심 없음 정리공짜 점심 없음 정리는 모든 가능한 문제 분포를 평균하면 어떤 학습 알고리즘도 다른 알고리즘보다 항상 우월할 수 없다는 결과다.
  • 과소적합과소적합은 모델이 학습 데이터의 주요 구조조차 충분히 표현하거나 최적화하지 못해 학습과 평가 오차가 모두 큰 상태다.
  • 과적합과적합은 모델이 학습 데이터의 우연한 세부와 잡음까지 맞춰 새 데이터에서 성능이 떨어지는 상태다.
  • 군집화군집화는 정답 레이블 없이 유사한 데이터가 같은 집단에 모이도록 구조를 찾는 비지도학습 과제다.
  • 귀납적 편향귀납적 편향은 관찰하지 않은 사례로 일반화할 때 일부 가설을 다른 가설보다 선호하게 하는 가정이다.
  • 그래디언트 부스팅그래디언트 부스팅은 이전 앙상블의 손실을 줄이는 방향으로 약한 예측기를 순차적으로 추가하는 지도학습 방법이다.
  • 기호주의 인공지능지식을 기호와 명시적 규칙으로 표현하고 탐색·추론 절차를 적용해 결론이나 행동을 도출하는 인공지능 접근법이다.

  • 나이브 베이즈 분류기나이브 베이즈 분류기는 클래스가 주어졌을 때 특성들이 조건부 독립이라고 가정해 사후확률을 계산하는 확률 분류기다.
  • 능동학습능동학습은 모델이 라벨을 받으면 가장 도움이 될 표본을 선택하고 사람이나 오라클에 질의하는 학습 방식이다.

  • 다양체 학습다양체 학습은 고차원 관측이 더 낮은 차원의 비선형 구조 위에 놓인다는 가정 아래 그 내재 좌표를 찾는 방법군이다.
  • 다중 과제 학습다중 과제 학습은 관련된 여러 과제를 하나의 모델 또는 공유 표현으로 동시에 학습해 일반화를 높이는 방법이다.
  • 대조학습대조학습은 관련된 표본 쌍과 관련 없는 표본을 구분하도록 표현을 학습하는 자기지도 또는 지도 학습 방법이다.
  • 데이터 누수데이터 누수는 예측 시점에 사용할 수 없는 정보나 평가 대상의 정보가 학습 과정에 들어가 성능을 과대평가하게 하는 오류다.
  • 데이터 분포데이터 분포는 가능한 관측값과 레이블이 나타날 확률 구조를 설명하는 개념이다.
  • 데이터 전처리데이터 전처리는 원시 데이터를 학습과 평가에 적합한 형식·척도·품질로 변환하는 단계다.
  • 데이터셋특정 분석이나 학습 목적에 맞춰 구조화하고 관리하는 데이터의 모음이다.
  • 독립 성분 분석독립 성분 분석은 관측된 혼합 신호를 통계적으로 가능한 한 독립적인 잠재 성분의 선형 결합으로 분해하는 방법이다.
  • 딥러닝여러 처리 층을 가진 신경망이 데이터에서 단계적인 표현을 학습하도록 훈련하는 머신러닝 접근이다.

  • 랜덤 포레스트랜덤 포레스트는 부트스트랩 표본과 무작위 특성 부분집합으로 학습한 여러 결정 트리의 예측을 결합하는 앙상블이다.
  • 레이블레이블은 지도학습에서 입력 표본에 대응해 제공되는 정답 범주, 값 또는 구조화된 목표 표시다.
  • 로지스틱 회귀로지스틱 회귀는 특성의 선형 결합을 로짓으로 사용해 범주, 특히 이진 사건의 조건부 확률을 추정하는 분류 모형이다.

  • 마르코프 확률장마르코프 확률장은 무방향 그래프로 변수 사이의 국소 상호작용과 조건부 독립을 표현하는 확률 모델이다.
  • 머신러닝명시적으로 모든 규칙을 작성하지 않고 데이터에서 패턴을 학습해 예측이나 결정을 수행하는 인공지능의 한 분야다.
  • 머신러닝 파이프라인머신러닝 파이프라인은 데이터 수집·검증·변환·학습·평가·배포 단계를 재현 가능한 의존 그래프로 연결한 작업 흐름이다.
  • 메타학습메타학습은 여러 학습 과제의 경험을 이용해 새로운 과제를 적은 데이터와 계산으로 빠르게 학습하는 방법을 배우는 접근이다.
  • 모델입력을 출력으로 변환하도록 데이터에서 학습된 수학적 함수와 파라미터의 집합이다.
  • 모델 용량모델 용량은 주어진 구조와 파라미터가 표현하거나 구분할 수 있는 함수·패턴의 복잡성 범위다.
  • 목표 변수목표 변수는 모델이 입력 특성으로부터 예측하도록 정의된 결과 변수 또는 출력량이다.

  • 배깅배깅은 학습 데이터를 복원 추출한 여러 표본 집합에서 모델을 독립적으로 학습해 예측을 평균 또는 투표하는 앙상블 기법이다.
  • 배치 학습배치 학습은 일정 시점에 모은 고정 데이터 묶음으로 모델을 학습하고 다음 재학습 전까지 파라미터를 유지하는 방식이다.
  • 범용 인공지능범용 인공지능은 서로 다른 영역의 지식과 기술을 폭넓게 습득하고 새로운 과제에 전이할 수 있다고 가정되는 일반 목적 AI 개념이다.
  • 베이즈 네트워크베이즈 네트워크는 방향성 비순환 그래프로 변수의 조건부 의존 관계를 표현하는 확률 그래프 모델이다.
  • 베이즈 학습베이즈 학습은 모수나 가설의 사전분포를 데이터의 가능도와 결합해 사후분포로 갱신하는 학습 방식이다.
  • 부스팅부스팅은 약한 학습기를 순차적으로 추가하면서 이전 단계가 어려워한 표본이나 잔차에 더 집중하는 앙상블 계열이다.
  • 분류분류는 입력을 미리 정의된 하나 이상의 범주로 예측하는 지도학습 문제다.
  • 분리 표현분리 표현은 데이터의 서로 다른 생성 요인이 잠재 표현의 독립적이거나 해석 가능한 성분에 대응하도록 만든 표현이다.
  • 분포 외 데이터분포 외 데이터는 학습 또는 검증 분포의 지원 범위와 충분히 다른 입력이라 모델 성능 보장이 약한 데이터다.
  • 분포 이동분포 이동은 운영 데이터의 입력·표적 또는 두 변수의 관계가 학습 데이터 분포와 달라진 상태다.
  • 불확실성 정량화불확실성 정량화는 모델 입력, 파라미터와 구조의 불확실성이 예측에 미치는 영향을 수치로 추정하는 과정이다.
  • 비지도학습정답 표지 없이 데이터 내부의 구조·군집·표현을 찾는 학습 방식이다.

  • 생성 모델과 판별 모델생성 모델과 판별 모델은 각각 데이터와 표적의 결합 구조를 모델링하는 접근과 입력에서 표적의 경계나 조건부분포를 직접 학습하는 접근이다.
  • 생성형 인공지능학습 데이터의 분포를 바탕으로 텍스트·이미지·음성·코드 같은 새로운 결과물을 생성하는 인공지능이다.
  • 서포트 벡터 머신서포트 벡터 머신은 클래스 사이 여백을 최대화하는 결정 경계 또는 커널 공간의 회귀 함수를 학습하는 모델이다.
  • 선형 회귀선형 회귀는 목표값을 입력 특성의 가중합과 절편으로 표현해 연속값을 추정하는 회귀 모형이다.

  • 알고리즘문제를 해결하기 위해 입력을 처리하는 유한하고 명확한 절차다.
  • 앙상블 학습앙상블 학습은 여러 예측 모델의 출력을 결합해 단일 모델보다 일반화 성능이나 안정성을 높이는 방법이다.
  • 약인공지능협의 인공지능은 정해진 과제나 제한된 운영 범위에서 지능적 기능을 수행하도록 설계된 AI 시스템이다.
  • 연결주의인지와 지능이 많은 단순 처리 단위의 연결과 상호작용에서 나타난다고 보는 계산적 접근이다.
  • 예측예측은 학습된 모델이 관측된 입력에 대해 미지의 값, 범주 또는 미래 결과의 추정치를 산출하는 과정이다.
  • 오토인코더오토인코더는 입력을 잠재 표현으로 압축하는 인코더와 그 표현에서 입력을 복원하는 디코더를 함께 학습하는 신경망이다.
  • 온라인 학습온라인 학습은 데이터가 순차적으로 도착할 때 각 관측을 이용해 모델을 지속적으로 갱신하는 학습 설정이다.
  • 은닉 마르코프 모델은닉 마르코프 모델은 관측되지 않는 상태가 마르코프 연쇄를 이루고 각 상태가 관측값을 생성하는 시계열 확률 모델이다.
  • 의사결정 시스템의사결정 시스템은 관측과 예측을 목표·제약·비용 규칙에 결합해 가능한 행동 중 하나를 선택하는 시스템이다.
  • 이상 탐지이상 탐지는 정상 데이터의 분포나 구조에서 드물게 벗어난 관측을 식별하는 문제다.
  • 인공지능컴퓨터 시스템이 지각·추론·학습·행동과 같은 지능적 과제를 수행하도록 만드는 연구와 기술의 총칭이다.
  • 인공지능 겨울인공지능 겨울은 과도한 기대 뒤 연구 성과와 사업 가치가 기대에 미치지 못해 투자와 관심이 크게 줄어든 역사적 시기를 가리킨다.
  • 인공지능 생명주기AI 생애주기는 문제 정의와 데이터 준비부터 모델 개발·평가·배포·운영·폐기까지 AI 시스템이 거치는 연결된 단계다.
  • 인공지능 시스템AI 시스템은 입력으로부터 추론해 예측·콘텐츠·추천·결정 같은 출력을 생성하고 환경에 영향을 미치는 기계 기반 시스템이다.
  • 일반화일반화는 학습에 직접 사용하지 않은 같은 목표 분포의 사례에서도 모델이 유용한 성능을 유지하는 능력이다.

  • 자기지도학습데이터 자체에서 학습 목표를 만들어 대규모 비표지 데이터로 표현을 익히는 방식이다.
  • 잠재 표현잠재 표현은 관측 데이터가 저차원 또는 숨은 요인 공간으로 변환된 내부 표현이다.
  • 전문가 시스템전문가 시스템은 특정 분야의 지식을 규칙이나 사실로 표현하고 추론 엔진으로 결론이나 권고를 도출하는 인공지능 시스템이다.
  • 전이학습전이학습은 한 데이터나 과제에서 얻은 표현과 파라미터를 관련된 다른 과제의 학습에 활용하는 방법이다.
  • 제로샷 학습제로샷 학습은 목표 클래스나 과제의 직접 학습 예시 없이 설명·속성·사전학습 지식을 이용해 예측하는 설정이다.
  • 주성분 분석주성분 분석은 데이터 분산을 많이 설명하는 서로 직교한 축으로 고차원 관측을 선형 투영하는 차원 축소 방법이다.
  • 준지도학습준지도학습은 소량의 라벨 데이터와 더 많은 비라벨 데이터를 함께 사용해 예측 모델을 학습하는 방식이다.
  • 지도학습입력과 정답이 함께 있는 데이터로 입력에서 정답으로의 관계를 학습하는 방식이다.
  • 지속학습지속학습은 데이터나 과제가 시간에 따라 도착할 때 기존 능력을 유지하면서 새 지식을 순차적으로 학습하는 설정이다.

  • 차원 축소차원 축소는 데이터의 중요한 구조를 보존하면서 변수나 표현 좌표의 수를 줄이는 과정이다.
  • 최대 사후 확률 추정최대 사후 확률 추정은 관측 데이터가 주어졌을 때 사후확률이 가장 큰 모수 값을 선택하는 추정 방법이다.
  • 추천 시스템추천 시스템은 사용자와 항목의 정보 및 상호작용을 이용해 관련성이 높은 항목을 선택·정렬하는 정보 필터링 시스템이다.

  • 커리큘럼 학습커리큘럼 학습은 학습 예시의 제시 순서를 난이도나 정보량에 따라 계획해 최적화 과정을 돕는 방법이다.

  • 테스트 데이터셋테스트 데이터셋은 모델과 설정 선택이 끝난 뒤 일반화 성능을 최종 추정하기 위해 남겨 둔 독립 데이터 분할이다.
  • 튜링 테스트튜링 테스트는 텍스트 대화에서 심사자가 기계와 사람을 신뢰성 있게 구분할 수 있는지로 기계의 언어적 모방 능력을 평가하는 사고실험이다.
  • 특성특성은 예측이나 분석에 사용하도록 관측 대상을 수치·범주·벡터 등으로 표현한 입력 변수다.
  • 특성 공학특성 공학은 원시 관측에서 예측에 유용한 입력 변수를 선택·변환·조합하는 과정이다.
  • 특성 학습특성 학습은 과제에 필요한 입력 변환과 특징을 사람이 고정하지 않고 데이터와 목적 함수로부터 학습하는 과정이다.

  • 파운데이션 모델파운데이션 모델은 광범위한 데이터로 대규모 사전학습한 뒤 여러 하위 과제와 응용에 적응할 수 있는 범용 모델이다.
  • 편향-분산 절충편향-분산 절충은 모델의 단순화로 생기는 체계적 오차와 학습 표본 변화에 민감한 오차 사이의 관계다.
  • 표현학습표현학습은 원시 데이터에서 예측과 전이에 유용한 특징 표현을 모델이 자동으로 학습하는 방법이다.
  • 퓨샷 학습퓨샷 학습은 과제마다 소수의 레이블 예시만 주어진 상황에서 유용한 예측 규칙을 학습하는 문제 설정이다.

  • 학습 데이터모델이 파라미터를 조정하며 패턴을 배우는 데 사용하는 예시와 기록의 집합이다.
  • 학습·검증·테스트 분할학습·검증·테스트 분할은 모델 적합, 설정 선택, 최종 평가에 사용할 데이터를 서로 겹치지 않게 나누는 절차다.
  • 확률 그래프 모델확률 그래프 모델은 확률변수를 노드로, 조건부 의존이나 상호작용을 간선으로 나타내 결합분포를 분해하는 모델이다.
  • 확률 모델확률 모델은 관측값과 숨은 변수의 불확실성을 확률분포로 표현하는 수학적 모델이다.
  • 회귀회귀는 입력 변수로부터 연속값이나 순서 있는 수치 목표의 조건부 경향을 추정하는 지도학습 문제다.
  • 희소 부호화희소 부호화는 각 관측을 소수의 활성 원자만 사용하는 사전 벡터의 선형 결합으로 표현하는 방법이다.

K

  • K-최근접 이웃K-최근접 이웃은 새 입력과 가장 가까운 k개 학습 표본의 라벨이나 값을 이용하는 비모수 예측 방법이다.
  • K-평균 군집화K-평균 군집화는 각 점을 가장 가까운 중심에 배정하고 군집 내 제곱거리를 줄이도록 K개 중심을 반복 갱신하는 알고리즘이다.