모델·서비스 생태계

모델 공개와 배포 생태계의 기본 개념 분야의 검토 완료 백과 문서다.

ㄱㄷㄹㅁㅂㅅㅇㅈㅊㅋㅌㅍㅎACIJKLMNOPRSTW

ㄱ

• 가속기 메모리 계층가속기 메모리 계층은 레지스터, 온칩 공유 메모리·캐시, 고대역폭 장치 메모리와 호스트 메모리로 이어지는 저장 단계다.
• 가속기 인터커넥트가속기 인터커넥트는 GPU·NPU 같은 가속기 사이에서 텐서와 동기화 정보를 고속으로 전달하는 연결 기술이다.
• 개방형 신경망 교환 형식개방형 신경망 교환 형식은 서로 다른 프레임워크와 런타임 사이에서 모델 그래프와 가중치를 전달하기 위한 ONNX 표준이다.
• 계산 비용계산 비용은 AI 작업이 소비한 프로세서 시간, 메모리, 저장소, 네트워크와 에너지에 가격을 적용한 총 자원 비용이다.
• 관리형 추론 플랫폼관리형 추론 플랫폼은 클라우드나 서비스 제공자가 인프라 운영을 맡고 사용자가 모델 배포와 호출에 집중하게 하는 호스팅 서비스다.
• 그래픽 처리 장치그래픽 처리 장치는 많은 연산 코어와 높은 메모리 대역폭으로 병렬 행렬·벡터 계산을 수행하는 프로세서다.

ㄷ

• 대화형 노트북대화형 노트북은 코드, 실행 결과, 설명과 시각화를 셀 단위 문서에 함께 기록하는 계산 환경이다.
• 대화형 모델 데모대화형 모델 데모는 사용자가 입력을 바꾸고 모델 출력을 즉시 관찰하며 기능과 한계를 탐색하는 실행 가능한 인터페이스다.
• 데이터 버전 관리데이터 버전 관리는 학습·평가 데이터의 내용과 계보를 코드 버전처럼 식별하고 재현 가능하게 추적하는 실천이다.
• 데이터셋 라이브러리데이터셋 라이브러리는 학습·평가 자료의 발견, 버전 관리, 변환, 스트리밍과 배치 접근을 표준화하는 도구다.
• 데이터셋 이용 조건데이터셋 이용 조건은 데이터 수집물의 접근, 연구·상업 사용, 재배포, 개인정보와 표시 의무를 정한 계약 또는 정책이다.
• 데이터셋 허브데이터셋 허브는 데이터셋의 파일, 메타데이터, 버전, 사용 조건과 처리 코드를 공유·검색하는 플랫폼이다.

ㄹ

• 라이선스 호환성라이선스 호환성은 서로 다른 라이선스의 저작물이나 아티팩트를 결합·재배포할 때 의무가 충돌하지 않는 성질이다.

ㅁ

• 머신러닝 프레임워크머신러닝 프레임워크는 모델 정의, 자동 미분, 최적화, 데이터 처리와 장치 실행을 통합 제공하는 개발 기반이다.
• 모델 가중치 파일학습 과정에서 갱신된 신경망 파라미터 텐서를 저장한 파일 또는 파일 집합이다.
• 모델 검색모델 검색은 과제·입력 양식·라이선스·크기·평가 결과 같은 조건으로 사용할 모델 후보를 찾고 비교하는 과정이다.
• 모델 계보모델이 어떤 데이터, 코드, 구성, 학습 실행, 평가와 상위 아티팩트에서 만들어졌는지를 연결한 계보 정보다.
• 모델 라이선스모델 가중치·코드 등 배포물의 사용·수정·재배포 조건을 정한 법적 약정이다. 일부 약정은 출력과 파생 모델의 이용 조건도 별도로 규정한다.
• 모델 레지스트리학습된 모델 버전과 메타데이터·검증 상태·배포 참조를 중앙에서 추적하고 관리하는 수명주기 시스템이다.
• 모델 롤백문제가 있는 모델 변경을 중단하고 이전에 검증된 모델·구성·데이터 처리 상태로 되돌리는 복구 절차다.
• 모델 메타데이터모델 메타데이터는 모델의 제작자·버전·과제·입출력·학습 데이터·라이선스·평가 결과를 설명하는 구조화된 정보다.
• 모델 모니터링 플랫폼모델 모니터링 플랫폼은 배포된 모델의 입력, 예측, 지연시간, 오류와 품질 변화를 지속 관찰하는 시스템이다.
• 모델 배포모델 배포는 검증된 모델 아티팩트를 실제 요청이나 배치 작업이 사용할 수 있는 실행 환경에 제공하는 과정이다.
• 모델 버전가중치·구조·전처리·토크나이저·설정과 평가 기록의 특정 조합을 식별하고 재현·비교·롤백하기 위한 불변 참조 단위다.
• 모델 범용재화화모델 범용재화화는 비슷한 용도의 AI 모델이 널리 공급되고 교체 가능성이 높아지며 차별화와 가격 프리미엄이 줄어드는 시장 과정이다.
• 모델 서빙 플랫폼모델 서빙 플랫폼은 모델 아티팩트를 버전된 추론 엔드포인트로 배포하고 확장·관측·수명주기를 관리하는 기반 시스템이다.
• 모델 아티팩트 형식모델 구조와 파라미터 또는 관련 메타데이터를 파일로 표현하기 위한 직렬화 규약과 컨테이너 형식이다.
• 모델 업데이트운영 중인 모델이나 그 구성 요소를 새로운 버전으로 교체해 성능, 안전성, 비용 또는 호환성을 개선하는 변경이다.
• 모델 저장소모델 저장소는 모델 코드, 설정, 가중치와 설명 문서를 버전별로 보관하고 배포하는 저장 공간이다.
• 모델 출시검증된 모델 버전과 관련 아티팩트를 정해진 사용자 또는 환경에서 사용할 수 있도록 승인하고 배포 가능한 상태로 발표하는 과정이다.
• 모델 카탈로그조직이나 플랫폼이 보유한 모델을 검색하고 소유권, 상태, 용도와 관련 아티팩트를 확인할 수 있게 정리한 관리 목록이다.
• 모델 컬렉션모델 컬렉션은 공통 과제·프로젝트·계열·주제에 속한 여러 모델과 관련 자료를 하나의 탐색 단위로 묶은 목록이다.
• 모델 탐색모델 탐색은 과제, 입력 양식, 성능, 라이선스와 운영 제약을 기준으로 사용할 모델 후보를 찾고 비교하는 과정이다.
• 모델 패키지모델을 로드하고 재현하거나 배포하는 데 필요한 가중치, 구성, 전처리 자산과 메타데이터를 묶은 배포 단위다.
• 모델 평가 보고서모델을 어떤 데이터와 절차, 지표로 평가했고 어떤 한계와 승인 결론을 얻었는지 기록한 검토 산출물이다.
• 모델 폐기모델의 사용과 지원을 계획적으로 종료하고 대체 경로, 기록 보존과 접근 차단을 수행하는 수명주기 단계다.
• 모델 허브모델·데이터셋·데모·평가 정보를 검색하고 배포하는 공유 플랫폼이다.
• 모바일 모델 배포모바일 모델 배포는 스마트폰 운영체제와 전용 가속기에서 모델을 실행하도록 패키징하고 앱 수명주기에 통합하는 과정이다.

ㅂ

• 벤치마크 레지스트리벤치마크 레지스트리는 평가 과제의 데이터 버전·지표·실행 규칙·결과를 검색 가능하게 관리하는 카탈로그다.

ㅅ

• 상업적 이용 제한상업적 이용 제한은 수익 활동, 유료 서비스 또는 기업 내부 운영 등 일정한 경제적 사용을 금지하거나 별도 허가 대상으로 두는 조건이다.
• 소스 공개 모델소스 공개 모델은 코드나 일부 구성 요소를 열람할 수 있지만 오픈소스가 요구하는 사용·수정·재배포 권리가 제한될 수 있는 모델이다.
• 소프트웨어·데이터·모델 라이선스 구분소프트웨어·데이터·모델 라이선스 구분은 코드, 학습 자료, 가중치와 출력물에 적용되는 권리·의무의 대상을 분리해 해석하는 원칙이다.
• 신경망 처리 장치신경망 처리 장치는 모바일·엣지·시스템온칩 환경에서 신경망 추론 연산을 전담하는 저전력 가속 장치다.
• 실험 대시보드실험 대시보드는 여러 학습 실행의 매개변수, 지표와 산출물을 조회·비교하는 시각적 운영 화면이다.
• 실험 추적실험 추적은 학습 실행의 코드 버전, 하이퍼파라미터, 지표, 산출물과 환경을 연결해 비교 가능하게 기록하는 체계다.

ㅇ

• 아티팩트 레지스트리아티팩트 레지스트리는 모델·컨테이너·데이터 패키지 같은 빌드 산출물을 식별자와 버전으로 관리하는 서비스다.
• 엣지 모델 배포엣지 모델 배포는 데이터가 생성되는 장치나 가까운 게이트웨이에 모델을 설치해 로컬에서 추론하는 방식이다.
• 엣지 AI엣지 AI는 데이터가 생성되는 단말이나 가까운 게이트웨이에서 모델 추론 또는 일부 학습을 수행하는 방식이다.
• 연구 전용 라이선스연구 전용 라이선스는 평가와 비상업 연구 같은 목적만 허용하고 제품 운영이나 상업적 이용을 제한하는 사용 조건이다.
• 오픈 웨이트 모델오픈 웨이트 모델은 학습된 파라미터가 공개되어 내려받아 추론하거나 추가 학습할 수 있는 모델이다.
• 오픈소스 모델사용·연구·수정·공유의 자유를 보장하고, 모델을 수정하는 데 필요한 코드·파라미터·데이터 정보를 제공하는 AI 모델 또는 시스템이다.
• 오픈소스 AI 정의오픈소스 AI 정의는 AI 시스템을 연구·사용·수정·공유할 수 있으려면 어떤 형태의 코드, 데이터 정보와 파라미터가 제공되어야 하는지 설명하는 기준이다.
• 온프레미스 AI온프레미스 AI는 조직이 직접 통제하는 시설과 인프라에서 모델·데이터·추론 서비스를 운영하는 배포 형태다.

ㅈ

• 재현 가능한 모델 빌드재현 가능한 모델 빌드는 같은 소스, 데이터 식별자와 환경에서 의미상 동일한 모델 아티팩트를 다시 만들 수 있는 성질이다.
• 저작자 표시 의무저작자 표시 의무는 아티팩트를 사용하거나 배포할 때 원저작자, 출처와 라이선스 고지를 유지하도록 요구하는 조건이다.

ㅊ

• 책임 있는 AI 라이선스책임 있는 AI 라이선스는 모델 사용 권한에 특정 위해 행위, 감시, 차별 또는 불법 목적 금지 조건을 결합한 라이선스 유형이다.
• 추론 경제성추론 경제성은 배포된 모델의 요청당 비용과 품질·지연시간·처리량 사이의 운영적 관계를 분석하는 관점이다.

ㅋ

• 카피레프트 라이선스카피레프트 라이선스는 프로그램 또는 일정한 파생물을 배포할 때 같은 자유를 유지하도록 소스 제공과 동일 조건 적용을 요구한다.
• 컨테이너화 모델컨테이너화 모델은 모델 파일과 추론 코드 및 시스템 의존성을 컨테이너 이미지로 묶어 실행 환경을 고정한 배포 단위다.
• 컴퓨트 클러스터컴퓨트 클러스터는 여러 서버를 네트워크로 연결해 하나의 대규모 작업이나 다수 작업의 자원을 공동 제공하는 시스템이다.
• 클라우드 AI 서비스클라우드 AI 서비스는 원격 인프라에서 모델 학습·추론·데이터 처리·모델 관리를 사용량 기반으로 제공하는 관리형 서비스다.

ㅌ

• 텐서 라이브러리텐서 라이브러리는 다차원 배열과 그 위의 수치 연산, 장치 이동, 자동 미분 기능을 제공하는 소프트웨어 계층이다.
• 텐서 처리 장치텐서 처리 장치는 신경망의 행렬 곱과 텐서 연산을 높은 처리량과 에너지 효율로 수행하도록 설계된 전용 가속기다.
• 특성 저장소피처 스토어는 모델 입력 특성의 정의, 계산, 저장과 온라인·오프라인 제공을 일관되게 관리하는 시스템이다.

ㅍ

• 파생 모델파생 모델은 기존 모델의 가중치, 구조 또는 출력 지식을 이용해 미세조정·병합·증류 등으로 만들어진 후속 모델이다.
• 패키지 레지스트리패키지 레지스트리는 라이브러리와 실행 패키지를 이름·버전·의존성 메타데이터와 함께 배포하는 서비스다.

ㅎ

• 학습 비용학습 비용은 데이터 준비부터 분산 학습, 실험 반복과 체크포인트 저장까지 모델을 만드는 데 든 직접·간접 비용이다.
• 허용적 라이선스허용적 라이선스는 저작권 고지와 면책 같은 최소 조건을 지키면 수정과 재배포를 폭넓게 허용하는 라이선스 계열이다.

A

• AI 가속기AI 가속기는 신경망 학습이나 추론의 핵심 연산을 범용 프로세서보다 빠르고 효율적으로 처리하도록 특화된 하드웨어의 총칭이다.
• AI 공급망AI 공급망은 데이터·모델·코드·가속기·클라우드·배포 서비스가 최종 AI 시스템에 이르는 의존 관계와 공급 주체의 연쇄다.
• AI 데이터센터AI 데이터센터는 대규모 모델 학습과 추론을 위해 가속기, 고대역폭 네트워크, 저장소와 냉각·전력 설비를 통합한 시설이다.
• AI 물 발자국AI 물 발자국은 AI 계산을 위한 데이터센터 냉각과 전력 생산, 하드웨어 공급망에서 소비·취수되는 물의 양과 지역 영향을 나타낸 지표다.
• AI 상호운용성 표준AI 상호운용성 표준은 서로 다른 모델 형식, 런타임, 데이터·메타데이터 시스템이 의미를 보존하며 교환되도록 정한 공통 계약이다.
• AI 에너지 소비AI 에너지 소비는 모델 학습·추론과 이를 지원하는 저장·네트워크·냉각 인프라가 일정 기간 사용한 에너지량이다.
• AI 총소유비용AI 총소유비용은 AI 시스템을 도입해 운영하고 폐기하기까지 발생하는 자본·사용·인력·데이터·위험 비용의 전체 합이다.
• AI 칩 가용성AI 칩 가용성은 필요한 종류와 수량의 가속기를 목표 지역·시점·가격에 조달하고 사용할 수 있는 정도다.
• AI 탄소 발자국AI 탄소 발자국은 AI 시스템의 전력 사용과 하드웨어 생애주기에서 발생한 온실가스 배출량을 이산화탄소환산량으로 나타낸 값이다.
• AI용 쿠버네티스AI용 쿠버네티스는 컨테이너화한 학습·추론 작업을 쿠버네티스의 스케줄링과 선언적 제어로 운영하는 방식이다.

C

• CUDACUDA는 NVIDIA GPU에서 병렬 커널을 작성·컴파일·실행하고 메모리와 라이브러리를 관리하는 프로그래밍 플랫폼이다.

I

• IEEE AI 표준IEEE AI 표준은 인공지능 시스템의 윤리, 투명성, 데이터, 평가와 기술 상호운용성을 다루는 IEEE 표준 묶음이다.
• InfiniBandInfiniBand는 원격 직접 메모리 접근과 낮은 지연의 메시지 전송을 지원하는 스위치 패브릭 네트워크 규격이다.
• ISO/IEC JTC 1/SC 42ISO/IEC JTC 1/SC 42는 인공지능 분야의 국제 표준화를 담당하는 ISO와 IEC 공동 기술위원회 산하 분과다.

J

• JAXJAX는 NumPy와 유사한 배열 API에 자동 미분, 벡터화, 병렬화와 XLA 기반 컴파일 변환을 결합한 수치 계산 라이브러리다.

K

• KerasKeras는 신경망 층, 모델, 학습 루프를 고수준 API로 조립하고 여러 계산 백엔드에서 실행할 수 있게 하는 라이브러리다.

L

• Linux Foundation AI & DataLinux Foundation AI & Data는 개방형 인공지능과 데이터 프로젝트의 중립적 거버넌스·협업·생태계 지원을 제공하는 재단 조직이다.
• LLMOpsLLMOps는 대규모 언어 모델 애플리케이션의 프롬프트, 검색, 평가, 모델 버전과 운영 위험을 관리하는 수명주기 실천이다.

M

• ML 파이프라인 오케스트레이터ML 파이프라인 오케스트레이터는 데이터 준비, 학습, 평가와 배포 작업의 의존성과 실행 상태를 관리하는 시스템이다.
• MLCommonsMLCommons는 머신러닝 벤치마크, 데이터셋과 모범 사례를 공동 개발하는 산업·학계 컨소시엄이다.
• MLflowMLflow는 머신러닝 실험, 실행 기록, 모델 패키징과 등록을 위한 오픈소스 수명주기 도구 모음이다.
• MLOpsMLOps는 머신러닝 시스템의 개발, 검증, 배포와 운영을 자동화하고 재현 가능하게 만드는 공학적 실천이다.

N

• NIST AI 프로그램NIST AI 프로그램은 신뢰할 수 있는 인공지능의 측정, 표준, 위험 관리와 기술 연구를 추진하는 미국 국립표준기술연구소의 활동군이다.
• NVLinkNVLink는 NVIDIA 프로세서와 가속기 사이에 높은 대역폭과 직접 메모리 접근 경로를 제공하는 전용 인터커넥트 계열이다.

O

• OECD AI 원칙OECD AI 원칙은 포용적 성장, 인간 중심 가치, 투명성, 견고성, 책임성을 중심으로 신뢰할 수 있는 AI 정책 방향을 제시하는 정부 간 권고다.

P

• Partnership on AIPartnership on AI는 산업계·시민사회·학계가 AI의 책임 있는 개발과 사용에 관한 연구와 실무 지침을 공동으로 만드는 비영리 협력체다.
• PyTorchPyTorch는 동적 텐서 연산, 자동 미분, 신경망 모듈과 분산 학습 도구를 제공하는 오픈소스 머신러닝 프레임워크다.

R

• ROCmROCm은 AMD GPU에서 계산 커널, 수학 라이브러리, 컴파일러와 분산 통신을 제공하는 개방형 소프트웨어 플랫폼이다.

S

• SafeTensorsSafeTensors는 텐서 메타데이터와 원시 바이트를 분리해 저장하고 임의 코드 실행을 피하도록 설계된 모델 가중치 형식이다.

T

• TensorFlowTensorFlow는 텐서 계산, 자동 미분, 모델 학습·서빙·배포 도구를 제공하는 오픈소스 머신러닝 플랫폼이다.
• Transformers 라이브러리Transformers 라이브러리는 사전학습된 트랜스포머 모델, 토크나이저, 설정과 학습·추론 유틸리티를 공통 API로 제공한다.

W

• W3C 웹 머신러닝W3C 웹 머신러닝은 브라우저와 웹 애플리케이션에서 장치의 신경망 가속 기능을 이식성 있게 사용하도록 표준 API를 정의하는 활동이다.