콘텐츠로 이동

API·SDK·도구 호출

모델을 소프트웨어와 연결하는 인터페이스 분야의 검토 완료 백과 문서다.

  • 경로 매개변수경로 매개변수는 URL 경로의 일부를 변수로 사용해 특정 자원이나 계층을 식별하는 API 입력이다.
  • 교차 사이트 요청 위조교차 사이트 요청 위조는 로그인된 사용자의 브라우저가 공격자 의도대로 다른 사이트에 상태 변경 요청을 보내게 하는 공격이다.
  • 교차 출처 자원 공유교차 출처 자원 공유는 서버가 브라우저의 동일 출처 정책을 선택적으로 완화하도록 허용 출처와 요청 조건을 HTTP 헤더로 알리는 메커니즘이다.
  • 구조화 출력모델 출력을 미리 정의한 JSON 스키마나 데이터 구조에 맞추는 기능이다.

  • 도구 결과도구 결과는 외부 기능 실행 뒤 에이전트에 반환되는 데이터, 상태, 오류와 부작용 정보다.
  • 도구 선택 제어도구 선택 제어은 현재 요청에서 모델이 사용할 수 있는 도구를 허용·금지하거나 특정 도구 사용을 강제하는 제어다.
  • 도구 오류도구 오류는 에이전트나 API 호출이 형식, 권한, 네트워크, 실행 로직 등의 이유로 정상 결과를 반환하지 못한 상태다.
  • 도구 인수도구 인수는 선택된 도구 호출에 전달되는 구조화된 입력 값의 집합이다.
  • 도구 정의도구 정의는 에이전트가 호출할 수 있는 기능의 이름, 목적, 입력 스키마, 권한과 부작용을 기술한 계약이다.
  • 도구 호출모델이 정해진 함수 스키마를 선택하고 인수를 생성해 외부 기능 실행을 요청하는 방식이다.
  • 도메인 이름 시스템도메인 이름 시스템(DNS)은 사람이 읽는 도메인 이름을 IP 주소와 여러 자원 레코드에 연결하는 분산 계층형 데이터베이스다.
  • 동기 클라이언트동기 클라이언트는 원격 요청이 완료될 때까지 호출 스레드나 작업의 진행을 기다리게 하는 API 사용 방식이다.
  • 동기 API 요청동기 API 요청은 클라이언트가 요청을 보낸 연결에서 처리가 끝날 때까지 기다린 뒤 최종 응답을 받는 상호작용 방식이다.
  • 동시성 한도동시성 한도는 한 주체나 서비스에서 같은 시점에 실행될 수 있는 요청·작업 수를 제한하는 운영 정책이다.

  • 리키 버킷리키 버킷은 들어오는 요청을 유한 큐에 담고 거의 일정한 속도로 내보내 출력 트래픽을 평탄화하는 알고리즘이다.

  • 멱등성 키멱등성 키는 같은 쓰기 요청의 재전송을 서버가 동일한 논리 작업으로 식별해 중복 부작용을 막도록 하는 클라이언트 제공 식별자다.
  • 명령줄 API 클라이언트명령줄 API 클라이언트는 터미널 명령과 옵션으로 원격 API 요청을 만들고 결과를 표준 출력이나 파일로 제공하는 도구다.
  • 무상태 API무상태 API는 각 요청이 처리에 필요한 문맥을 자체적으로 포함하고 서버가 이전 요청의 세션 상태에 의존하지 않는 API다.
  • 문법 제약 생성문법 제약 생성은 출력이 지정된 문법이나 구조 스키마를 벗어나지 않도록 다음 토큰 후보를 제한하는 디코딩 방식이다.

  • 배치 API배치 API는 즉시 응답이 필요하지 않은 다수의 모델 요청을 묶어 비동기적으로 처리하는 인터페이스다.
  • 베어러 토큰베어러 토큰은 토큰을 제시한 주체가 별도의 소유 증명 없이 그 토큰에 부여된 접근 권한을 행사하는 자격 증명이다.
  • 병렬 도구 호출병렬 도구 호출은 서로 의존하지 않는 여러 도구 요청을 동시에 실행해 전체 대기 시간을 줄이는 방식이다.
  • 비동기 클라이언트비동기 클라이언트는 원격 요청의 완료를 미래값, 프로미스, 콜백 또는 이벤트로 받아 대기 중에도 다른 작업을 수행하는 방식이다.
  • 비동기 API 작업비동기 API 작업은 요청 접수와 실제 처리를 분리하고 작업 식별자로 진행 상태와 결과를 나중에 조회하는 API 실행 방식이다.
  • 비밀정보 관리비밀정보 관리는 API 키, 비밀번호와 암호키의 생성·저장·배포·사용·교체·폐기를 통제하는 수명주기 활동이다.

  • 사용량 계측사용량 계측은 API 요청이 소비한 호출 수, 토큰, 바이트, 시간과 연산 자원을 귀속 가능한 측정값으로 기록하는 과정이다.
  • 상태 유지 API상태 유지 API는 여러 요청 사이의 세션·대화·작업 상태를 서버 측 식별자와 연결해 이어서 처리하는 API다.
  • 상호 TLS상호 TLS는 TLS 연결에서 서버뿐 아니라 클라이언트도 인증서를 제시해 양쪽 신원을 검증하는 인증 방식이다.
  • 서버 전송 이벤트서버 전송 이벤트는 하나의 HTTP 연결에서 서버가 텍스트 이벤트를 클라이언트로 지속적으로 밀어 보내는 단방향 스트리밍 방식이다.
  • 서버 측 요청 위조서버 측 요청 위조는 공격자가 서버의 URL 요청 기능을 조작해 내부망이나 허용되지 않은 외부 대상에 요청하게 하는 취약점이다.
  • 서비스 수준 협약서비스 수준 협약은 제공자와 이용자 사이에 가용성·지연·지원·보상 같은 측정 가능한 서비스 약속을 정한 합의다.
  • 스키마 검증스키마 검증은 입력이나 출력 데이터가 선언된 구조·자료형·제약을 만족하는지 실행 전에 확인하는 절차다.
  • 스트리밍 응답전체 결과가 완성되기 전에 생성된 일부 데이터를 순차적으로 전송하는 방식이다.
  • 스트리밍 응답 계약스트리밍 응답 계약은 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • 스트림 재개 프로토콜스트림 재개 프로토콜은 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • 실시간 API실시간 API는 음성·텍스트·이벤트를 지속적인 양방향 연결에서 낮은 지연으로 주고받는 모델 인터페이스다.

  • 역직렬화역직렬화는 전송되거나 저장된 표현을 애플리케이션이 다룰 수 있는 객체와 자료형으로 복원하는 과정이다.
  • 오디오 API오디오 API는 음성 인식, 번역, 합성 등 오디오 입력과 출력을 모델 서비스로 요청하는 인터페이스다.
  • 요청 서명요청 서명은 HTTP 요청의 선택된 구성 요소를 개인키나 공유키로 서명해 발신자와 전송 중 무결성을 확인하는 방식이다.
  • 요청 인터셉터요청 인터셉터는 API 요청이 전송되기 전이나 처리기에 도달하기 전에 공통 로직을 적용하는 가로채기 계층이다.
  • 요청 조절요청 조절은 서비스 보호와 공정한 사용을 위해 요청 처리 속도나 동시 실행량을 의도적으로 낮추는 제어다.
  • 요청 한도일정 시간 동안 허용하는 요청이나 토큰 사용량을 제한하는 정책이다.
  • 요청-응답 패턴요청-응답 패턴은 클라이언트가 작업을 기술한 메시지를 보내고 서버가 그 요청과 대응되는 결과 메시지를 반환하는 통신 구조다.
  • 응답 검증응답 검증은 외부 API나 모델 출력이 합의된 스키마와 의미 제약을 만족하는지 소비 전에 확인하는 절차다.
  • 이미지 생성 API이미지 생성 API는 자연어 지시와 선택적 참조 이미지를 받아 새 이미지 또는 편집 결과를 생성하는 인터페이스다.
  • 임베딩 API임베딩 API는 텍스트나 다른 입력을 의미 비교와 검색에 사용할 수 있는 고정 길이 수치 벡터로 변환하는 인터페이스다.

  • 자격 증명 순환자격 증명 순환은 비밀번호, 키와 토큰을 정기적이거나 사건 기반으로 새 값으로 교체하고 이전 값을 폐기하는 절차다.
  • 재시도 정책재시도 정책은 일시적 실패가 발생한 요청을 언제, 몇 번, 어떤 조건에서 다시 시도할지 정한 규칙이다.
  • 전송 계층 보안전송 계층 보안(TLS)은 통신 상대 인증, 키 합의와 암호화된 레코드 전송을 제공하는 보안 프로토콜이다.
  • 전송 제어 프로토콜전송 제어 프로토콜은 인터넷에서 두 종단 사이에 신뢰성 있는 순서화 바이트 스트림을 제공하는 전송 계층 프로토콜이다.
  • 지수 백오프지수 백오프는 반복 실패할수록 재시도 사이의 대기 시간을 지수적으로 늘려 서비스 부담과 충돌을 줄이는 제어 방식이다.
  • 직렬화직렬화는 메모리의 객체나 구조화된 값을 저장·전송 가능한 바이트 또는 텍스트 표현으로 바꾸는 과정이다.
  • 질의 매개변수질의 매개변수는 URI의 물음표 뒤에 이름과 값으로 전달되어 필터, 정렬, 페이지 이동이나 선택 옵션을 표현한다.

  • 채팅 API채팅 API는 시스템·사용자·도우미 등 역할이 지정된 메시지 배열을 모델 입력으로 전달하는 대화형 API 형식이다.
  • 최소 권한최소 권한은 주체가 작업에 필요한 최소 범위와 최소 기간의 권한만 갖도록 하는 보안 원칙이다.
  • 출력 파서출력 파서는 모델이나 서비스가 반환한 문자열 또는 바이트를 애플리케이션이 사용하는 구조화된 값으로 변환하는 구성 요소다.

  • 컴플리션 API컴플리션 API는 하나의 텍스트 문맥을 입력받아 그 뒤에 이어질 토큰 시퀀스를 생성하도록 요청하는 모델 API 형식이다.
  • 콘텐츠 유형Content-Type은 HTTP 메시지 본문의 매체 유형과 문자 집합 같은 표현 정보를 알리는 헤더 필드다.
  • 콘텐츠 조정 API콘텐츠 조정 API는 입력 콘텐츠가 안전 정책의 위험 범주에 해당하는지 분류하고 관련 점수를 제공하는 인터페이스다.
  • 클라이언트 라이브러리클라이언트 라이브러리는 특정 서비스의 요청 생성, 인증, 전송, 응답 처리를 프로그래밍 언어의 함수와 객체로 감싼 소프트웨어다.
  • 클라이언트 미들웨어클라이언트 미들웨어는 API 요청 전후의 공통 처리를 호출 체인에 삽입하는 확장 계층이다.

  • 토큰 버킷토큰 버킷은 일정 속도로 채워지는 토큰을 요청이 소비하게 해 평균 속도를 제한하면서 짧은 버스트를 허용하는 제어 알고리즘이다.
  • 통합 응답 API통합 응답 API는 텍스트·이미지·도구 호출 같은 여러 입력과 출력 유형을 하나의 응답 객체와 이벤트 모델로 다루는 API 형식이다.
  • 통합 자원 식별자통합 자원 식별자(URI)는 자원을 식별하기 위한 문자열 문법의 총칭이며 URL과 URN 같은 식별 방식을 포괄한다.
  • 통합 자원 위치 지정자통합 자원 위치 지정자(URL)는 자원의 위치와 접근 방법을 함께 나타내는 URI의 한 유형이다.

  • 파일 업로드 API파일 업로드 API는 바이너리 파일과 메타데이터를 서버에 전달해 저장·분석·변환 작업의 입력으로 등록하는 인터페이스다.

  • 함수 호출함수 호출은 모델이 자연어 답 대신 미리 정의된 함수 이름과 구조화된 인수를 선택해 외부 실행을 요청하는 인터페이스 패턴이다.
  • 형식 지정 응답형식 지정 응답은 모델이나 API의 결과를 자유 텍스트가 아니라 명시된 필드와 자료형을 가진 응답 객체로 제공하는 방식이다.
  • 환경 변수 비밀정보환경 변수 비밀정보는 자격 증명을 코드나 설정 파일 대신 프로세스 환경 변수로 주입하는 배포 방식이다.

A

  • API소프트웨어 구성 요소가 정해진 규약으로 기능과 데이터를 요청·교환하는 인터페이스다.
  • API 감사 로그API 감사 로그는 누가 언제 어떤 API 자원에 어떤 작업을 요청했고 결과가 무엇이었는지를 보안·책임 추적 목적으로 기록한 사건 원장이다.
  • API 공급자 추상화API 공급자 추상화는 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 데이터 보유API 데이터 보유는 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 래퍼API 래퍼는 원시 API 호출을 특정 업무에 맞는 더 단순하거나 안정적인 함수와 객체로 감싸는 계층이다.
  • API 로깅API 로깅은 요청 수명주기의 식별자, 결과, 지연시간과 오류를 구조화된 사건으로 남기는 관측 활동이다.
  • API 리전 라우팅API 리전 라우팅은 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 배치 계약API 배치 계약은 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 버전 고정API 버전 고정은 클라이언트가 호출할 API 계약의 특정 버전을 명시해 서버의 변경으로 동작이 예기치 않게 달라지는 것을 막는 방식이다.
  • API 버전 관리API 버전 관리는 인터페이스 계약의 변경을 식별 가능한 버전으로 구분해 기존 클라이언트와 새 기능의 공존을 제어하는 절차다.
  • API 버전 협상API 버전 협상은 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 부분 실패API 부분 실패는 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 비밀 키 교체API 비밀 키 교체는 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 비용 추적API 비용 추적은 측정된 사용량에 시점별 가격과 할인·예산 규칙을 적용해 요청·프로젝트·조직별 비용을 계산하는 활동이다.
  • API 스키마 진화API 스키마 진화는 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 엔드포인트API 엔드포인트는 특정 기능이나 자원에 접근하도록 서버가 공개한 네트워크 주소와 요청 계약의 결합이다.
  • API 오류 모델API 오류 모델은 실패를 기계가 처리할 수 있는 코드·상태·메시지·세부 정보·재시도 의미로 표현하는 일관된 계약이다.
  • API 오류 엔벨로프API 오류 엔벨로프는 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 요청 제한 예산API 요청 제한 예산은 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 요청 중복 제거API 요청 중복 제거는 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 재시도 예산API 재시도 예산은 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 적합성 테스트 스위트API 적합성 테스트 스위트는 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 지원 종료API 지원 종료는 기존 기능을 즉시 제거하지 않고 사용 중단 예정과 대체 경로, 종료 시점을 공지하는 수명주기 단계다.
  • API 클라이언트API 클라이언트는 원격 인터페이스의 엔드포인트를 호출하고 요청 수명주기를 관리하는 애플리케이션 구성 요소다.
  • API 클라이언트 관측성API 클라이언트 관측성은 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 키API 요청의 프로젝트나 사용자를 식별하고 권한을 확인하는 비밀 문자열이다.
  • API 타임아웃 예산API 타임아웃 예산은 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 페이지네이션API 페이지네이션은 큰 결과 집합을 제한된 크기의 여러 응답으로 나누고 다음 부분을 탐색할 위치 정보를 제공하는 방식이다.
  • API 하위 호환성API 하위 호환성은 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 할당량API 할당량은 사용자·조직·키가 일정 기간에 소비할 수 있는 요청 수, 토큰, 연산량 또는 비용의 상한이다.
  • API 할당량 배분API 할당량 배분은 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • API 형식 생성API 형식 생성은 기계 판독 가능한 API 명세에서 요청·응답 자료형과 클라이언트 인터페이스 코드를 만드는 작업이다.
  • API 회로 차단기 정책API 회로 차단기 정책은 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.

H

  • HMAC 인증HMAC 인증은 공유 비밀키와 해시 기반 메시지 인증 코드를 사용해 요청의 무결성과 발신자 지식을 확인하는 방식이다.
  • HTTP 429HTTP 429는 클라이언트가 일정 시간에 너무 많은 요청을 보내 서버가 처리를 거부했음을 나타내는 상태 코드다.
  • HTTP 메서드HTTP 요청이 대상 자원에 대해 수행하려는 의미를 나타내며 안전성·멱등성·캐시 가능성 같은 프로토콜 속성을 정의하는 토큰이다.
  • HTTP 메시지 본문HTTP 메시지에서 헤더 뒤에 전달되는 선택적 콘텐츠로, 요청 데이터나 응답 표현을 운반한다.
  • HTTP 상태 코드HTTP 응답의 결과 의미를 세 자리 숫자로 표현하는 표준 코드이며 첫 자리는 정보·성공·리디렉션·클라이언트 오류·서버 오류 계열을 나타낸다.
  • HTTP 요청클라이언트가 서버에 메서드·주소·헤더·본문을 보내는 메시지다.
  • HTTP 응답서버가 HTTP 요청의 처리 결과를 상태 코드·필드·선택적 콘텐츠로 전달하는 메시지다.
  • HTTP 헤더HTTP 요청과 응답의 의미, 표현 형식, 인증, 캐시와 연결 처리에 관한 메타데이터를 필드 이름과 값으로 전달하는 부분이다.
  • HTTPSHTTPS는 HTTP 메시지를 전송 계층 보안(TLS) 연결 위에서 교환해 기밀성, 무결성과 서버 인증을 제공하는 방식이다.

J

  • JSON키-값과 배열 구조로 데이터를 표현하는 경량 텍스트 형식이다.
  • JSON 스키마JSON 스키마는 JSON 인스턴스가 만족해야 할 자료형, 필수 속성, 값 범위와 조합 규칙을 선언하는 표준 어휘다.
  • JSON 웹 토큰JSON 웹 토큰은 JSON 주장 집합을 점으로 구분된 URL 안전 문자열에 담고 서명하거나 암호화할 수 있는 토큰 형식이다.

L

  • LLM API 멱등성LLM API 멱등성은 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • LLM API 페이지 나누기LLM API 페이지 나누기는 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • LLM 웹훅 서명LLM 웹훅 서명은 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.
  • LLM 웹훅 재전송 방어LLM 웹훅 재전송 방어는 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.

M

  • MIME 유형MIME 유형은 데이터의 매체 형식과 선택적 세부 형식을 type/subtype 형태로 식별하는 표준 표지다.

O

  • OAuthOAuth는 사용자의 비밀번호를 애플리케이션에 넘기지 않고 제한된 자원 접근 권한을 위임하기 위한 권한 부여 프레임워크다.
  • OAuth 범위OAuth 범위는 접근 토큰이 허용하는 자원과 작업의 경계를 문자열 식별자로 표현한 권한 단위다.
  • OpenAPI 명세OpenAPI 명세는 HTTP API의 경로, 연산, 매개변수, 요청·응답 스키마와 보안 방식을 기술하는 표준화된 문서 형식이다.

R

  • REST APIREST의 제약과 균일한 인터페이스를 적용해 자원의 표현을 주고받도록 설계한 웹 API 방식이다.

S

  • SDK특정 플랫폼이나 API를 쉽게 사용하도록 제공하는 라이브러리·도구·문서의 묶음이다.
  • SSE 복구SSE 복구는 LLM 서비스의 클라이언·게이트웨이·공급자 간 API 계약 계층에서 입력·판단·관측·복구 조건을 일관된 형식으로 관리하기 위한 운영 설계 개념이다.