시스템적 위험 범용 AI 모델 General-Purpose AI Model with Systemic Risk
GPAI with Systemic Risk · AI Act Article 51
시스템적 위험 범용 AI 모델은 고영향 역량이나 위원회 지정으로 EU 차원의 광범위한 위험을 낳을 수 있어 추가 의무가 적용되는 GPAI 모델이다.
개념과 원리
섹션 제목: “개념과 원리”개요와 핵심 정의
섹션 제목: “개요와 핵심 정의”시스템적 위험 범용 AI 모델은 고영향 역량이나 위원회 지정으로 EU 차원의 광범위한 위험을 낳을 수 있어 추가 의무가 적용되는 GPAI 모델이다.
EU AI Act Articles 51~55와 최신 GPAI 지침을 기준으로 한다. 현재 법정 추정 계산량 기준은 10^25 FLOP이지만 위원회가 기준을 검토할 수 있으므로 모델 판정에는 당시 공식 기준과 지정 결정을 기록한다.
‘시스템적 위험 범용 AI 모델(General-Purpose AI Model with Systemic Risk)’를 검토할 때는 먼저 관할, 적용 시점, 규율 대상과 조직의 역할을 고정한다. 법률 본문, 시행령·위임 규정, 감독기관 지침은 법적 효력과 갱신 주기가 다르므로 한 문장에 섞지 않는다. 이 문서는 2026년 8월 30일 현재의 공식 자료를 바탕으로 한 학습 정보이며 개별 사건의 법률 의견을 대신하지 않는다.
적용 범위와 판단 경계
섹션 제목: “적용 범위와 판단 경계”제공자는 기준 충족 예상·인지 후 정해진 기간 안에 위원회에 통지하고 모델 평가, 적대적 시험, 시스템적 위험 평가·완화, 심각한 사고 추적·보고와 충분한 사이버보안을 수행한다. 계산량은 추정 기준이지 유일한 실제 위험 지표가 아니다.
EU AI Act Articles 51~55와 최신 GPAI 지침을 기준으로 한다. 현재 법정 추정 계산량 기준은 10^25 FLOP이지만 위원회가 기준을 검토할 수 있으므로 모델 판정에는 당시 공식 기준과 지정 결정을 기록한다.
판정표에는 시스템 또는 모델의 의도된 목적, 시장과 이용자 위치, 제공자·개발자·배포자·이용사업자의 실제 행위, 영향받는 사람과 적용 예외를 각각 적는다. 이름이나 계약상 호칭만으로 역할을 정하지 않고 누가 설계·출시·통제·사용하는지 증거로 확인한다. 적용 제외 결론에도 근거 조문, 사실 전제, 검토자와 재검토 조건을 남긴다.
의무와 준수 절차
섹션 제목: “의무와 준수 절차”학습 계획 단계에서 계산량과 역량 신호를 모니터링하고 임계 접근 시 통지 책임자를 가동한다. 위험 분류, 독립 평가, 레드팀, 완화, 모델 출시 조건, 사고 보고와 보안 프레임워크를 수명주기 게이트에 연결한다.
실행 가능한 준수 계획은 요구사항, 책임자, 기술·조직 통제, 산출 증거, 승인자, 완료 기한과 잔여 위험을 한 행에 연결한다. 공급망에서 필요한 정보가 다른 조직에 있으면 계약과 인터페이스에 제공 시점·형식·정확성·변경 통지를 명시한다. 출시 게이트는 문서 존재만 확인하지 않고 정상·경계·실패 사례에서 통제가 실제로 작동하는지 시험한다.
증거와 기록 관리
섹션 제목: “증거와 기록 관리”연산량 산정, 통지·재평가 요청, 평가·레드팀 결과, 시스템적 위험 모델, 완화 전후 근거, 사고 보고, 사이버보안 통제와 외부 평가 교신을 보존한다. 모델 파생·수정 계보도 함께 추적한다.
증거에는 생성 시점, 대상 버전, 소유자, 출처, 승인 상태와 보존 기간을 붙인다. 법률·지침 버전, 제품 요구사항, 데이터·모델 계보, 시험 결과, 사람 검토와 예외를 연결하면 감독기관 질의나 사고 조사에서 당시 판단을 재구성할 수 있다. 개인정보와 영업비밀은 최소 수집·권한 분리·만료 정책을 적용하되, 삭제가 법정 보존이나 조사 의무와 충돌하는 경우 승인 절차를 둔다.
활용과 검증
섹션 제목: “활용과 검증”한계와 흔한 오해
섹션 제목: “한계와 흔한 오해”10^25 FLOP 미만이 안전을 뜻하지 않고 초과가 곧 배포 금지를 뜻하지 않는다. 특정 응용의 고위험 시스템 분류와 GPAI 모델의 시스템적 위험 분류는 서로 다른 층이다. 기준이 검토 중인 경우 고정 수치를 영구 규칙처럼 표기하지 않는다.
동일한 기능도 관할, 의도된 목적, 영향의 중대성, 조직 역할과 시행 시점에 따라 결론이 달라질 수 있다. 자가진단 도구, 국제 표준, 자발적 강령과 인증은 유용한 증거지만 최신 법률의 모든 요건을 자동 충족시키는 면책 수단이 아니다. 불명확한 경우에는 가장 보수적인 임시 통제를 적용하고 공식 확인이나 전문 검토가 끝날 때까지 고위험 기능을 확대하지 않는다.
실무 감사와 재검토
섹션 제목: “실무 감사와 재검토”독립적으로 계산량과 통지 시점을 재계산하고 위험 평가가 모델의 최신 역량·배포 범위와 일치하는지 본다. 새 평가에서 임계 역량, 사고 또는 광범위한 사용이 확인되면 위험 시나리오와 완화를 즉시 갱신한다.
- 기준 고정: 관할, 통합 조문·지침 버전과 적용 날짜를 기록한다.
- 역할·범위 판정: 시스템 목적, 시장, 이용자, 공급망 행위와 예외를 매핑한다.
- 통제 연결: 의무별 책임자, 기술·조직 조치, 시험과 증거를 지정한다.
- 반례 시험: 금지·경계·오용·사고 시나리오에서 통제와 에스컬레이션을 실행한다.
- 운영 확인: 실제 로그·민원·변경·사고가 평가 가정과 일치하는지 표본 추적한다.
- 변경 관리: 법령, 목적, 데이터, 모델, 조직 역할 또는 시장이 바뀌면 판정을 다시 승인한다.
감사 결과는 통과·실패만 기록하지 않고 확인하지 못한 정보, 임시 가정, 잔여 위험과 다음 검토 날짜를 포함한다. 긴급 조치는 서비스 제한·사람 승인·롤백 중 무엇을 언제 실행할지 미리 정한다.
선수 개념과 관련 개념
섹션 제목: “선수 개념과 관련 개념”먼저 읽을 문서
섹션 제목: “먼저 읽을 문서”- EU 범용 AI 모델 제공자 의무: 법적 범위와 통제를 이해하기 위한 선수 개념이다.
- AI 위험 평가: 법적 범위와 통제를 이해하기 위한 선수 개념이다.
함께 비교할 문서
섹션 제목: “함께 비교할 문서”- EU 범용 AI 실천강령: 관할·역할·수명주기 단계가 다른 인접 개념이다.
- 파국적 AI 위험: 관할·역할·수명주기 단계가 다른 인접 개념이다.
- AI 사고 보고: 관할·역할·수명주기 단계가 다른 인접 개념이다.
선수 관계는 개념 이해의 순서이고 관련 관계는 같은 사례를 다른 규칙이나 통제에서 보는 연결이다. 한국의 고영향 인공지능과 EU의 고위험 AI, GPAI 모델 의무와 특정 시스템 의무처럼 번역이 비슷해도 구성요건과 적용 대상이 다른 개념은 별도 문서로 대조한다.
학습 체크
섹션 제목: “학습 체크”- 시스템적 위험 범용 AI 모델의 관할, 적용 시점, 대상 주체와 대상 시스템을 구분해 설명할 수 있는가?
- 적용 또는 제외 결론에 필요한 사실과 공식 근거를 세 가지 이상 제시할 수 있는가?
- 요구사항을 통제, 증거, 책임자와 재검토 조건으로 바꿀 수 있는가?
- 10^25 FLOP 미만이 안전을 뜻하지 않고 초과가 곧 배포 금지를 뜻하지 않는다. 특정 응용의 고위험 시스템 분류와 GPAI 모델의 시스템적 위험 분류는 서로 다른 층이다. 기준이 검토 중인 경우 고정 수치를 영구 규칙처럼 표기하지 않는다.
문서 관계
섹션 제목: “문서 관계”선행 개념
섹션 제목: “선행 개념”관련 문서
섹션 제목: “관련 문서”이 문서를 가리키는 문서
섹션 제목: “이 문서를 가리키는 문서”이 문서를 포함하는 코스
섹션 제목: “이 문서를 포함하는 코스”참고와 다음 학습
섹션 제목: “참고와 다음 학습”참고 문헌
섹션 제목: “참고 문헌”- Regulation (EU) 2024/1689 - Artificial Intelligence Act - standard
- Guidelines for providers of general-purpose AI models - European Commission - documentation
- General-purpose AI obligations under the AI Act - European Commission - documentation
- The General-Purpose AI Code of Practice - European Commission - documentation
코스에서 계속 읽기
섹션 제목: “코스에서 계속 읽기”- AI 규제와 리터러시: 다음 문서 — EU 범용 AI 실천강령