한국 AI 안전성 확보 의무 Korean AI Safety Duty
인공지능 안전성 확보 의무
한국 AI 안전성 확보 의무는 법정 학습 연산량·최첨단 기술·중대한 위험 우려의 결합 기준에 해당하는 시스템의 수명주기 위험관리와 결과 제출을 요구하는 제도다.
개념과 원리
섹션 제목: “개념과 원리”개요와 핵심 정의
섹션 제목: “개요와 핵심 정의”한국 AI 안전성 확보 의무는 법정 학습 연산량·최첨단 기술·중대한 위험 우려의 결합 기준에 해당하는 시스템의 수명주기 위험관리와 결과 제출을 요구하는 제도다.
대한민국 인공지능기본법 제32조와 시행령·고시의 연산량 기준 및 제출 절차를 기준으로 한다. 모델 파라미터 수나 현재 요청량이 아니라 법이 지정한 학습 누적 연산량과 적용 대상 시스템을 확인한다.
‘한국 AI 안전성 확보 의무(Korean AI Safety Duty)’를 검토할 때는 먼저 관할, 적용 시점, 규율 대상과 조직의 역할을 고정한다. 법률 본문, 시행령·위임 규정, 감독기관 지침은 법적 효력과 갱신 주기가 다르므로 한 문장에 섞지 않는다. 이 문서는 2026년 10월 25일에 정의·적용 조건과 의무 관련 지정 조문을 대조한 학습 정보이며 개별 사건의 법률 의견을 대신하지 않는다.
적용 범위와 판단 경계
섹션 제목: “적용 범위와 판단 경계”시행령 제24조제1항의 적용은 세 기준의 결합이다. 학습에 사용된 누적 연산량 10^26 부동소수점연산 이상, 당시 최첨단 AI 기술을 적용한 구성·운영, 생명·신체 안전·기본권에 광범위하고 중대한 영향을 미칠 위험 우려를 모두 충족하는지 확인한다. 연산량 하나를 넘었다는 사실만으로 적용 여부를 확정하거나 모델 파라미터 수로 그 기준을 대체하지 않는다.
법 제32조의 이행 내용은 수명주기 위험의 식별·평가·완화와 안전사고 모니터링·대응 체계이며 그 결과를 장관에게 제출하는 것이다. 누적 연산량의 구체 산정 방식과 제출 세부 사항은 위임된 고시를 추가 확인한다. 이 문서의 조문 대조는 적용 조건에 대한 설명이며, 특정 모델의 연산량·위험도나 미확인 고시 개정 여부를 판정한 결과가 아니다.
의무와 준수 절차
섹션 제목: “의무와 준수 절차”학습 실행별 연산량 산정 근거와 모델 계보를 모으고 적용 여부를 판정한다. 적용 대상이면 위험 분류, 평가 주기, 완화 통제, 사고 심각도, 비상 중단, 보고·복구와 정부 제출 책임을 문서화한다.
실행 가능한 준수 계획은 요구사항, 책임자, 기술·조직 통제, 산출 증거, 승인자, 완료 기한과 잔여 위험을 한 행에 연결한다. 공급망에서 필요한 정보가 다른 조직에 있으면 계약과 인터페이스에 제공 시점·형식·정확성·변경 통지를 명시한다. 출시 게이트는 문서 존재만 확인하지 않고 정상·경계·실패 사례에서 통제가 실제로 작동하는지 시험한다.
증거와 기록 관리
섹션 제목: “증거와 기록 관리”학습 로그, 하드웨어·연산량 산정 방식, 모델 버전, 위험 등록부, 평가 결과, 완화 전후 수치, 사고 시간선, 제출본과 수령 증거를 보존한다. 파생·추가학습 모델이 기준 판단에 미치는 영향도 계보에 연결한다.
증거에는 생성 시점, 대상 버전, 소유자, 출처, 승인 상태와 보존 기간을 붙인다. 법률·지침 버전, 제품 요구사항, 데이터·모델 계보, 시험 결과, 사람 검토와 예외를 연결하면 감독기관 질의나 사고 조사에서 당시 판단을 재구성할 수 있다. 개인정보와 영업비밀은 최소 수집·권한 분리·만료 정책을 적용하되, 삭제가 법정 보존이나 조사 의무와 충돌하는 경우 승인 절차를 둔다.
활용과 검증
섹션 제목: “활용과 검증”한계와 흔한 오해
섹션 제목: “한계와 흔한 오해”연산량 기준 미만이라는 사실은 시스템이 안전하다는 인증이 아니며 다른 고영향·산업 안전 의무를 배제하지 않는다. 기준 이상이라는 이유만으로 사고가 발생했다는 뜻도 아니다. 계산 방법과 법정 기준은 고시 개정 가능성이 높아 기준 날짜를 붙여야 한다.
동일한 기능도 관할, 의도된 목적, 영향의 중대성, 조직 역할과 시행 시점에 따라 결론이 달라질 수 있다. 자가진단 도구, 국제 표준, 자발적 강령과 인증은 유용한 증거지만 최신 법률의 모든 요건을 자동 충족시키는 면책 수단이 아니다. 불명확한 경우에는 가장 보수적인 임시 통제를 적용하고 공식 확인이나 전문 검토가 끝날 때까지 고위험 기능을 확대하지 않는다.
실무 감사와 재검토
섹션 제목: “실무 감사와 재검토”독립 검토자가 원시 학습 기록에서 누적 연산량을 재계산하고 위험관리 문서와 실제 배포 통제를 대조한다. 신규 사후학습, 모델 병합, 용도 확장이나 안전사고가 있으면 적용 판단과 이행 결과를 갱신한다.
- 기준 고정: 관할, 통합 조문·지침 버전과 적용 날짜를 기록한다.
- 역할·범위 판정: 시스템 목적, 시장, 이용자, 공급망 행위와 예외를 매핑한다.
- 통제 연결: 의무별 책임자, 기술·조직 조치, 시험과 증거를 지정한다.
- 반례 시험: 금지·경계·오용·사고 시나리오에서 통제와 에스컬레이션을 실행한다.
- 운영 확인: 실제 로그·민원·변경·사고가 평가 가정과 일치하는지 표본 추적한다.
- 변경 관리: 법령, 목적, 데이터, 모델, 조직 역할 또는 시장이 바뀌면 판정을 다시 승인한다.
감사 결과는 통과·실패만 기록하지 않고 확인하지 못한 정보, 임시 가정, 잔여 위험과 다음 검토 날짜를 포함한다. 긴급 조치는 서비스 제한·사람 승인·롤백 중 무엇을 언제 실행할지 미리 정한다.
선수 개념과 관련 개념
섹션 제목: “선수 개념과 관련 개념”먼저 읽을 문서
섹션 제목: “먼저 읽을 문서”- 한국 인공지능기본법: 법적 범위와 통제를 이해하기 위한 선수 개념이다.
- AI 위험 평가: 법적 범위와 통제를 이해하기 위한 선수 개념이다.
함께 비교할 문서
섹션 제목: “함께 비교할 문서”- AI 사고 보고: 관할·역할·수명주기 단계가 다른 인접 개념이다.
- AI 위험 대장: 관할·역할·수명주기 단계가 다른 인접 개념이다.
- 안전성 논증서: 관할·역할·수명주기 단계가 다른 인접 개념이다.
선수 관계는 개념 이해의 순서이고 관련 관계는 같은 사례를 다른 규칙이나 통제에서 보는 연결이다. 한국의 고영향 인공지능과 EU의 고위험 AI, GPAI 모델 의무와 특정 시스템 의무처럼 번역이 비슷해도 구성요건과 적용 대상이 다른 개념은 별도 문서로 대조한다.
학습 체크
섹션 제목: “학습 체크”- 한국 AI 안전성 확보 의무의 관할, 적용 시점, 대상 주체와 대상 시스템을 구분해 설명할 수 있는가?
- 적용 또는 제외 결론에 필요한 사실과 공식 근거를 세 가지 이상 제시할 수 있는가?
- 요구사항을 통제, 증거, 책임자와 재검토 조건으로 바꿀 수 있는가?
- 연산량 기준 미만이라는 사실은 시스템이 안전하다는 인증이 아니며 다른 고영향·산업 안전 의무를 배제하지 않는다. 기준 이상이라는 이유만으로 사고가 발생했다는 뜻도 아니다. 계산 방법과 법정 기준은 고시 개정 가능성이 높아 기준 날짜를 붙여야 한다.
문서 관계
섹션 제목: “문서 관계”선행 개념
섹션 제목: “선행 개념”관련 문서
섹션 제목: “관련 문서”이 문서를 가리키는 문서
섹션 제목: “이 문서를 가리키는 문서”이 문서를 포함하는 코스
섹션 제목: “이 문서를 포함하는 코스”참고와 다음 학습
섹션 제목: “참고와 다음 학습”참고 문헌
섹션 제목: “참고 문헌”- 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 - 국가법령정보센터 - standard
- 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령 - 국가법령정보센터 - standard
- 인공지능기본법 2026년 일부개정 이유 및 주요 내용 - 국가법령정보센터 - documentation
- AI Basic Act 시행령 개정안 안내 - 과학기술정보통신부 - documentation
- 인공지능기본법 시행령 대통령령 제36580호: 제23~28조 - standard
코스에서 계속 읽기
섹션 제목: “코스에서 계속 읽기”- AI 규제와 리터러시: 다음 문서 — AI 위험 평가