AI 기본법 고영향 AI 기준 | 사업자 5대 의무사항
AI 기본법에서 가장 강한 규제를 받는 것이 바로 '고영향 AI'입니다. 사람의 생명, 안전, 기본권에 중대한 영향을 미치는 AI를 말합니다. 의료 진단, 자율주행, 채용 심사, 신용평가 등이 해당됩니다.
고영향 AI를 운영하는 사업자는 일반 AI보다 훨씬 엄격한 5가지 의무를 이행해야 합니다.
고영향 AI란?
고영향 AI(High-Impact AI)는 AI 기본법 제2조에서 정의하는 개념입니다. 사람의 생명, 신체의 안전, 기본권 보호에 중대한 영향을 미치거나 미칠 우려가 있는 인공지능을 말합니다.
쉽게 말해 AI의 판단이 잘못되면 사람에게 심각한 피해를 줄 수 있는 분야입니다. 단순 추천이나 편의 기능과는 차원이 다릅니다.
고영향 AI 해당 분야
의료: AI 진단 시스템, 의료 영상 분석, 치료 방향 추천
금융: 신용평가 AI, 대출 심사, 보험료 산정
채용: AI 이력서 심사, 면접 평가, 인사 배치
교육: AI 기반 학습 평가, 진로 추천
교통: 자율주행 시스템, 교통 관제 AI
사법: 범죄 예측, 양형 참고 AI
시행령에서는 구체적인 분야와 기준을 별도로 정하고 있습니다. 자세한 내용은 과학기술정보통신부에서 확인할 수 있습니다.
사업자 5대 의무사항
1. 위험관리방안 수립
고영향 AI로 인해 발생할 수 있는 위험을 사전에 파악하고 관리 방안을 문서화해야 합니다. 오류 가능성, 편향성, 오작동 시나리오 등을 분석하고 대응책을 마련합니다.
위험관리방안의 주요 내용은 사업장이나 홈페이지에 공개해야 합니다.
2. 투명성 확보
AI가 어떤 기준으로 결과를 도출하는지 설명할 수 있어야 합니다. 학습에 사용된 데이터, 판단 로직, 결과 산출 과정을 이용자가 이해할 수 있도록 안내해야 합니다.
이른바 '설명 가능한 AI(XAI)'를 지향하는 것입니다.
3. 이용자 보호 방안
AI 판단에 이의가 있는 이용자가 구제받을 수 있는 절차를 마련해야 합니다. 이의 신청 창구, 처리 절차, 결과 통보 방법 등을 갖춰야 합니다.
4. 인간 감독 체계
AI가 최종 결정을 내리더라도 사람이 개입하고 감독할 수 있는 체계가 있어야 합니다. 완전 자동화가 아닌 '인간 통제(Human-in-the-loop)' 원칙입니다.
5. 문서 보관 의무
위 4가지 조치의 이행 근거를 문서로 작성하고 5년간 보관해야 합니다. 추후 분쟁이나 감독 시 증빙 자료로 활용됩니다.
AI 영향평가 제도
고영향 AI 사업자는 서비스 제공 전에 기본권에 미치는 영향을 자율적으로 평가하도록 권고됩니다. 법적 의무는 아니지만 사실상 필수 절차로 자리잡을 전망입니다.
영향평가에는 영향받는 기본권이 무엇인지, 어떻게 영향을 받는지, 완화 방안은 무엇인지가 포함되어야 합니다.
특히 의료, 금융, 채용 분야는 감독 당국의 관심이 높아 영향평가 준비가 필수적입니다.
해외 사업자 대리인 지정
국내에 주소나 영업소가 없는 해외 AI 사업자도 규제 대상입니다. 다음 조건 중 하나라도 해당되면 국내 대리인을 지정해야 합니다.
이용자 수: 국내 이용자 100만 명 이상
매출: 국내 매출 100억원 이상
OpenAI, Google, Meta 등 글로벌 빅테크 기업이 주요 대상입니다.
위반 시 제재
고영향 AI 의무를 이행하지 않으면 시정명령, 과태료가 부과됩니다. 중대한 위반의 경우 서비스 중지 명령까지 내려질 수 있습니다.
다만 계도기간(최소 1년) 동안은 시정 권고 위주로 운영됩니다. 이 기간을 활용해 체계를 갖추는 것이 중요합니다.
마무리
고영향 AI는 AI 기본법에서 가장 무거운 책임이 따르는 영역입니다. 해당 분야에서 AI 서비스를 운영 중이라면 지금 바로 5대 의무사항 이행 여부를 점검해야 합니다.
아직 시간이 있을 때 준비해야 계도기간 이후에도 안정적으로 서비스를 운영할 수 있습니다.
👉 1부: AI 기본법 총정리 | 2026년 1월 22일 시행 핵심 변화
👉 2부: AI 기본법 생성물 표시 의무 | 위반시 과태료 3천만원
👉 4부: AI 기본법 대응 체크리스트 | 크리에이터·기업 준비법