고영향 AI 해당여부 논의를 위해 테크플러스 회의실에 다시 모인 세 사람. 김민수 법무팀장이 노트북을 펼치며 입을 열었다.
김민수 법무팀장: “지난주에 우리가 ‘인공지능사업자’라는 건 확인했죠. 오늘은 더 중요한 질문입니다. 우리 서비스가 ‘고영향 인공지능’에 해당하는지요.”
박지현 AI개발팀장: “고영향이면 의무가 확 늘어난다고 했잖아요. 우리 ‘헬프미’ 챗봇은 고객 문의 응대용인데, 그것도 해당될 수 있나요?”
이서준 대표: “채용이나 대출 심사는 고영향이라고 들었는데, 단순 상담도 그런가?”
김민수 법무팀장: “바로 그 경계선을 오늘 명확히 해보죠. 법 제2조제4호를 함께 보시죠.”
1. 고영향 인공지능이란 무엇인가요?
| 고영향 인공지능의 정의 (법 제2조제4호) “고영향 인공지능”이란 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 다음 각 목의 어느 하나의 영역에서 활용되는 것을 말한다. |
김민수 법무팀장: “핵심을 짚어보면, 고영향 AI 판단에는 두 가지 요건이 있어요.”
고영향 AI 판단의 2단계 구조
| 요건 | 내용 |
| ① 영역 요건 | 법 제2조제4호 가목~카목에 열거된 10개 영역(+대통령령 영역) 중 하나에서 활용될 것 |
| ② 영향 요건 | 사람의 생명, 신체의 안전 및 기본권에 ‘중대한 영향’을 미치거나 위험을 초래할 우려가 있을 것 |
박지현 AI개발팀장: “그럼 열거된 영역에서 쓰이기만 하면 무조건 고영향인가요?”
김민수 법무팀장: “형식적으로는 그래요. 다만 시행령 제25조제2항을 보면, 정부가 해당 여부를 판단할 때 ‘위험의 영향, 중대성, 빈도 및 활용 영역별 특수성’을 고려하도록 되어 있어요. 즉, 같은 영역이라도 구체적 활용 방식에 따라 판단이 달라질 수 있는 여지가 있습니다.”
2. 고영향 AI의 10가지 적용 영역
이서준 대표: “그 10개 영역이 뭔지 하나씩 짚어볼까?”
김민수 법무팀장: “네, 법에 열거된 순서대로 정리해 봤습니다.”
| 호 | 영역 | 구체적 내용 및 예시 |
| 가 | 에너지 공급 | 「에너지법」에 따른 에너지 공급 시스템 (예: 전력망 운영 AI, 가스 공급 관리 AI) |
| 나 | 먹는물 생산 | 「먹는물관리법」에 따른 먹는물 생산 공정 (예: 정수장 자동화 시스템) |
| 다 | 보건의료 제공 | 「보건의료기본법」에 따른 보건의료 제공 및 이용체계 (예: 진료 지원 AI, 의료 영상 판독 AI) |
| 라 | 의료기기 | 「의료기기법」 및 「디지털의료제품법」에 따른 의료기기·디지털의료기기 (예: AI 진단기기) |
| 마 | 원자력 안전 | 핵물질 및 원자력시설의 안전 관리·운영 (예: 원전 모니터링 AI) |
| 바 | 범죄수사 생체인식 | 범죄 수사·체포를 위한 얼굴·지문·홍채 등 생체인식정보 분석·활용 (예: 경찰 안면인식 시스템) |
| 사 | 권리·의무 판단 | 채용, 대출 심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단·평가 |
| 아 | 교통 운영 | 「교통안전법」에 따른 교통수단·시설·체계의 주요 작동·운영 (예: 자율주행차, 철도 관제 AI) |
| 자 | 공공 의사결정 | 공공서비스 자격 확인·결정, 비용징수 등 국민에게 영향을 미치는 국가기관등의 의사결정 |
| 차 | 학생 평가 | 유아·초등·중등교육에서의 학생 평가 (예: AI 기반 학력평가 시스템) |
| 카 | 대통령령 영역 | 그 밖에 생명·신체·기본권에 중대한 영향을 미치는 영역 (향후 시행령으로 추가 가능) |
박지현 AI개발팀장: “‘사’목이 눈에 띄네요. ‘채용, 대출 심사 등’이라고 했는데, ‘등’이 어디까지인 거죠?”
김민수 법무팀장: “바로 그 부분이 해석상 가장 중요해요. ‘사’목을 자세히 볼까요?”
3. ‘사’목 심층 분석: 채용, 대출 심사 ‘등’의 범위
| 법 제2조제4호 사목 원문 사. 채용, 대출 심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 또는 평가 |
김민수 법무팀장: “이 조항의 핵심은 세 가지입니다.”
- 예시적 열거: ‘채용, 대출 심사’는 예시일 뿐, 이에 한정되지 않음
- 권리·의무 관계: 개인의 법적 권리나 의무에 영향을 주어야 함
- 중대한 영향: 단순 참고가 아닌 ‘중대한’ 수준의 영향이어야 함
이서준 대표: “그럼 보험료 산정이나 신용점수 같은 것도 해당되겠네?”
김민수 법무팀장: “그렇습니다. AI가 개인의 보험료, 신용등급, 임대차 심사, 입학 전형 등을 ‘결정’하거나 ‘중대하게 영향’을 미치면 해당될 가능성이 높아요.”
‘사’목 해당 가능 예시 vs 비해당 예시
| 🔴 고영향 해당 가능성 높음 | 🟢 고영향 비해당 가능성 높음 |
| AI가 이력서를 분석하여 합격/불합격 판정 | AI가 이력서 오탈자를 교정해주는 도구 |
| AI가 대출 승인 여부를 최종 결정 | AI가 대출 상품을 추천 (결정권은 고객) |
| AI가 신용점수를 산출하여 금리 결정에 직접 반영 | AI가 재무 상담 챗봇으로 일반적 조언 제공 |
| AI가 보험 가입 심사 및 보험료 차등 산정 | AI가 보험 약관을 설명해주는 챗봇 |
| AI가 임대인에게 세입자 적격 여부 판정 제공 | AI가 부동산 매물 검색·추천 |
4. 우리 ‘헬프미’ 챗봇은 고영향인가요?
박지현 AI개발팀장: “그럼 이제 핵심 질문이에요. 우리 ‘헬프미’는 고객 문의 응대용 챗봇인데, 고영향에 해당할까요?”
김민수 법무팀장: “구체적인 기능을 하나씩 따져봐야 해요. ‘헬프미’가 정확히 어떤 일을 하죠?”
박지현 AI개발팀장: “크게 세 가지예요. 첫째, 제품 사용법 안내. 둘째, 배송 조회. 셋째, 단순 불만 접수 후 상담원 연결.”
김민수 법무팀장: “그 세 가지라면 고영향 AI에 해당하지 않을 가능성이 높아요.”
‘헬프미’ 챗봇 고영향 해당 여부 분석
| 기능 | 분석 | 결론 |
| 제품 사용법 안내 | 단순 정보 제공, 개인의 권리·의무에 영향 없음 | 비해당 |
| 배송 조회 | 기존 정보 조회, 새로운 판단·평가 없음 | 비해당 |
| 불만 접수 후 상담원 연결 | AI가 결정하지 않고 인간에게 이관 | 비해당 |
이서준 대표: “다행이네. 그런데 만약 ‘헬프미’에 환불 승인 기능을 추가하면?”
김민수 법무팀장: “그건 달라질 수 있어요. AI가 환불 여부를 ‘결정’하고 그 결정이 고객의 금전적 권리에 직접 영향을 미친다면, ‘사’목 해당 가능성을 다시 검토해야 합니다.”
| 주의: 기능 확장 시 재검토 필요 현재 ‘헬프미’는 고영향 AI 비해당으로 판단되나, 향후 기능이 확장되어 다음과 같은 역할을 하게 되면 재검토 필요: • AI가 환불/교환 승인 여부를 최종 결정 • AI가 고객 등급을 산정하여 서비스 차등 제공 • AI가 계약 해지 여부를 판단 |
5. 헷갈릴 때는? 정부에 확인 요청하세요
박지현 AI개발팀장: “근데 저희 스스로 판단하기 어려우면 어떡하죠?”
김민수 법무팀장: “그래서 법에 ‘확인 요청 제도’가 있어요. 법 제33조입니다.”
| 고영향 인공지능 확인 요청 제도 (법 제33조) • 사업자는 고영향 AI 해당 여부를 사전에 검토해야 함 (의무) • 필요한 경우 과학기술정보통신부장관에게 확인 요청 가능 (선택) • 장관은 요청 후 30일 이내 회신 (복잡한 경우 30일 연장 가능) • 결과에 이의가 있으면 10일 이내 재확인 요청 가능 |
확인 요청 시 필요한 서류 (시행령 제25조)
- AI제품 또는 AI서비스의 개요서
- AI시스템의 개발 및 학습에 사용된 학습용데이터 개요
- AI시스템 활용 과정 및 결과를 확인할 수 있는 자료
- 기타 해당 여부 확인에 참고가 될 수 있는 서류
이서준 대표: “정부가 판단해주면 법적으로 안전한 거야?”
김민수 법무팀장: “중요한 점인데, 이 확인은 ‘공적 견해’를 주는 것이지 면책 효과가 있는 건 아니에요. 다만 성실하게 확인받고 그에 따라 행동했다면, 향후 분쟁 시 유리한 증거가 될 수 있죠.”
6. 고영향 AI이면 뭐가 달라지나요?
박지현 AI개발팀장: “만약 고영향 AI에 해당하면 어떤 의무가 생기나요?”
김민수 법무팀장: “상당히 많아요. 법 제34조에 따른 사업자 책무가 발생합니다.”
| 고영향 AI 사업자의 6대 책무 (법 제34조) ① 위험관리방안의 수립·운영 ② 설명 방안의 수립·시행 (AI 결과, 주요 기준, 학습데이터 개요 등) ③ 이용자 보호 방안의 수립·운영 ④ 고영향 AI에 대한 사람의 관리·감독 (Human-in-the-loop) ⑤ 조치 내용을 확인할 수 있는 문서 작성·5년간 보관 ⑥ 기타 인공지능위원회에서 심의·의결된 사항 |
김민수 법무팀장: “게다가 이 내용 중 일부는 홈페이지 등에 공개해야 해요. 그리고 영향평가 수행을 위해 ‘노력’해야 하고요.”
이서준 대표: “그러니까 고영향 AI면 컴플라이언스 부담이 확 늘어나는 거구나.”
김민수 법무팀장: “맞아요. 다음 회부터 이 의무들을 하나씩 상세히 다룰 예정입니다.”
오늘의 정리: 고영향 AI 자가 체크리스트
| ✅ 우리 서비스가 고영향 AI인지 판단하기 □ 우리 AI가 10개 영역(가~차목) 중 하나에서 활용되는가? □ 특히 ‘채용, 대출 심사 등 개인의 권리·의무에 중대한 영향을 미치는 판단·평가’에 해당하는가? □ AI가 단순 정보 제공이 아니라 ‘결정’ 또는 ‘평가’를 수행하는가? □ 그 결정/평가가 이용자의 법적·경제적 권리에 직접 영향을 미치는가? □ AI 결정에 대한 인간의 개입·검토 없이 최종 결과가 적용되는가? → 위 항목에 ‘예’가 많을수록 고영향 AI 해당 가능성 높음 → 불확실하면 과학기술정보통신부에 확인 요청 권장 |
테크플러스의 결론
- ‘헬프미’ 챗봇: 현재 기능(안내, 조회, 접수)으로는 고영향 AI 비해당
- 향후 주의사항: 환불 결정, 고객 등급 산정 등 기능 추가 시 재검토 필요
- 문서화: 고영향 비해당 판단 근거를 내부 문서로 정리해 두기
본 자료는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 및 관계 법령, 가이드라인을 바탕으로 작성된 실무 참고자료입니다.
개별 사안에 따른 구체적인 법률 자문이 필요한 경우 상담요청하시기 바랍니다.
댓글 남기기