2026년 시행될 인공지능 기본법의 주요 규제 내용은 무엇인가요?

2026년 1월 22일부터 전면 시행된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 인공지능기본법)은 인공지능 산업의 육성과 안전한 이용 환경 조성을 위한 포괄적인 법적 근거를 담고 있습니다,. 이 법의 주요 규제 내용은 인공지능의 영향력과 종류에 따라 차등화된 의무를 부과하는 것이 핵심입니다,.

주요 규제 및 의무 내용은 다음과 같습니다.

1. 투명성 확보 의무

고영향 인공지능 및 생성형 인공지능을 제공하는 사업자에게 부과되는 의무입니다,.

• 사전 고지 의무: 제품이나 서비스가 인공지능에 기반하여 운영된다는 사실을 이용자에게 사전에 명확히 알려야 합니다,,.
• 생성물 출처 표시: 생성형 AI가 만든 텍스트, 이미지, 영상 등 결과물에 AI 생성물임을 식별할 수 있도록 표시해야 합니다,.
• 딥페이크 표시: 실제와 구분하기 어려운 가상의 음향, 이미지, 영상을 제공하는 경우 이용자가 명확히 인식할 수 있도록 워터마크 등을 통해 표시해야 합니다,.

2. 고영향 인공지능 관련 의무

사람의 생명, 안전, 기본권에 중대한 영향을 미칠 수 있는 고영향 인공지능에 대해서는 더 엄격한 관리 기준이 적용됩니다,.

• 확인 의무: 사업자는 자신이 제공하는 AI가 보건의료, 금융, 고용 등 법이 정한 11개 분야의 고영향 AI에 해당하는지 사전에 검토해야 합니다,,.
• 안전성·신뢰성 확보 조치: 위험관리방안 수립, 인공지능 결과에 대한 설명 방안 마련, 이용자 보호 방안 수립, 그리고 사람이 직접 관리·감독하는 체계를 갖추어야 합니다,.
• 게시 의무: 수립된 위험관리 및 이용자 보호 방안의 주요 내용과 관리·감독자의 연락처 등을 외부에 게시해야 합니다.

3. 고성능 인공지능의 안전성 확보 의무

학습 연산량이 10^26 FLOPs 이상인 '최첨단' 인공지능을 운영하는 사업자에게 부과됩니다,.

• 위험의 식별 및 평가를 수행하고 이를 완화하기 위한 조치를 취해야 하며, 사고를 모니터링할 수 있는 위험관리체계를 구축해야 합니다.
• 이러한 안전성 확보 조치 이행 사항을 문서로 작성하여 과학기술정보통신부 장관에게 제출해야 할 의무가 있습니다.

4. 해외 사업자의 국내대리인 지정

국내에 주소나 영업소가 없는 해외 빅테크 기업 중 매출액이나 이용자 수가 일정 기준(전년도 매출 1조 원 이상 등)을 초과하는 경우, 국내대리인을 반드시 지정해야 합니다,,. 국내대리인은 안전성 확보 조치 결과 제출이나 고영향 AI 확인 요청 등의 업무를 지원하게 됩니다.

5. 위반 시 제재 및 계도기간

• 제재: 투명성 확보 의무(사전 고지) 위반이나 국내대리인 미지정 시 최대 3,000만 원 이하의 과태료가 부과될 수 있습니다,,. 안전성 확보 조치 미흡 시에는 시정명령이 내려지며, 이를 이행하지 않을 경우에도 과태료 대상이 됩니다,.
• 계도기간: 법 안착을 위해 2026년 1월 22일부터 최소 1년 이상 과태료 계도기간을 운영하며, 이 기간에는 즉각적인 처벌보다는 컨설팅과 안내 중심의 계도가 이루어집니다.

6. 인공지능 기본법(제2조 제4호)에 따르면, 고영향 인공지능은 사람의 생명, 신체 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 시스템을 의미하며, 법에서 정한 총 11개 분야는 다음과 같습니다,.

1. 에너지의 공급
2. 먹는 물의 생산 공정
3. 보건의료의 제공 및 이용체계의 구축·운영
4. 의료기기 및 디지털의료기기의 개발 및 이용
5. 핵물질과 원자력시설의 안전한 관리 및 운영
6. 범죄 수사나 체포 업무를 위한 생체인식정보의 분석·활용
7. 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 또는 평가 (예: 채용, 대출 심사 등),
8. 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영
9. 국가기관 등의 의사결정 (공공서비스 제공에 필요한 자격 확인 및 결정, 비용징수 등 국민에게 영향을 미치는 사항)
10. 유아·초등·중등교육에서의 학생 평가 (학습 평가 및 입시 전형 등),
11. 대통령령으로 정하는 기타 영역: 사람의 생명·신체의 안전 및 기본권 보호에 중대한 영향을 미치는 영역으로 향후 확장이 가능하도록 규정되어 있습니다.

이 분야들에 활용되는 인공지능은 오작동 시의 위험성과 차별 가능성 등을 종합적으로 고려하여 법에 따른 가장 엄격한 규제와 관리 기준을 적용받게 됩니다