안녕하세요, 법무법인 청출 김광식 변호사입니다.

2026년 1월 22일부터 시행된 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 “AI 기본법”)은 우리나라에서 처음으로 인공지능 전반에 대한 공통 규율 체계를 마련했다는 점에서 큰 의미가 있습니다. 다만 실무에서는 “생성형 AI”와 “고영향 AI”가 자주 함께 언급되다 보니, 두 개념이 같은 것인지, 또는 어느 하나에 해당하면 다른 하나에도 자동으로 해당하는 것인지 혼동하는 경우가 적지 않습니다.

하지만 두 개념은 그 판단기준이 상이한데, 생성형 AI는 “무엇을 하는 시스템인가”라는 기능 기준이고, 고영향 AI는 “어디에 사용되며 사람에게 어느 정도의 위험을 미치는가”라는 위험·영역 기준입니다. 오늘은 이 두 개념의 차이와 AI 기본법 상의 규제에서 어떤 차이가 있는지 정리해 보겠습니다.

[Question]

AI 기본법상 생성형 AI와 고영향 AI는 어떻게 구별되며, 각각 어떤 규제를 받게 되나요?

[Answer]

1.  생성형 AI와 고영향 AI의 구별

AI 기본법은 생성형 AI를, 입력한 데이터의 구조와 특성을 모사하여 텍스트·음성·이미지·영상 등 다양한 결과물을 생성하는 인공지능시스템으로 정의합니다. 즉 기존 데이터를 분류·추천·탐지하는 시스템과 달리, 새로운 산출물을 만들어내는 기능이 있는지가 핵심입니다.

이 정의에 의하면, 생성형 AI의 범위는 상당히 넓게 적용될 수 있는데, 대화형 LLM, 이미지 생성 모델, 음성 합성, 영상 생성·편집 모델은 물론이고, 서비스의 일부 기능으로만 생성 기능이 탑재되어 있더라도 그 기능을 바탕으로 결과물을 제공한다면 생성형 AI 해당할 수 있습니다. 결국 이용자에게 제공되는 서비스가 생성 기능을 통해 작동하는지가 더 중요합니다.

고영향 AI는 사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서, 일정한 법정 영역에서 활용되는 경우를 고영향 AI로 규정하고 있습니다.

즉, AI 기본법에 의하면 고영향 AI 해당성은 두 단계를 함께 충족해야 합니다. 첫째, 법이 예정한 고위험 영역에서 활용되어야 합니다. 둘째, 그 영역 안에서 실제로 사람의 생명·안전 또는 기본권에 중대한 영향을 미치거나 그러한 위험을 초래할 우려가 있어야 합니다. 따라서 아무리 복잡하고 정교한 AI라 하더라도, 활용 범위가 법정 영역에 속하지 않거나 사람의 권리·안전에 중대한 영향을 주지 않는다면 고영향 AI로 볼 수 없습니다.

AI 기본법이 예정한 고영향 AI 활용 영역은 에너지 공급, 먹는물 생산공정, 보건의료 제공체계, 의료기기 및 디지털의료기기, 원자력시설 관리, 범죄수사 및 체포를 위한 생체인식정보 분석, 채용·대출심사 등 개인의 권리·의무에 중대한 영향을 미치는 판단, 교통체계의 주요 운영, 공공서비스 관련 국가기관의 의사결정, 유아·초중등교육에서의 학생 평가 등입니다.

이러한 개념에 의하면 생성형 AI는 동시에 고영향 AI에도 해당할 수 있습니다.

2.  AI 기본법 상 생성형 AI에 대한 규제

생성형 AI에 대해서는 기본적으로 투명성 확보 의무가 규제의 중심입니다. AI 기본법 제31조에 따르면 생성형 AI 또는 이를 이용한 제품·서비스를 제공하는 사업자(이하 “AI 사업자”)는, 해당 서비스가 AI에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 하고, 생성형 AI가 만든 결과물이라는 사실도 표시하여야 합니다.

이를 통해 이용자가 사람의 표현인지 AI가 만들어낸 결과인지 구별할 수 있도록 하여, 오인과 혼동을 줄이겠다는 것인데, 특히 실제와 구분하기 어려운 가상의 음향·이미지·영상, 이른바 딥페이크 유형의 결과물에 대해서는 보다 명확한 표시가 요구될 가능성이 큽니다. 일반적인 생성 결과물의 경우에는 가시적 또는 비가시적 표시 방식이 허용될 수 있지만, 현실과 혼동 가능성이 높은 콘텐츠일수록 이용자가 쉽게 인식할 수 있는 방식의 표시가 중요해집니다.

또한, 학습에 사용된 누적 연산량이 일정 기준 이상인 경우, AI 사업자는 ① 인공지능 수명주기 전반에 걸친 위험의 식별ㆍ평가 및 완화, ② 인공지능 관련 안전사고를 모니터링하고 대응하는 위험관리체계 구축할 의무가 있고, 그 이행의 결과를 과학기술정보통신부장관에게 제출할 의무도 있습니다.

3.  AI 기본법 상 고영향 AI에 대한 규제

고영향 AI에는 생성형 AI보다 한 단계 무거운 규제가 적용됩니다. 단순한 표시 의무를 넘어, 사업자의 내부통제와 위험관리 체계 자체를 요구한다는 점이 특징입니다.

먼저 AI 사업자는 자신이 제공하는 AI가 고영향 AI에 해당하는지 사전에 검토해야 합니다. 필요하면 과기정통부장관에게 해당 여부의 확인을 요청할 수 있고, 정부 설명자료에 따르면 이 확인 절차에는 일정한 심사 기간이 예정되어 있습니다. 즉 기업은 “우리 서비스는 고영향이 아닌 것 같다”는 직관에만 의존할 것이 아니라, 사전에 판단 근거를 정리해 둘 필요가 있습니다.

다음으로 고영향 AI 또는 이를 이용한 제품·서비스를 제공하는 경우에도 AI 기반으로 운용된다는 사실을 사전에 고지해야 합니다. 다만 생성형 AI처럼 모든 경우에 결과물 표시가 문제되는 것은 아니고, 적어도 서비스 자체가 고영향 AI에 기반하고 있다는 점에 대한 투명성은 확보되어야 합니다.

더 중요한 것은 AI 기본법 제34조상의 사업자 책무입니다. 이에 의하면 AI 사업자는 위험관리 방안의 수립·운영, 설명 방안의 수립·시행, 이용자 보호 방안의 수립·운영, 사람의 관리·감독, 안전성·신뢰성 확보조치 관련 문서의 작성·보관 등의 조치를 이행해야 합니다. 이는 선언적 조항이 아니라, 실제로는 내부 정책·절차·기록관리 체계를 갖추라는 요구에 가깝습니다.

관련하여, AI 기본법은 AI 사업자에게 기술적으로 가능한 범위에서 AI의 최종 결과, 그 결과 도출에 활용된 주요 기준, 학습용 데이터의 개요 등에 대한 설명 방안을 마련할 것을 요구하고 있는데, 이는 알고리즘 전체를 공개하라는 취지는 아니지만, 최소한 결과가 어떤 구조에서 나왔는지 설명 가능한 수준의 통제와 문서화를 요구하는 것입니다.

고영향 AI에 대해서는 사람의 기본권에 미치는 영향을 사전에 평가하도록 하는 영향평가 제도도 마련되어 있습니다. 다만, 현행 조문 구조상 이는 강행규정이라기 보다는 노력의무적 성격이 강하지만, 국가기관 등이 관련 제품·서비스를 도입할 때에는 이러한 평가를 실시한 시스템을 우선 고려할 가능성이 있습니다. 따라서 공공조달이나 공공협업을 염두에 두는 기업이라면 영향평가 체계를 미리 준비하는 것이 유리할 수 있습니다.

아울러, 고영향 AI가 문제되는 분야는 대체로 기존의 업권법 규제가 강한 영역과 겹친다는 점도고려할 필요가 있습니다. 의료, 금융, 교통, 공공, 교육 분야가 대표적입니다. 법도 다른 법령에 따라 이에 준하는 조치를 이미 이행한 경우에는 AI 기본법상 조치를 이행한 것으로 볼 수 있도록 정하고 있습니다. 따라서 실제 컴플라이언스는 AI 기본법만 단독으로 볼 것이 아니라, 해당 업법과 병행하여 검토해야 합니다. 경우에 따라서는 오히려 개별 업법이 실질적인 의무의 중심이 될 수 있습니다.

4.  AI 기본법 상 규제의 적용 범위와 위반시 제재

AI 기본법은 국내 사업자만을 대상으로 하지 않습니다. 국내 시장이나 국내 이용자에게 영향을 미치는 해외 AI 사업자에게도 적용될 수 있고, 일정 기준을 충족하는 경우에는 국내대리인 지정 의무까지 문제될 수 있습니다. 이는 특히 해외 본사의 모델이나 API를 국내 서비스에 연계하여 사용하는 구조에서 중요합니다. 국내 법인이 직접 모델을 개발하지 않았더라도, 국내 이용자에게 서비스가 제공되고 영향이 발생한다면 규제 검토가 필요할 수 있기 때문입니다.

한편, 현재 AI 기본법상 명시적인 과태료 조항은 주로 사전고지 의무 위반, 국내대리인 미지정, 사실조사 후 중지명령 또는 시정명령 불이행 등에 연결되어 있으나, 정부는 제도 안착을 위해 최소 1년의 계도기간을 운영하면서 원칙적으로 사실조사와 과태료 부과를 유예하겠다는 입장을 밝힌 바 있습니다.

이와 같이, 생성형 AI는 새로운 결과물을 만들어내는 기능에 주목하며, 핵심 규제는 사전고지와 생성물 표시입니다. 반면 고영향 AI는 특정 고위험 영역에서 사람의 생명·안전·기본권에 미치는 중대한 영향에 주목하며, 핵심 규제는 사전검토, 고지, 위험관리, 설명체계, 이용자 보호, 인간 감독, 문서화, 영향평가에 있습니다.

법무법인 청출은 새롭게 시행된 AI 기본법 체계 아래에서 기업이 자사 서비스의 법적 성격을 정확히 분류하고, 필요한 고지·표시·내부통제 체계를 실무적으로 설계할 수 있도록 구체적인 자문을 제공하고 있습니다. AI 서비스를 기획하거나 이미 운영 중인 기업이라면, 단순히 규제를 “알아두는” 수준을 넘어 실제 서비스 구조에 맞게 “적용 가능한 컴플라이언스 체계”를 미리 갖추어 두시길 권유드립니다.