EU보다 먼저 전면 시행한 韓 AI 규제…무엇이 다를까

EU 단계적 시행 vs 韓 22일부터 전면 시행하지만 규제 1년 유예

투명성 의무 EU·韓 비슷…안전성 의무 기준은 EU가 더 엄격

고위험AI, EU는 제공자·배포자 모두 의무 vs 韓 AI사업자만

페널티 차이 커…EU는 601억 규모 vs 韓 최대 3000만원 수준

[그래픽=뉴시스] 재판매 및 DB금지. 

[서울=뉴시스] 심지혜 기자 = ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’이 오늘부터 전면 시행된다. 인공지능(AI) 규제를 먼저 도입한 유럽연합(EU)이 고위험·범용 AI 규제를 단계적으로 집행하는 것과 달리, 우리나라는 시행 시점 기준으로 전면 적용에 들어간다는 점에서 업계 일각에서는 우리나라만 규제 집행 속도가 빠른 것 아니냐는 지적도 있다.

다만 정부는 고영향 AI·안전성·투명성 관련 규율에 대해 최소 1년 이상 사실조사와 과태료 부과를 유예하고, 해외 기술 발전과 규제 동향을 보면서 단계적으로 운영하겠다는 입장이다.

22일 과학기술정보통신부에 따르면 AI 기본법은 이날부터 시행되지만, 규제와 관련한 부분에는 최소 1년 이상의 계도 기간이 적용된다.

배경훈 부총리 겸 과기정통부 장관은 이날 자신의 SNS를 통해 "새로운 제도는 언제나 기대와 함께 우려를 동반한다"며 "AI 기본법은 규제를 위한 법이 아니라 신뢰를 기반으로 한 성장의 토대를 만들기 위한 법"이라고 밝혔다. 이어 "명확한 기준과 예측 가능한 제도는 기업의 도전을 제약하기보다 오히려 투자와 기술개발을 촉진하는 안전한 환경을 조성할 것"이라고 설명했다.

'워터마크'는 지금부터…안전성·고영향AI 의무 대상 아직 없어

AI 기본법의 규율 구조는 ▲투명성 확보 의무 ▲안전성 확보 의무 ▲고영향 AI 판단 및 사업자 책무 등 3가지 축으로 구성됐다.

투명성 확보 의무는 생성형 AI 결과물이 외부로 유통될 경우 ‘AI 생성물’임을 표시하도록 하는 것이 핵심이다. 특히 실제와 구분하기 어려운 딥페이크 생성물에 대해서는 사람이 명확하게 인식할 수 있는 방식의 표시가 요구된다. 의무 주체는 결과물을 만든 이용자가 아니라 AI 제품·서비스를 제공하는 인공지능사업자다.

안전성 확보 의무는 학습에 사용된 누적 연산량이 10의26승 부동소수점 연산(FLOPs) 이상인 초고성능 AI 가운데, 최첨단 기술을 적용하고 사람의 기본권에 광범위하고 중대한 영향을 미칠 우려가 있는 경우에 한해 적용된다.

고영향 AI는 에너지, 먹는물, 의료, 교통, 범죄 수사, 대출, 보건의료, 원자력 등 법에서 정한 10개 분야를 중심으로 기본권에 대한 위험의 영향, 중대성, 빈도 등을 종합 고려해 판단하도록 했다. 다만 최종 의사결정 과정에 사람이 개입해 통제가 가능하다고 판단되는 경우에는 고영향 AI 대상에서 제외된다.

사업자는 스스로 해당 여부를 검토하되, 필요할 경우 과기정통부에 확인을 요청할 수 있다. 현재까지는 안전성 확보 의무나 고영향 AI에 해당하는 사업자는 없는 것으로 평가된다.

이상용 건국대 법학전문대 교수는 “AI가 가진 잠재적 능력 자체가 위험을 초래할 수 있다는 관점에서 마련된 규율로, 아직 요건에 해당하는 AI는 없다”고 설명했다.

김경만 과기정통부 인공지능기반정책관실장은 “인간이 어떻게 AI를 통제 아래 둘 것인가에 대한 논의에서 출발한 규율”이라며 “통제 범위를 넘어서는 피해 가능성을 염두에 두고 설계한 것”이라고 했다.

EU 규제 단계적 집행한다지만…과징금 601억

AI 규제를 먼저 도입한 유럽연합(EU)은 AI Act를 위험 유형과 규율 영역별로 나눠 단계적으로 시행하고 있다. EU는 2024년 8월 거버넌스 규정을 시작으로, 2025년 2월 금지 AI 규제, 같은해 8월 범용 AI 규제, 그리고 이르면 올해 8월부터는 고위험 AI와 투명성 규정을 전면 적용할 예정이다.

EU의 투명성 의무 구조는 한국과 유사하다. 일반적인 AI 생성물에 대해서는 EU가 비가시적 표시를 허용하고 있으며, 한국 역시 비가시적 표시를 적용할 경우 AI 생성 사실을 안내하도록 규정하고 있다. 딥페이크 생성물에 대해서는 양측 모두 사람이 명확히 인식할 수 있는 가시적 표시를 요구한다. 예술·창작물에 대해서는 EU와 한국 모두 비가시적 표시를 허용해 적용 범위를 완화했다.

고위험 AI도 정의나 적용 영역은 유사하다. EU는 안전과 기본권에 부정적인 영향을 미치는 AI를 고위험 AI로 규정하고 있다.

다만 의무 부과에 있어서는 차이가 있다. EU는 고위험 AI 제공자에게 적합성 평가를 중심으로 위험관리, 기술문서 작성, 로그 관리, 정보 제공, 사람의 감독, 보안 조치, 데이터베이스 등록, 품질관리 시스템 운영 등을 폭넓게 요구한다. 배포자에게도 모니터링과 영향평가 등 의무가 부과된다.

안전성 확보 의무의 적용 기준은 한국보다 높다. EU는 학습 누적 연산량 10의25승 플롭스 이상을 기준으로 삼았다.

특히 제재 수준에서 차이가 크다. EU는 규제 위반시 3500만 유로(약 601억원) 또는 전세계 연간 총매출의 7% 중 높은 금액을 과징금으로 부과한다.

[서울=뉴시스] 배경훈 부총리 겸 과기정통부 장관이 22일 시행되는 AI 기본법과 관련해 "규제를 위한 법이 아니라 신뢰를 기반으로 한 성장 토대를 만들기 위한 법"이라고 밝혔다. 배 부총리 페이스북에 게재된 사진으로 AI가 생성했다. (사진=배경훈 부총리 페이스북) *재판매 및 DB 금지

韓 1년 이상 유예…지원데스크 운영하고 선제 사실조사 안해

정부는 전면 시행이라는 형식과 달리 실제 규제 집행은 계도와 지원 중심으로 운영하겠다는 방침이다.

투명성·안전성·고영향 AI 관련 규율에 대해서는 최소 1년 이상 사실조사와 과태료 부과를 유예하고, 현장의 준비 상황과 해외 기술·규제 동향을 보면서 운영한다는 계획이다. 유예 기간 동안 위반 여부를 전제로 한 조사보다는 AI 기본법 지원데스크를 통해 기업 질의와 애로사항을 먼저 접수하고 설명 자료 제공과 컨설팅을 진행한다.

특히 중소기업과 스타트업의 혼선을 줄이기 위해 법 적용 여부가 불명확한 사안에 대해서는 상담과 안내를 우선하며, 상담 내용은 비공개로 관리하고 익명 상담을 원칙으로 한다.

사실조사의 경우 신고가 접수되더라도 먼저 착수하지는 않는다. 인명사고나 인권 침해 등 사회적 문제를 야기하거나 국가적 피해를 초래한 경우에 한해 예외적으로 조사에 나선다는 방침이다.

제재 수위도 최소 수준으로 설계됐다. AI 기본법에는 형사 처벌 조항이 없고, 위반 시에도 시정명령을 이행하지 않은 경우에 한해 최대 3000만원의 과태료만 부과된다. 과기정통부는 “사업자를 처벌하기 위한 법이 아니라 국민이 안심하고 AI를 이용할 수 있는 최소한의 신뢰 기반을 마련하기 위한 법”이라고 밝혔다.

배 부총리는 "AI 산업 현장에서 제기되는 규제 부담과 불확실성에 대한 걱정 역시 정부는 엄중하게 인식하고 있다"며 "산업계의 목소리에 충분히 공감하며, 제도가 현장의 혁신을 위축시키는 방향으로 작동해서는 안 된다는 점을 분명히 말씀드린다”고 강조했다.

이어 “AI기본법은 대한민국이 ‘AI를 잘 만드는 나라’를 넘어 ‘AI를 가장 잘 활용하고 신뢰받는 AI 기본사회’로 도약하기 위한 첫걸음”이라고 덧붙였다.


◎공감언론 뉴시스 [email protected]