오픈AI·구글 등 ‘국내 대리인’ 둬야…AI 규제 'EU·미국' 수준 안 넘도록 해야

과기정통부, AI 기본법 하위법령 초안 공개…의견수렴 거쳐 12월 확정

'필요 최소'에 방점…과태료 최소 1년 이상 유예, 부당 민원은 사실조사 생략

日 100만 이상 이용 등 해외 사업자 국대대리인 지정 기준 확정

[그래픽=뉴시스] 재판매 및 DB금지. 

[서울=뉴시스] 심지혜 기자 = 내년 1월 시행되는 인공지능(AI) 기본법에 따라 오픈AI의 GPT 시리즈, 구글의 제미나이 같은 해외 초거대 모델 사업자가 한국에서 서비스를 하려면 국내 대리인을 반드시 지정해야 한다.

또 연산량 10의26승 플롭스(부동소수점 연산) 이상 학습한 모델은 안전성 확보 의무를 지게 되며, 생명·신체·기본권에 영향을 미치는 고영향 AI는 별도의 위험 관리와 투명성 표시 절차를 따라야 한다.

정부는 AI 기본법이 다른 나라보다 앞서 강한 규제가 되지 않도록 한다는 점을 강조하며 산업계가 우려해온 규제 부담을 줄이고 진흥을 중심으로 한 정책 기조를 분명히 했다.

17일 과학기술정보통신부는 AI 기본법을 구체화할 하위법령으로 시행령과 함께 고시 2건, 가이드라인 5건을 공개했다.

과기정통부는 이날 공개한 하위법령과 관련해 이해관계지 의겸수렴 절차를 밟을 예정이다. 다음달 시행령에 대한 입법예고를 실시하고 연말에는 시행령을 포함한 고시와 가이드라인을 최종 확정할 계획이다.

안전·신뢰 관련 AI 중심 규제…해외 사업자 대리인 기준 마련

과기정통부는 이번에 제시한 하위법령이 AI 신뢰 기반 확립을 위해 필요 최소한의 규제만 담았다고 강조했다. 투명성·안전성 확보 의무와 고영향AI 확인·사업자책무, AI 영향평가 등 법률에서 정한 사항을 명확히함으로써 기업의 규제 우려와 불확실성을 완화한다는 취지다.

우선 투명성 강화를 위해 생성형·고영향 AI가 만들어낸 결과물은 반드시 AI가 개입했다는 사실을 이용자에게 알리도록 했다.

결과물에는 워터마크나 고지 문구를 삽입해 이용자가 AI가 만든 결과물이라는 점을 식별할 수 있도록 했다. 내부 실험이나 제한된 환경에서는 예외를 인정하지만, 국민이 사용하는 서비스라면 표시 의무가 원칙이다. 정부는 구체적인 표시 방법과 예외 범위는 가이드라인에 제시했다.

안전성 확보는 초거대 모델을 겨냥했다. 누적 학습량이 10의26승 플롭스이상인 고성능AI는 안전 확보 의무를 부담하도록 설정했다. 위험식별부터 평가,고려조치 시행 등을 의무적으로 이행해야 한다. 안전성 확보 대상은 미국 국가안보각서와 동일한 기준으로 설정했다.

고영향 AI의 경우 사람의 생명·신체·기본권에 직접적인 영향을 줄 수 있고 특정 영역에서 활용되는 AI 시스템으로 정의했다. 이는 기본권에 중대한 영향을 미치는 만큼 사용영역이나 기본권에 대한 위험의 영향, 중대성, 빈도는 물론 활용 영역별 특수성을 종합적으로 고려했다.

고영향으로 지정된 시스템은 단순히 표시와 고지에 그치는 게 아닌 정기적인 위험 관리 보고와 대응 체계를 의무적으로 이행해야 한다.

아울러 매출액(본사 기준) 1조원 이상이거나 AI 서비스 매출액 100억원 이상, 일평균 국내 이용자수 100만명 이상인 해외AI 기업은 국내 대리인을 반드시 지정해야 한다.정보통신망법·개인정보보호법 규정과 동일한 기준으로 오픈AI나 구글 등이 해당된다. 대리인으로 한국 내 법인이나 법무법인을 지정하는 것도 가능하다.

과기정통부는 해외 빅테크가 자국법 등을 내세우거나 AI 기본법이 과도한 규제라는 이유로 규정을 따르지 않을 경우에 대해 "AI 기본법이 유럽연합(EU), 미국 등 해외에서 적용되는 최소한의 규정을 반영했기 때문에 자국 규범과 비교해 따를 수 없다는 의견은 나오지 않을 것으로 본다"고 말했다.

[서울=뉴시스] 과학기술정보통신부가 AI 기본법을 구체화할 하위법령으로 시행령과 함께 고시 2건, 가이드라인 5건을 공개했다.  *재판매 및 DB 금지

처벌보다 '계도'…과태료 1년 이상 유예

하위법령에는 제재 수단도 포함됐다. 투명성 고지나 안전성 확보 의무를 위반하면 3000만원 이하의 과태료가 부과된다. 정부는 사실조사를 통해 법 위반이 확정되면 우선 시정명령을 내리고, 일정 기간 동안 시정이 이뤄지지 않을 때 과태료를 부과한다는 방침이다.

다만 정부는 즉각 처벌보다는 계도에 방점을 찍었다. AI 기본법 시행 초기 기업들의 혼란을 최소화할 수 있도록 실질적으로 규제 유예와 동일한 효과가 있는 과태료 계도기간을 두려고 한 것이다.

이에 과태료 부과는 최소 1년 이상의 계도기간을 두는 것이 유력하게 검토되고 있다. 최종적으로는 산업계 의견을 종합해 확정할 계획이다.

정부의 사실조사 권한도 제한적으로 설정했다. 단순 신고만으로 사업자를 조사하지 않고, 충분한 증거가 확보된 경우에만 조사가 가능하도록 했다. 악의적·부당한 목적의 신고는 아예 배제하기로 했다. 이는 인공지능 산업을 키우는 와중에 불필요한 행정 부담이나 규제 남용이 발생하지 않도록 하기 위한 장치로 풀이된다.

송도영 법무법인 비트 변호사는 "사실조사는 AI 오남용과 같은 문제 데이터 등 자료를 확보하는 등의 효과가 있다"며 "사실조사 자체를 유예하는 것보다 기업들에게 어떻게 해야 하는지 구체적으로 알려줌으로써 부담을 줄이는 게 맞다"고 말했다.

김경만 과기정통부 인공지능정책관은 "EU와 미국이 반영한 최소한의 규제 수준을 반영해서 만들었다"며 "해외 기업들이 자국 규범에선 이정도도 안하는데 한국이 이런것을 요구한다는 말이 나올 일은 없을 것"이라고 했다.

이어 "AI 기본법에 가능하면 느슨한 규제 체계를 담으려 했고 AI 산업 진흥에 초점을 맞췄다"며 "벤처나 스타트업 등 AI 산업계에서는 이 법을 또 다른 규제로 느낄 수 있지만 시민단체 등은 인권 보호 측면에서 더 강력한 규제를 원하는 상반된 상황인 만큼 필요 최소한의 규제만 담았다"고 부연했다.


◎공감언론 뉴시스 [email protected]