[대한경제=이근우 기자] 대한민국이 세계 최초로 ‘인공지능(AI) 발전과 신뢰 기반 조성 등에 관한 기본법’ 전면 시행에 나선다. AI법은 유럽연합(EU)이 먼저 만들었지만 EU가 단계적으로 시행하기로 하면서, 한국이 가장 빨리 전면 시행하는 나라가 됐다.

AI 산업 경쟁력 강화와 안전하고 신뢰할 수 있는 기반을 조성하게 될 것이라는 기대와 함께, 해외 빅테크와 비교해 역차별당하는게 아니냐는 우려의 목소리가 뒤섞이고 있다. 이에 정부는 규제보다는 산업 진흥에 방점을 뒀다고 거듭 강조했다.

과기정통부 전경. /사진: 대한경제 DB

21일 과학기술정보통신부에 따르면 AI기본법은 지난 2024년 12월 여야 합의를 거쳐 국회를 통과했고, 세계에서 두번째로 제정됐다. 전면 시행은 22일부터고, 1년 이상의 계도기간 운영방침 아래 사실조사 및 과태료 부과가 유예된다.

과기정통부 측은 “AI기본법은 산업 진흥에 방점을 두고, 필요최소 규제 원칙 아래 AI사업자에 대한 의무사항이나 제재는 최소화하고, 산업 진흥을 위한 사항은 폭넓게 반영한게 특징”이라고 설명했다.

일단 사회적 우려가 큰 딥페이크 생성물에 대해서는 사람이 명확히 인식할 수 있는 표시를 의무화했다. AI 생성물 표시 의무의 경우 AI 생성 결과물이 ‘서비스 환경 내에서만 이용되는 경우’와 ‘외부로 반출되는 경우’를 구분해 기술적ㆍ현실적 여건을 고려한 기준을 마련했다.

AI 생성물이 서비스 환경 내에서만 제공될 때는 사용자 이용 환경(UI)나 로고 표출 등을 통해 유연하게 표시할 수 있다. 예를 들어 챗봇 등 대화형 서비스는 이용 전 안내나 화면 내 로고 표출을 인정하며, 게임ㆍ메타버스는 로그인시 안내나 캐릭터에 AI임을 표시하는 방식 등을 허용했다.

AI 생성 결과물을 외부로 반출하는 경우에는 보다 확실한 표시 적용이 요구된다. AI로 생성된 텍스트, 이미지, 영상 등을 다운로드ㆍ공유할 때는 ‘사람이 인식할 수 있는 방법(가시ㆍ가청적 워터마크 등)’으로 표시하거나, 문구ㆍ음성 안내 제공 후 ‘기계가 판독할 수 있는 방법(메타데이터 등)’을 AI 생성 결과물에 적용하도록 했다.

특히 실제와 구분하기 어려운 가상의 생성물(딥페이크 등)은 이용자의 혼란을 막기 위해 반드시 사람이 명확하게 인식할 수 있는 방법으로 표시하도록 했다.

과기정통부 관계자는 “AI 생성물에 대한 워터마크 적용은 딥페이크 오용 등 기술의 부작용을 막기 위한 최소한의 안전장치”라며 “이미 주요 글로벌 기업이 도입하고 있다”고 설명했다.

‘고영향 AI’ 제도도 도입했다. 이는 에너지, 먹는물, 의료ㆍ보건의료, 원자력, 범죄 수사, 채용, 대출 심, 교통, 공공서비스, 교육 등 법에서 정한 10개 영역에서 활용되는 경우로 한정된다. 사업자에게는 △위험 관리 방안의 수립ㆍ운영 △이용자 보호 방안 수립ㆍ운영 △안전성ㆍ신뢰성 확보 조치 내용의 문서 작성ㆍ보관 등의 책무가 부과된다.

스타트업 업계에서는 고영향 AI 지정 기준, 데이터셋 투명성 요구, 생성물 표시 의무 등을 부담으로 꼽았다. 이에 정부는 법 시행 이후 최소 1년 이상의 규제 유예 기간동안 ‘AI기본법 지원 데스크’를 중심으로 컨설팅과 계도에 주력할 방침이다.

한편 과기정통부 측은 국내 AI 기업을 2500곳으로 추산하고 있으며, 이 중 실제 AI기본법 적용 사정권에 들어오는 사업자는 1800개 정도 되는 것으로 파악하고 있다.

과기정통부 관계자는 “AI가 경제ㆍ사회ㆍ문화ㆍ국방ㆍ안보 등 모든 영역에 걸쳐 일상화되는 상황”이라며 “해외 법 규범 동향 및 기술발전 추세를 면밀히 모니터링하면서 유연하게 대처할 계획”이라고 했다.

이근우 기자 gw89@

〈ⓒ 대한경제신문(www.dnews.co.kr), 무단전재 및 수집, 재배포금지〉