KT 충남충북광역본부가 충청북도, 충북과학기술혁신원과 청남대에 AI 안내 로봇, 순찰 로봇을 도입했다고 지난 13일 밝혔다. 사진은 청남대 대통령기념관에서 관람객들이 안내 로봇에게 관람 정보를 안내받는 모습. /사진: 연합뉴스

인공지능(AI) 산업 육성과 신뢰성 확보를 위한 인공지능 기본법안이 여야 입장차로 장기간 표류하고 있다. 지난 2월 소관 상임위의 법안소위에서 ‘대안’이 가결됐지만 지금까지 7개월째 상임위 전체회의에 상정되지 못하고 있다. 야당은 소위 가결 이후 상황이 많이 바뀌었기 때문에 대안을 수정해야한다는 입장이고, 여당은 법안 발목을 잡기 위한 구실에 불과하다며 야당에 대한 불신을 드러냈다.

과학기술정보방송통신위(과방위) 법안소위는 지난 2월14일 기존에 발의된 인공지능 관련 법안 7건(이상민·양향자·민형배·정필모·이용빈·윤영찬·윤두현 의원 각각 대표발의)을 병합심리해 ‘소위 대안’을 가결했다. 대안 마련 과정에서 맨 나중에 발의된 윤두현 의원안이 중심이 됐고 야당에선 정필모 의원안이 비중 있게 고려됐다.

당시 회의록에 따르면, 대안에는 과학기술정보통신부장관이 3년마다 ‘인공지능 기본계획’을 수립·시행하도록 규정하고 있고, ‘인공지능위원회’, ‘인공지능 신뢰성 전문위원회’, ‘국가인공지능센터’ 등 관련 조직 신설 조항이 담겨 있다. 국가 및 지자체가 인공지능기술 연구·개발 기업, 기관, 단체 등의 집적화를 위해 ‘인공지능집적단지’를 지정해 지원할 수 있다는 내용도 담았다.

규제에 대해선 ‘우선 허용·사후 규제 원칙’을 세웠다. 즉, 인공지능기술의 연구·개발 및 제품 또는 서비스 출시를 허용하는 것을 원칙으로 하되, 기술·제품·서비스가 국민의 생명·안전·권익에 위해가 되거나 공공의 안전 등을 현저히 저해하는 경우 제한할 수 있다는 것이다.

구체적인 조항은 이른바 FATE(공정성, 책임성, 투명성, 윤리의식 등)를 기준으로 마련됐다. ‘인공지능의 개발·활용 등은 인간의 생명과 신체적·정신적 건강에 해가 되지 않도록 안전성과 신뢰성을 기반으로 이뤄져야한다’는 조항은 ‘윤리의식’과 연결된다. ‘고위험 영역에서 활용되는 인공지능을 이용해 제품 또는 서비스를 제공하려는 자는 이런 사실을 이용자에게 사전에 고지해야 한다’는 내용은 ‘투명성’을 고려한 조항이다.

소위 대안 이후 지난 8월 안철수 의원이 대표발의한 ‘인공지능 책임 및 규제법안’은 FATE 개념을 보다 충실히 반영하고 있다. ‘고위험인공지능이용사업자는 고위험 인공지능의 개발·이용과정에서 나타날 수 있는 위험을 구체적으로 평가하기 위해 자체 적합성평가 및 영향평가를 지속적으로 실시해야 한다’는 조항은 ‘책임성’에 근거한 내용이다.

투명성의 경우도 ‘고위험인공지능이용사업자는 이용자의 생명이나 신체의 안전에 중대한 위험이 발생할 가능성이 있는 경우 이용자가 그 위험성에 대해 이해할 수 있도록 설명해야 한다’고 규정해 ‘고지’가 ‘설명’으로 강화됐다. ‘고위험인공지능의 개발 또는 이용 사업자가 법에 따른 의무 위반으로 이용자에게 손해가 발생한 경우 손해배상 책임이 있다’고 강력한 ‘책임성’ 조항도 넣었다.

이와 관련, 소위 위원장인 조승래 민주당 의원은 전화통화에서 “소위에서 대안이 통과된 이후에 초거대 AI가 나와 AI 개념 자체가 확 바뀌었기 때문에 AI법은 안전성에 대한 검토라든지, 위험에 대한 고려에서 달라져야 한다”면서 “과기부한테 변화된 현실을 반영한 조정안을 빨리 갖고 오라고 여러 차례 얘기했는데 응하지 않고 있다”고 입법 지연 책임을 과기부로 넘겼다.

반면, 윤두현 국민의힘 의원은 “과기부는 AI 진흥을 하든 규제를 하든 법적 근거가 있어야 되니기본법이 필요하다는 입장이다. 우리 당도 1순위는 우주항공청설치법안이고 그 다음이 AI 법안이다”면서 “민주당은 ‘방송법안을 처리해줘야한다, 뭐해야 한다’면서 시간을 끌고 있다. 법안을 쥐고 그냥 버티고 있는 것”이라고 했다.

지난 2월 대안 의결 때 소위에 참석했던 같은 당 홍석준 의원은 ‘대안 수정이 필요하다’는 조 의원 발언에 대해 “그것도 논의할 수 있지만, 민주당 보이콧으로 회의 일정이 잡히지 않는다”고 윤 의원과 같은 기조로 말했다.

과방위는 전체 의원 20명 중 민주당 11명, 국민의힘 7명, 무소속 2명(여야 성향 각 1명)으로 구성돼 있다. 상임위원장이 국민의힘 소속(장제원 의원)이지만, 압도적 다수를 차지하는 민주당이 반대할 경우 법안 통과는 힘들다. 최근 야당 대표 체포동의안 가결 등으로 여야 관계가 더욱 얼어붙었기 때문에 법안의 ‘운명’ 자체가 불투명한 실정이다. 다만 민주당이 법안 처리에 응해 소위 대안 수정에 나설 경우 민주당이 거론한 ‘현실 변화’에 맞춘 안철수 의원 안이 많이 참고될 것으로 관측된다.

민주, ‘국가첨단전략기술에 AI 지정’ 더 관심…‘AI기본법’ 원하는 여당과 타협 가능성

최근 더불어민주당은 ‘인공지능(AI) 기본법’ 제정보다 국가첨단전략기술 목록에 인공지능을 추가 지정하는 문제에 더 관심을 보이고 있다. 박광온 전 더불어민주당 원내대표가 지난 18일 국회 교섭단체 대표연설에서 “국가첨단전략기술에 AI를 추가로 지정하겠다”고 밝힌 것도 같은 맥락이다.

국가첨단전략기술은 ‘국가첨단전략산업 경쟁력 강화 및 보호에 관한 특별조치법’에 정의돼 있는데, 공급망 안정화 등 국가·경제 안보에 미치는 영향 등이 큰 기술로서 산업통상자원부장관이 지정한다. 또 전략기술을 기반으로 제품 및 서비스를 생산해 사업화하는 산업을 ‘국가첨단전략산업’이라고 한다.

현재 ‘국가첨단전략기술 지정 등에 관한 고시’에 규정돼 있는 국가첨단전략기술로는 반도체(8개), 디스플레이(4개), 이차전지(3개), 바이오(2개) 등 4개 분야, 19개 기술이 지정돼 있다. AI는 여기에는 포함돼 있지 않고, 과학기술방송통신부 소관인 국가전략기술 12개 목록에 들어가 있다.

국가첨단전략기술로 지정되면 관련 교육·연구·산업시설이 혁신생태계를 이뤄 투자 및 기술개발이 촉진되도록 하기 위해 산업통상자원부장관이 ‘국가첨단전략산업 특화단지’를 지정할 수 있다. 특화단지 입주기관에 대해선 국가 또는 지방자치단체가 설비투자, 연구시설 등 인프라 투자 소요 비용의 전부 또는 일부를 우선 지원할 수 있다. 전략기술 및 산업의 혁신발전과 투자촉진을 지원하기 위해 관련 기업에 조세 감면이 가능하고, 안정적인 산업 공급망 확보 등을 위해 신속 추진 필요성이 인정된 사업에 대해선 예비타당성조사가 면제될 수도 있다.

이와 관련 과방위 민주당 간사인 조승래 의원은 “업계의 요구도, AI기본법도 중요하지만, 산업 육성을 위해 산업부 소관인 첨단전략기술에 AI를 포함해달라는 것이다”면서 “그래야 투자 같은 걸 할 때 혜택을 받을 수 있다”고 말했다. 그는 이어 “네이버나 카카오 경우도 초거대 AI를 위해 R&D를 엄청나게 하고 있다”면서 “차라리 세액 공제를 좀 해주면 좋겠다는 게 요구인 것이지 과방위 AI법에 대해선 관심이 없더라”고 덧붙였다.

정치권 일각에선 여당의 관심사인 ‘AI기본법 제정’과 야당이 원하는 ‘국가첨단전략기술에 AI 지정’ 요구를 서로 교환해 동시 관철하는 방식으로 교착 국면 타개 가능성이 점쳐진다.

안철수 의원 법안, AI 책임과 규제에 큰 비중

안철수 국민의힘 의원이 지난달 8일 대표발의한 ‘인공지능 책임 및 규제법안’은 앞서 발의된 법안들과 상당한 차이가 있다. 법안명부터 기존 법안들은 ‘산업 진흥’, ‘산업 육성’이란 단어를 많이 사용해 ‘산업 진흥’에 무게중심을 두고 ‘신뢰 확보’ 등은 부차적인 사안으로 취급했으나, 안 의원 법안은 인공지능의 위험성을 부각하며 ‘책임’과 ‘규제’에 중점을 뒀다. 안 의원은 법안 제안이유에서 “인공지능기술이 특정 분야에서 인간의 통제수준을 넘어서서 고의적으로 악용될 수 있는 문제에 대한 법적 규제의 필요성이 있다”면서 “인공지능의 부작용과 위험이 무엇인지 정확하게 파악하고 인공지능 규제 정책을 형성해 나가야할 것”이라고 강조했다.

안 의원 안에서 가장 두드러지는 대목은 인공지능을 ‘금지된 인공지능’, ‘고위험 인공지능’, ‘저위험 인공지능’ 등 3가지로 구분한 뒤 그에 맞는 시책을 마련토록 했다는 점이다. 앞서 발의된 정필모(특수한 영역에서 활용되는 인공지능), 윤두현(고위험 영역에서 활용되는 인공지능), 황희(고위험인공지능) 의원 안은 사실상 ‘고위험 인공지능’에 대해서만 규정하고 있고, 나머지 법안들은 그런 개념조차 없지만 안 의원안은 이를 세분화한 것이다.

‘금지된 인공지능’은 ‘인류평화, 인간의 존엄성, 자유와 평등, 민주주의, 기본권에 대한 침해의 위협이 명백하다고 간주되는 인공지능’으로 정의한 뒤, 누구든지 개발하거나 이용해선 안된다고 규정했다. 구체적 사례로는 △특정인의 생각과 행동을 현저하게 왜곡하기 위해 잠재의식을 활용하거나 그가 속한 집단의 취약성을 활용하는 인공지능 △법 집행을 위해 실시간 원격 생체인식을 활용하는 인공지능 등을 예로 들었다. 다만 △범죄피해자 및 실종아동 등에 대한 수색 △특정인의 생명이나 신체적 안전 또는 테러 공격에 대한 실질적이고 임박한 위협의 예방 △범인 검거에 필요한 경우 등에는 예외적으로 허용했다.

‘고위험인공지능’은 ‘사람의 생명, 신체의 안전 및 기본권의 보호에 중대한 영향을 미칠 우려가 있는 영역에서 활용되는 인공지능’으로, 신뢰성과 안전성을 확보하기 위한 조치를 하도록 했다. 법안은 고위험 인공지능으로부터 이용자 보호를 위한 정부의 역할, 사업자의 책무, 이용자의 권리 등을 규정하는 데 많은 조항을 할애했다.

고위험인공지능의 사례로는 △에너지, 먹는물 등의 공급을 위해 사용되는 인공지능 △보건의료의 제공 및 이용체계 등에 사용되는 인공지능 △의료기기에 사용되는 인공지능 △핵물질과 원자력시설의 안전한 관리 및 운영을 위해 사용되는 인공지능 △채용, 신용등급평가, 대출 심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 또는 평가 목적의 인공지능 △국민을 평가, 분류, 통제하는 의사결정에 사용되는 인공지능 등을 들었다. 

‘금지된’과 ‘고위험’에 해당되지 않는 나머지는 ‘저위험 인공지능’으로 분류됐다. 저위험 인공지능의 개발 및 이용은 원칙적으로 허용하되, 이용자의 생체정보를 감지해 상호작용을 하는 경우 또는 사진·음성·영상 등을 실제와 같이 만들어 내는 경우에는 해당 사실을 공시하도록 했다.

인류의 운명 걸린 인공지능 ‘FATE’

전문가들은 인공지능의 안전성과 신뢰성을 담보하기 위해 공정성(Fairness), 책임성(Accountability), 투명성(Transparency), 윤리의식(Ethics)이라는 4가지 기준을 제시하고 있다. 앞 글자만 따서 FATE로 불리는데, 영어로 ‘운명’을 뜻한다. 이들 기준을 얼마나 충실히 지키느냐에 따라 인류의 운명이 좌우된다는 식으로 해석되기도 한다.

먼저 ‘공정성’은 인공지능이 기존에 만들어진 데이터를 이용하기 때문에 인간이 지니고 있는 편향과 차별을 답습해 불평등을 재생산할 수 있다는 우려에서 중요시된다. 편향·차별의 재생산은 금융, 고용, 건강 등에서 특정 집단에게 불공정하게 할당하거나, 고정관념을 갖게 해 사회적 약자 위치를 고착화할 수 있다. 공정한 인공지능 개발 및 활용이 중요한 요소로 여겨지는 이유가 여기에 있다.

‘책임성’은 인공지능을 설계･개발･배포･운용하는 자가 시스템이 적절하게 기능하도록 설계하고, 지속적으로 관리 감독하는 체계를 구축해 부작용이 발생하는 것을 방지하도록 하는 것이다. 해당 사업자는 데이터의 출처, 품질, 신뢰성을 점검하고 시스템이 의도치 않은 위험을 유발하는지 확인하는 내부 거버넌스를 구축할 필요가 있다.

‘투명성’은 인공지능이 해당 영역에서 사용된다는 사실뿐만 아니라 인공지능이 사용하는 데이터, 변수, 알고리즘 작동 방식에 대한 기본 정보가 제공될 필요가 있다는 것이다. 인공지능의 결정 과정에 대한 설명이 부족하면 그 결과를 분석할 수 없어 신뢰성이 떨어지고, 인공지능이 유발한 사고와 문제에 대한 해결책과 책임소재를 논하기 어렵게 된다.

‘윤리의식’은 인공지능 기술이 각종 범죄에 악용되지 않도록 하고, 인권을 존중하고 민주적 가치를 보장하며 인류의 공동이익을 위하는 방향으로 활용되기 위해 필요하다. 인공지능을 활용하는 사업자는 자신의 시스템이 오·남용되고, 사회에 악영향을 끼칠 위험성이 있다는 것을 인식하고, 지속적으로 감시하며 이를 방지하기 위해 노력해야 한다.

권혁식 기자 kwonhs@

〈ⓒ 대한경제신문(www.dnews.co.kr), 무단전재 및 수집, 재배포금지〉