국회 논의중인 인공지능법안

우선허용 사후규제 원칙 채택…

사전규제 엄격제한 우려 목소리

전문가들 앞다퉈 잠재 위험 경고

전세계 개발자·기업도 적극나서

사전규제 필요성 주장…'역설적'

우선허용 원칙따라 제공된 서비스

손해 발생땐 입증·구제 사실상 불가

윤리문제·소비자 보호 등 보완 필요

인공지능의 윤리적 개발과 보호장치 등 규제 마련이 필요하다는 지적이다. 우리나라의 우선허용, 사후규제 원칙에 따르게 되면 발생한 손해를 입증하고 구제받는 것은 사실상 불가능하게 된다는 주장이다. 인공지능 시스템이 광범위한 소비자 피해를 발생시킬 가능성이 있는 점을 고려하면 소비자 보호 및 소비자 권익을 반영하는 보완 입법이 필요하다는 주문이다.

'EU와 미국은 왜 인공지능을 규제하려는가?' 토론회가 20일 오후2시 국회의원회관 제6간담회실에서 열렸다.

더불어민주당 장경태 국회의원은 "더 많은 시간과 노력을 들이더라도 인공지능 기술의 윤리적 활용과 예상치 못하게 발생할 수 있는 사회적 갈등을 최대한 점검해야 한다"며 "유럽연합과 미국의 입법례는 물론 더 다양한 가능성을 충분히 검토해 나가야 한다"고 했다. 

토론에 앞서 유승익 한동대학교 연구교수와 허진민 참여연대 공익법센터 소장이 각각 '인공지능이 인권과 민주주의에 미치는 영향과 인공지능법안의 쟁점', '유렵연합 인공지능법의 내용 및 시사점'을 주제로 발제했다.

유승익 교수는 "인공지능의 위험성에 대한 입법적 대응은 신약에 대한 검증 통제에서 배울 필요가 있다"며 "우선허용 사후규제 원칙으로는 인공지능의 잠재적 위험성에 대비할 수 없다"고 지적했다. 아울러 "인공지능은 인간 정신의 깊숙한 영역까지 조정할 수 있는 침습적 기술로 활용될 수 있으므로 장단기적 안전성을 검증하기 위한 제도적 장치가 마련돼야 한다"고 말했다.

이어 "세계적으로 인공지능에 대한 규제정책은 일반 산업이나 디지털 및 인터넷 경제에 대응하는 정책적 경향과 차별화되고 있다"며 "인공지능 기술 제품 서비스가 갖는 잠재적 위험성을 경고하면서 인공지능 개발자와 기업이 스스로 사전 규제의 필요성을 주장하는 역설적 상황도 펼쳐지고 있다"고 말했다. 또 "기술로서 인공지능의 지속가능한 운영을 위해서는 세계적 입법경향에 부합하는 규제 거버넌스가 구축돼야 한다"고 했다.

허진민 변호사는 "현재 국회에서 논의되고 있는 인공지능법안의 내용에는 지능정보사회 윤리 가이드라인과 인공지능 윤리기준에서 제시한 내용들이 구체화되지 않았음을 알 수 있다"고 했다.

특히 "인공지능법안은 지능정보사회 윤리 가이드라인에서 제시한 개발자, 공급자, 사용자가 준수해야 할 세부적 내용보다 구체적이지 않다"고 지적했다.  또한 "인공지능 윤리기준에서 제시한 책임성, 안정성, 투명성의 핵심 요건들이 반영되지 않았다"며 "이처럼 인공지능법안은 대폭적인 법안의 수정이 필요한 것으로 생각된다"고 말했다.

토론에는 장여경 사단법인 정보인권연구소 이사와 허유경 소비자시민모임 이사, 전진한 보건의료단체연합 정책국장, 최동원 과학기술정보통신부 인공지능기반 정책국 과장, 이병남 개인정보보호원회 정책국 과장, 강승빈 공정거래위원회 시장감시정책과 서기관, 박소현 국회입법조사처 입법조사관, 김재석 국가인권위원회 인권정책과 과장, 김영규 인터넷기업협회 정책1실장이 패널로 참여했다.

장여경 상임이사는 "미국법안의 강점으로 고위험 시스템이 아닌 중요한 의사결정 프로세스를 규제하는 데 초점을 맞춤으로써 시스템이 무엇인지에 대한 존재론적 질문을 피하고 의사 AI 결정 프로세스에서 자동화 수준은 스펙트럼의 정도 차이로 취급될 수 있도록 하고 있다"고 했다. 아울러 "인공지능에 대한 특정 기술 종속성을 벗어날 수 있어 미래 기술에 대해 확장성이 있다"고 설명했다.

다만, "미국 법안이 추구하는 동등성의 가치들이 상호 충돌될 수 있다"며 "예를 들어 의사 결정 프로세스의 전반적인 정확성을 향상시키는 한편으로 모집단의 특정 하위 그룹을 차별할 위험이 있다"고 말했다.

개인에 대한 동등한 대우, 인구통계학적 동등성, 기회의 평등 역시 상호 배타적일 수 있고 특정 지표를 평가에서 제외해 차별적인 결과를 모호하게 만들 수도 있다는 것이다.

허유경 변호사는 "현재 국회에서 논의 중인 인공지능법안은 우선허용 사후규제 원칙을 채택해 사전규제를 엄격히 제한하고 있다"고 밝혔다.

이어 "우선허용 원칙에 따라 이미 개발 제공된 인공지능으로 인하여 발생한 손해를 입증하고 구제받는 것은 사실상 불가능하지 않을까 우려된다"며 "인공지능이 소비자 편익 및 효용 증대 등 소비자 권익에 기여하는 측면도 있지만, 인공지능 시스템이 불가역적이고 광범위한 소비자 피해를 발생시킬 가능성이 있는 점을 고려하면 소비자 보호 및 소비자 권익을 반영하는 보완 입법이 필요하다"고 강조했다.

전진한 국장은 "시민사회는 발달된 기술을 적용하는데 반대하지 않는다"며 "오히려 제대로 된 검증이 있고 그것이 보편적 공공 이익으로 돌아올 때 기술은 사회적 신뢰를 얻을 수 있다"고 했다.

전 국장은 이어 "사실상 모든 영역에서 우선허용 사후규제라는 망령이 스멀스멀 자라나고 있다며, 이 인공지능법은 당연히 폐기되거나 재검토되어야 한다"고 주장했다

박소현 입법조사관은 "사후규제라는 방식이 인공지능의 잠재적 위험성과 파급력 관리라는 관점에서 매우 부적절하며 현 상태에서 의무이행을 강제할 수 있는 실효적 제재수단이 마련돼야 한다는 점에서 두 발제자분들의 문제의식과 향후 과제에 대해 전적으로 동의한다"고 말했다.

김재석 과장은 "인공지능 기술 및 산업의 진흥도 중요하지만 이러한 문제점이 최소화될 수 있도록 관련 법령 제도를 잘 정비하는 것 역시 무척 중요하다"고 강조했다.

김영규 실장은 "인공지능과 고위험 영역이라는 부분에 정부 전문가 집단, 이해관계자 등 신중한 논의를 통한 사회적 합의에 의한 입법이 진행되기를 바라고 현재 정부에서 이 부분과 관련해서 프로세스를 진행 중인 것으로 알고 있어 보조를 맞추어 진행되기를 희망한다"고 밝혔다.

한편 EU와 미국은 왜 인공지능을 규제하려는가? 토론회는 더불어민주당 장경태 국회의원, 황운하 국회의원, 정의당 장혜영 국회의원 등이 주최했다.