'고영향 AI' 협소한 범위, 시민 권리 구제 미비 등 비판 AI 기본법 통과된 뒤 국회에 발의된 개정안 비교해보니
[미디어오늘 노지민 기자]



▲AI 기본법 관련해 구글 제미나이로 생성한 이미지



지난 22일 '세계 최초'로 시행된 인공지능 기본법(AI 기본법)을 두고 산업 육성에만 치우쳐 시민의 안전과 인권을 외면했다는 우려가 나오고 있다. 국회에선 AI 기본법을 보완하기 위한 관련 황금성오락실 법 개정안들이 속속 발의되고 있고, 시민사회도 조속한 법 개정을 촉구하고 있다.

시민사회에선 지금의 AI 기본법은 '고영향 AI'의 위험으로부터 시민들의 안전과 인권을 보호할 수 있는 조항이 미비하다고 지적해왔다. AI 기본법은 '고영향 인공지능'을 에너지 공급, 먹는 물, 보건의료(기기), 원자력 시설, 범죄 수사를 황금성오락실 위한 생체인식정보, 채용·대출심사 등 판단·평가, 교통 수단·시설·체계, 공공기관 의사결정, 유아교육·초·중등 교육 학생 평가 등 영역에서 “사람의 생명·신체 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능 시스템”으로 규정한다.
관련해 디지털정의네트워크·민주사회를위한변호사모임 디지털정보위원회·정보인권연구소·참 야마토게임 여연대 등 정보인권단체들은 지난 23일 AI 기본법에 대해 △'금지해야 할 AI' 규정이 없고 △고영향 인공지능 범위가 협소하고 △국방·국가안보 목적 AI에 대한 법 적용을 광범위하게 배제하고 △고영향 AI 사업자 책무를 구체적으로 규정하지 않으면서 이조차 1년 유예했고 △투명성 규정이 미흡하고 △AI로 '영향받는 사람'의 권리·구제 조치는 규정하지 않고 릴게임뜻 있다는 등의 문제를 제기했다.
AI 기본법이 창작자 권리를 도외시했다는 지적도 이어지고 있다. 지난 13일 한국디지털콘텐츠창작자협회, 한국방송협회, 한국음악실연자협회 등 16개 창작자 단체들은 관계 부처가 법적 불확실성 없이 저작물을 활용할 수 있도록 'AI 기본법' 개정이나 'AI 특별법' 제정을 하도록 한 '대한민국 AI 행동계획안'이 바다이야기모바일 “사기업을 위한 편향적 정책”이라고 비판했다. 이에 앞서 지난해 15개 창작자 단체들은 AI 기본법에 학습 창작물에 대한 투명한 공개 및 저작권법 준수 의무를 반영해야 한다고 요구한 바 있다.

최민희·이훈기·김우영·정춘생 의원 'AI 기본법' 개정안 내용은


이런 가운데 국회에선 지난해 12월 AI 기본법이 통과된 이래 현재까지 4건의 AI 기본법 개정안이 발의됐다. 대체로 AI 관련 이용자 보호 및 구제 조치에 관한 법률안들이다.

국회 과학기술정보통신위원장인 최민희 더불어민주당 의원 등 15인은 지난달 16일 '고영향 인공지능'에 대해 이용자의 설명요구권과 이용자 보호 업무 평가제를 별도 규정하는 개정안을 발의했다. AI 분쟁조정위원회를 신설해 AI 제품·서비스 이용으로 인한 분쟁을 조기에 해결하고, AI 사업자가 이용자 보호 업무 평가를 위한 자료 제출 명령을 이행하지 않으면 1000만 원 이하의 과태료를 부과하도록 했다.
20명 이내의 분쟁조정위원 자격은 공공부문나 관련단체, 대학 등 공인된 연구기관, 판사·검사 또는 변호사 경력자, 시민사회·소비자 단체 추천, 사업자단체 임원 재직 경험이 있는 자 등으로 규정했다.
이훈기 민주당 의원 등 13인은 지난달 17일 '금지된 인공지능' 정의를 골자로 AI 기본법 개정안을 발의했다. '금지된 인공지능'은 “인간의 존엄과 가치를 침해하거나 침해할 현저한 우려가 있어 개발·이용이 금지되는 인공지능시스템”으로 규정했다. 구체적으로 사람의 잠재의식에 영향을 미치거나(의료·안전 목적 제외), 공중 장소에서 불특정 다수의 실시간 생체인식정보를 수집·처리하거나, 민감정보를 추론해 사람을 분류하거나, 법적 권한 없이 얼굴 이미지를 수집해 생체인식 데이터베이스를 생성·확정하거나, 인적 개입 없이 표적을 선정하고 무기를 운용하는 경우 등이다.
'금지된 인공지능'을 개발하거나 운영한 자는 7년 이하의 징역 또는 1억 원 이하의 벌금을 부과하는 처벌 규정도 뒀다. 다만 “공익상 불가피한 경우” 과학기술정보통신부(과기부) 장관이 심의를 거쳐 예외적으로 승인할 수 있도록 했다.



▲서울 여의도에 위치한 국회의사당 전경. 사진=국회



김우영 민주당 의원 등 25인은 이달 12일 '국민의 인공지능 활용 능력 향상'을 위한 교육 관련 규정을 두는 AI 기본법 개정안을 발의했다. 정부가 AI 활용 능력 교육 프로그램을 개발·보급하고, 디지털취약계층 교육을 지원하며, AI 윤리 교육 및 평생교육 체계 구축 등의 시책을 마련하도록 했다. 이에 더해 과기부 장관이 AI 활용능력을 검정할 수 있는 근거를 뒀다.

전세계적 우려가 높은 'AI 상담' 및 청소년 보호 문제에 관한 개정안도 발의됐다. 정춘생 조국혁신당 의원 등 10인은 지난 22일 사업자가 생성형 AI를 활용한 보건의료·법률·금융 등 전문분야 결과물이 전문가 판단을 대체할 수 없다고 고지(표시)하도록 하는 개정안을 발의했다. AI 사업자가 청소년 대상으로 AI 서비스를 제공할 경우 자살·자해 예방, 과의존 방지, 선정적·폭력적 내용 차단 등 기술적 조치를 이행할 의무도 규정했다. AI 사업자가 이 의무를 이행하지 않는 경우 과기부가 사실조사에 나서고, 법 위반 사실이 인정되면 과기부 장관이 위반행위 중지나 시정을 위한 필요한 조치를 취하도록 했다.
AI 생성물 고지 의무에 대해선 정보통신망법 개정안도 발의됐다. 지난 21일 조인철 민주당 의원 등 11인의 개정안은 AI로 생성해 실제와 구분하기 어려운 음향·이미지·영상 등 정보를 만들어 제공하려는 자의 고지(표시) 의무를 뒀다. 누구든 AI 생성물 표시를 훼손·위조·변조해선 안 되며, 정보통신서비스 제공자가 이를 위한 기술적·관리적 조치를 취하도록 했다. AI 생성물 표시 의무를 이행하지 않거나 표시 등을 훼손·위조·변조한 정보를 '불법정보'로 규정하는 내용도 담겼다. 표시 의무를 위반하고 국민 생명·재산 피해 우려되는 AI 생성물에 대해 관계기관장이 삭제를 요청하면 방송미디어통신위원회가 정보통신서비스제공자에 임시조치를 요청하고, 심의를 거쳐 해당 정보를 거부·정지·제한하도록 했다.

AI로 영향 받는 일반 시민·소비자 권리구제 위한 보완 입법 필요


향후 더 많은 AI 기본법 개정안이 나올 것으로 전망되는 가운데, 이미 시행된 AI 기본법에 대해 면밀하고 조속한 보완 입법이 필요하다는 요구가 나온다. 오병일 디지털정의네트워크 대표는 특히 유럽연합(EU)에 비해 협소한 '고영향 AI' 규정을 확대하고, AI에 의해 '영향 받는 자'인 시민의 권리 보장을 위한 법 개정이 필요하다고 강조했다. 오 대표는 “'AI 사업자'의 책무가 구체적이지 않은 문제점도 있지만 '이용자 보호 대책'만 있는 것도 문제다. AI를 병원에서 이용하면 병원이, 회사가 채용에 쓰면 회사가 이용자인 것이다. 실제 영향 받는 사람들은 환자나 구직자 혹은 대출 신청자 같은 시민들”이라며 “EU에선 AI 프로바이더(provider) 책무도 있지만 '디플로이어'(deployer)' 즉 다른 사업자가 개발한 AI를 실제 이용하는 사업자가 합당한 책무를 지도록 하고 있다”고 강조했다.

아울러 오 대표는 “AI 기본법이 자주 개정이 될 필요가 있다. 예를 들어 코로나19 상황에서 감염병 예방법이 1년에 네 번씩 개정됐다. 법에 없지만 정책으로 만들어져야 할 것이 많았기 때문”이라며 “AI 기술이 발전하면서 계속 AI 기본법을 보완하는 작업들이 이뤄질 필요가 있다. 규범이 형성되어가는 과정에 합당한 조속한 개정이 이뤄져야 한다”라고 촉구했다.