세계최초 AI규제법 EU 합의, 정책집행기구 위원장은 '세계 최초 AI법'임을 강조

세계최초 AI규제법 EU 합의, 정책집행기구 위원장은 '세계 최초 AI법'임을 강조

유럽연합(EU)에서 제안된 인공지능(AI)을 규제하기 위한 세계 최초 법안에 대해 유럽연합(EU)의 정책집행기관인 유럽위원회(EC), EU의 정책결정기관인 EU이사회, EU의 입법기관인 유럽의회의 3자 협의가 진행되고 있었는데, 마침내 합의에 이르렀습니다. EU AI 규제법은 2021년 4월 제안된 것으로 유럽 기업들로부터 강력한 항의를 받으면서 조정이 진행되고 있던 것이었습니다.

 

MEPs reached a political deal with the Council on a bill to ensure AI in Europe is safe, respects fundamental rights and democracy, while businesses can thrive and expand.

On Friday, Parliament and Council negotiators reached a provisional agreement on the Artificial Intelligence Act. This regulation aims to ensure that fundamental rights, democracy, the rule of law and environmental sustainability are protected from high risk AI, while boosting innovation and making Europe a leader in the field. The rules establish obligations for AI based on its potential risks and level of impact.

2023년 12월 8일(금) 심야부터 9일(토) 새벽까지 EU이사회·유럽의회·EC 3자 대표자가 기자회견을 열어, AI 규제법이 합의에 이르렀음을 발표했습니다. 기자회견에서 3자는 AI 규제법 합의는 격론 끝에 획기적인 성과이자 역사적인 것이라고 칭찬했습니다.

우르줄라 폰 데어 라이엔(Ursula Gertrud von der Leyen) EU 위원장도 자신의 X(옛 Twitter) 계정으로 AI 규제법 합의를 발표했습니다. 라이엔 위원장은 X에서 '세계 최초의 AI법'입니다. 신뢰할 수 있는 AI 개발을 위한 독자적인 법적 틀이 됩니다. 그리고 사람들과 기업의 안전과 기본적 권리를 위한 법률이 될 것입니다. 우리는 정치적 가이드라인을 도입하는 약속을 실행하고 그것을 실행합니다. AI법의 정치적 합의를 환영합니다라고 게시하고 있습니다. 라이엔 위원장은 EU의 위원장으로 취임할 때 AI 규제법 제정을 자신의 임기 우선사항으로 꼽았던 인물입니다.

3자회담에서 마침내 합의에 이른 AI 규제법의 완전한 세부사항은 최종 법안이 수정·공개될 때까지 밝혀지지 않습니다. 그리고 최종 법안의 공개에는 몇 주의 시간이 걸릴 가능성이 있다고 합니다. 그러나 유럽 의회는 합의에 도달한 AI 규제법의 일부를 발표했습니다.

현 시점에서는 다음 목적으로 AI 사용하는 것이 전면적으로 금지되게 됩니다.

・민감한 특성(정치적, 종교적, 철학적 신념, 성적 사고, 인종 등)을 사용하는 생체인증 분류 시스템에 AI를 이용하는 것
・얼굴 인증 데이터베이스를 작성하기 위해 인터넷 또는 CCTV 영상에서 얼굴 이미지를 타겟을 좁히지 않고 스크래핑하기 위해 AI를 이용하는 것
・직장이나 교육기관의 감정인식에 AI를 이용하는 것
・사회적 행동이나 개인적 특징에 기초한 사회적 스코어링에 AI를 이용하는 것
・인간의 자유의지를 회피하기 위해 인간의 행동을 조작하는 AI 시스템의 작성
・AI를 사용한 사람들의 취약성(연령, 장애, 사회적 혹은 경제적 상황 등) 악용

다만, 법 집행기관에 의한 공공장소에서의 생체인증 기술 이용은 완전히 금지되지 않으며, 엄밀하게 정의된 범죄목록에 대해서는 AI 이용이 허용됩니다. 구체적으로는 '중대한 범죄를 저지른 혐의가 있는 인물, 혹은 유죄판결을 받은 인물로 대상을 좁힌 수사'에서는 AI 기술의 사용이 허용됩니다. 생체인증시스템에서 AI를 이용할 수 있는 구체적인 케이스는 다음과 같습니다.

・피해자를 겨냥한 수색(유괴, 인신매매, 성적 착취)
・특정 테러리즘 위협 방지
・규제에 기재된 특정 범죄(테러리즘, 인신매매, 성착취, 살인, 유괴, 강간, 무장강도, 범죄조직 참여, 환경범죄 등) 중 어느 하나를 저지른 혐의가 있는 사람의 특정 혹은 위치 특정

또한 고위험으로 분류된 AI 시스템(건강, 안전, 기본적 권리, 환경, 민주주의, 법치에 중대한 해를 끼칠 가능성이 있는 것)에 대해 명확한 의무가 부과되게 되어 있습니다. 
유럽의회는 "다른 요건 중에서도 특히 보험 및 은행 부문에 적용되는 필수적인 기본적 권리 영향 평가를 포함시키는 데 성공했습니다"라고 설명했습니다. 또 '선거 결과나 유권자의 행동에 영향을 주기 위해 사용되는 AI 시스템'도 고위험 AI 시스템으로 분류된다고 합니다. 국민은 고위험 AI 시스템으로 분류된 AI에 대해 불만을 제기하거나 국민의 권리에 영향을 미치는 고위험 AI 시스템에 기반한 결정에 대해 설명을 듣는 것이 가능합니다.

또한 ChatGPT와 같은 생성 AI 애플리케이션(범용 AI:GPAI) 및 이를 뒷받침하는 AI 모델의 작성자에게는 'AI에 관한 기술 문서를 작성·공개할 것', 'EU 저작권법 준수할 것', '훈련에 사용되는 콘텐츠에 대한 자세한 내용을 밝힐 것' 등이 의무화됩니다. 또한 GPAI에 대해 투명성 요건의 준수를 요구하는 것도 유럽의회의 제안이라고 합니다.

그리고 상업화된 AI 모델이나 GPAI는 EU의 AI 규제법에 의한 규제에 직면할 가능성이 높아지지만, 연구개발 분야는 법의 대상이 되는 것이 의도되어 있지 않습니다. 또한 완전히 오픈 소스 AI 모델은 폐쇄 소스보다 규제 요건이 가볍습니다.

AI 규제법 위반 시 벌칙은 위반내용과 기업 규모에 따라 '750만유로 혹은 매출의 1.5%'에서 '3500만유로 또는 매출의 7%'가 적용됩니다. 이번 합의에서는 법률 채택 후 단계적 발효도 허용되며, 금지사항에 관한 규제가 시행되기까지는 6개월, 투명성과 거버넌스에 관한 요건에 대해서는 12개월, 기타 요건에 대해서는 24개월의 유예기간이 부여됩니다.

따라서 EU AI 규제법의 완전한 효력은 2026년까지 피부에 와 닿지 않을 수 있다고 외신 테크크런치는 분석했습니다.

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.

 

Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI | News | European Parliament
https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI | News | European Parliament