기업들은 책임감 있는 인공지능(AI)을 사용하기 위해 지금 준비를 시작해야 한다--가트너(Gartner) 제안

기업들은 책임감 있는 인공지능(AI)을 사용하기 위해 지금 준비를 시작해야 한다--가트너(Gartner) 제안

가트너(Gartner)는, 전세계으로 진행하는 AI 규제를 근거로, 기업에 대해 「기업은 책임 있는 AI의 사용을 향해서 지금 바로 준비를 시작해야 한다」라고 제언했다.

Gartner는 AI의 리스크에 대한 필요한 대처를 「AI의 트러스트/리스크/보안 매니지먼트」(AI Trust, Risk and Security Management: AI TRiSM)라고 정의하고 정리하고 있다. 기업은 그러한 정의에 근거한 실천적으로 대처할 수 있도록 진행시켜 리스크를 경감시키는 노력을 계속해 나갈 필요가 있다고 했다.

Gartner는 AI TRiSM에 있어서의 리스크 요인을 들고 있다. 그것들은, 「대부분의 사람은, AI 모델의 매니저/유저/소비자에 대해서, AI란 무엇인가, AI가 무엇을 하는가를 설명할 수 없다」 「ChatGPT라고 하는 생성 AI 툴에 누구라도 액세스할 수 있다」 「제3자의 AI 툴이 데이터의 기밀성에 관한 리스크를 가져온다」 「AI 모델/애플리케이션을 항상 모니터링할 필요가 있다」 「AI에의 적대적인 공격을 알아채 저지하려면, 새로운 기법이 필요하다」 「컴플라이언스의 통제에 대해서, 머지않아 규칙으로 정의되게 된다」고 하는 6개 항목이다.

유럽연합(EU)의 입법기관인 유럽의회는 3월 13일 세계 최초로 포괄적인 AI 규제법안을 통과시켰다. 가트너(Gartner)에 따르면 EU의 AI 규제법은 향후 다른 국가들의 규범이 되어 확산될 가능성이 있다고 한다. 이는 EU의 일반 데이터 보호 규칙(GDPR)이 사생활 관련 규제에 있어 세계의 디팩토 스탠더드처럼 된 경위와 같다는 것이다.

EU 이외에도 각 지역·국가에서 AI 규제 움직임이 급물살을 타고 있으며, 미국에서는 2023년 10월 30일 AI 안전성 확보를 위한 대통령령이 발동되었고, 의회에서는 AI 규제에 관한 법안 마련이 진행 중이다. 더욱이 중국에서도 알고리즘의 투명성 확보와 AI 윤리 측면에서 규제가 이루어지고 있다.

한편 일본도 4월 19일에 경제산업성과 총무성으로부터 「AI사업자 가이드 라인(제1.0판)」이 공표되었다. 그러나 이것에는 법적 강제력은 없고, 대응에 대해서는 각 사업자가 자율적으로 대처를 추진할 수 밖에 없다.

Gartner에서는, EU의 AI규제법 등이, 허용할 수 없는 리스크의 AI는 금지하고, 고위험의 AI에는 그 요건이나 의무를 정하고 있는 것을 들어, 책임 있는 기업으로서 이용하는 AI에 대해 설명책임이 요구하고 있다. 현시점에서는 고위험의 AI 개발이나 사용을 하고 있지 않은 기업도 많아, 그 경우 법적 대응의 엄격하게 추궁 당하지는 않지만, 네거티브 임팩트를 줄 가능성이 있는 경우에는, 전형적인 AI 원칙에 따라야 한다고 한다.

그리고 Gartner는 GDPR에 대응해 온 미국이나 유럽의 조직과 비교하면, 일본 등 일부국가 조직은 그것과 관련한 컴플리언스 대응의 성숙도가 대체로 낮다고 하고 있다. 그 때문에 이런 기업은 기초를 쌓는 것부터 대응을 시작할 필요가 있다고 한다.

예를 들면 EU의 AI 규제법에서는, 다양한 논의를 거쳐, 특정의 AI 시스템으로서 챗봇이나 음성·화상·영상·텍스트 컨텐츠 생성의 범용 목적의 AI를 들어, 투명성 요건을 부과하는 등으로 논의의 결과를 반영시키고 있다.

이러한 움직임의 대응에 대해 Gartner는, AI 관련의 규제 책정에서는 「기술이 먼저, 법률은 뒤를 쫓는다」가 형태가 되기 때문에, 기업도, 법률 중심이 아니라 「사람 중심」으로 생각할 필요가 있다고 말한다.

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.