EU시장서 거래되는 全 AI제품에 ‘AI법’ 적용

[중소기업투데이 이상영 기자] 유럽이 세계 최초로 AI를 포괄적으로 관리·규제하는 ‘AI법’을 확정했다. EU의회는 14일(현지 시각) 그 동안 우여곡절을 겪어온 ‘AI법’을 가결시킴으로써 입법 과정을 마무리했다.

‘월스트리트저널’ 등에 의하면 물론 아직 EU 회원국들의 최종 승인이 필요하지만, EU 회원국들이 해당 법안에 모두 지지를 표했기 때문에 사실상 법률로 확정된 것이다. EU는 이에 대해 “안전하고 인간 중심적인 AI 개발을 향한 명확한 길을 제시하는 세계 최초의 규정”이라고 의미를 부여했다.

AI툴 개발, 사용자 모두의 ‘지침서’ 역할도

실제로 EU의 ‘AI법’은 AI에 대한 유사한 규제법이나 제도를 도입하려는 세계 각국의 벤치마킹 대상이 될 것이란 전망이다.

이 법은 원칙적으로 EU에만 적용되지만, 유럽 시장의 위상 등을 고려하면 전 세계적으로 영향을 미칠 것으로 보인다. 또 다른 지역이나 국가들도 EU의 ‘AI법’을 본받은 AI 관련 법률을 제정할 가능성이 높다. 이는 사실상 AI와 관련한 세계 최초의 ‘규범’이어서, AI 툴을 만드는 사람은 물론, 전세계 모든 사용자들이 참고할 것으로 보인다. 가히 ‘세계 AI법’의 위상을 갖는 셈이다.

짧은 유예기간을 거쳐 발효될 ‘AI법’은 고위험AI 사용을 금지하고, 투명성을 위한 원칙을 도입했으며, 고위험으로 간주되는 AI 시스템에 대한 위험 평가를 의무화하는 등의 내용을 담고 있다. 또한 EU시장에서 거래되는 모든 AI 제품에 적용된다. 메이커나 원산지가 어디인지는 상관없다. 이 법을 위배될 경우엔 해당 기업의 전 세계 매출의 최대 7%에 해당하는 벌금이 부과된다.

“디지털 문명에 큰 획을 그은 법률” 평가

‘AI법’은 디지털문명에 큰 획을 그은 것으로 평가된다. 특히 제한없이 방대한 데이터 세트를 학습하고, 더욱 전문적인 AI 애플리케이션을 뒷받침하는 범용 AI 모델(AGI)에 대한 규제가 대표적이다. 이는 장차 ‘인간보다 뛰어난 AI’로 알려지면서 많은 우려를 낳고 있기도 하다. 이에 ‘AI법’은 AGI 개발업체에게 반드시 검증할 만한 관련 최신 기술 문서를 의무화했다. 또한 모델을 교육하는 데 사용한 콘텐츠도 게시하도록 했다. 기술의 투명성을 보장함으로써 제어 가능한 AGI를 요구한 것이다.

또한 EU가 “시스템적 위험”으로 간주할 만큼 강력한 ‘범용 AI’ 모델에 대해선, 개발업체가 반드시 해당 모델에 대한 최첨단 안전평가를 거치도록 했다. 또 모델에서 발생하는 심각한 사고를 규제 기관에 필수적으로 알리도록 했다. 잠재적인 위험을 완화하고, 사이버 보안을 수행하기 위한 조치도 강력히 규정하고 있다.

이 법은 또 AI에 의해 생성되거나 조작된 이미지, 오디오 비디오 즉, 딥페이크가 진짜처럼 보이지 않도록 명확한 라벨링을 의무화하고 있다. 중요 인프라에 사용되는 AI기술 중에서 위험도가 높은 것으로 간주하는 AI 시스템은 반드시 위험 평가를 수행하고, 고품질 데이터를 사용하고 있는지 확인해야 한다.

입법 과정에서 엄청난 로비, 찬반 논란도

다만 ‘AI법’ 전부가 당장 발효되지는 않고, 조항에 따라선 일종의 유예기간을 두고 있다. 예를 들어 학교와 직장에서의 감정 인식 AI 사용 금지, 얼굴 인식 데이터베이스용 이미지의 비(非)표적 스크래핑 금지 등은 올해 말부터 시행될 것으로 예상된다. 또 다른 조항들도 내년부터 2027년까지 점진적으로 적용된다.

‘AI법’은 법률안 최종 성안 과정에선 엄청난 로비와 저항, 그리고 회원국들 간의 이견도 있었던 것으로 전해졌다. 특히 AI 관련 산업이 발달하고 글로벌 AI기업들이 많은 프랑스와 독일에 비해 동구권 국가들은 더욱 엄격한 규제를 요구하기도 해 난항을 겪기도 했다. EU의원들은 “지난 몇 년 간 디지털기술과 관련된 법률을 제정해왔지만, AI법이야말로 가장 심하게 로비를 받은 법안 중 하나”라고 털어놓기도 했다.

그럼에도 불구하고, 기업을 감시하는 시민단체나 일부 의원들은 “가장 강력한 모델뿐만 아니라 모든 ‘범용 AI’ 모델에 대해 안전성 평가와 위험 완화를 위한 보다 엄격한 규제를 법안에 포함시켜야 한다”고 주장하기도 했다.

그런 우여곡절 끝에 마침내 ‘AI법’이 통과되면서 전세계 AI규제의 규범 역할을 할 것인지가 주목된다.