‘생성AI’ 등장 1년 ㊦...‘규제’와 ‘기술혁신’의 딜레마

[중소기업투데이 조민혁 기자] 챗GPT를 필두로 오픈AI의 GPT-4, 구글 바드, 메타 라마2, 그리고 구글의 ‘제미나이’에 이르기까지 생성AI 경쟁이 치열해질수록 이를 바라보는 지구촌의 시선도 복잡해지고 있다. 과연 AI가 인간에게 어떤 의미인가, 어느 선까지 이를 허용해야 할 것이며, 장차 어떤 폐해를 인류에게 안겨줄 것인가 등등의 고민이다.

이미 8일 EU의회는 2년 간의 내부 논란 끝에 ‘AI규제법’ 최종안에 합의했고, 이보다 앞서 바이든 행정부 역시 유연하긴 하지만, ‘AI 창조 규정’(일종의 제한적 규제)에 대한 행정명령을 발효하기도 했다. 매우 부실하긴 하지만, 한국 과기정통부도 나름의 ‘AI윤리규정’을 배포했고, 중국, 일본 등도 나름대로 AI규제에 나서고 있다. 전지구적으로 ‘AI와 인간’을 둘러싼 논의는 치열한 갈등으로 번지기도 했다.

‘AI의 위험성’ 둔 갈등 일깨운 오픈AI 사태

오픈AI 이사회가 지난 11월16일 샘 앨트먼을 해고했다가 다시 닷새만에 그가 복직한 사태도 그런 배경이다. 다른 복합적 원인도 있겠으나, 근본적으론 AI 기술을 바라보는 헤게모니 싸움, 즉 AI 개발과 영리화에 대한 속도를 놓고 앨트먼과 이사회가 의견 충돌을 빚은 것으로 추측된다.

앨트먼은 AI 기술을 빠르게 사업화해야 한다는 주장인 반면, 섣부른 사업화 대신 AI의 안전성에 대한 철저한 검증이 필요하다는 신중론자들의 대립이 이번 사태를 부른 가장 큰 원인으로 지목된다. 물론 오픈AI 내부 직원의 반발과 이탈 등 후폭풍이 거세지면서 앨트먼이 5일 만에 다시 경영 일선에 복귀하면서, 그의 판정승으로 끝나는 듯 했다.

그 바람에 애초 11월초 ‘데브데이 2023’에서 천명했던 기상천외의 GPTs 앱과 플러그인, 챗봇 샵인 ‘GPT 스토어’는 2024년 초로 연기될 것으로 알려졌다. 그러나 이번 사태는 인공지능 기술의 발달이 인간과, 인간사회에 미치는 영향을 둔 근본적 질문을 하게한 계기가 된 것으로 평가되기도 한다.

특히 AI저작권 문제나, 개인정보 유출, 인터넷 해킹, 더욱 정밀해진 딥페이크 기술 등 생성형 AI 규제 논의가 더욱 가열되고 있다. 특히 첨단 AI기술의 오류나 홀루시네이션(환각) 등도 여전히 문제로 지적되고 있다.

챗GPT에 탑재된 GPT-3.5는 2021년 9월까지 모은 데이터셋으로만 작동해 최신 정보를 요구하는 질문에는 엉터리 답을 내놓곤 한다. 더욱 문제는 틀린 답도 마치 정답인 것처럼 답하는 환각 현상을 보인다는 점이다. 챗GPT는 사용자 질문에 모르면 ‘모른다’고 답하지 못한다. 대신 정답보다는 문맥상 가장 답과 유사한 정보를 끌어와 답하면서 결과적으로 틀린 답도 맞는 것처럼 대답하는 식이다.

또한 사용자가 인종, 성별, 종교 관련해 비도덕적인 질문을 하면, 챗GPT는 똑같이 비도덕적이고 비윤리적인 답변을 제시하곤 한다.

AI 오류, 다양한 분야 적용 두고 논란도

멀지 않아 등장할 것으로 보이는 범용의 AGI에 대한 적절한 통제도 이슈로 떠오를 전망이다. 예를 들어, 이세돌과 바둑을 두어 이긴 알파고 같은 AI는 한 분야만 뛰어난 재능을 보였으나 범용AI(AGI)는 인간의 통제를 벗어난 ‘멀티 재능’을 갖춘 기술이 될 가능성이 크다.

또한 논문이나, 판결, 각종 시험 등 공정과 윤리를 요구하는 영역에서 AI 사용 여부를 두고 논란이 확산되고 있다. AI가 인간의 일자리를 대체하는 데 따른 대규모 실업이나, 문명에 대한 통제권 상실 등 안전한 윤리·기술적 안전장치 마련에 대한 목소리도 높아가고 있다.

그래서 “AI 기술이 인류를 위해 올바르게 쓰이도록 감독하는 일은 지배구조를 불문하고 온전히 기업에만 맡겨두기에는 중요한 과제”라는 지적도 많다.

AI 저작권도 난제로 떠오르고 있다. 최근 예술가·소설가·만화가·코미디언 등은 오픈AI를 상대로 꾸준히 고소를 진행했으며 뉴스 사이트도 챗GPT 학습을 차단하는 추세다. 챗GPT에게 공짜로 LLM 모델의 각종 학습용 데이터를 공급해주고 싶지 않은 것이다.

대표적으로 세계 최대 규모 콘텐츠 아카이브를 구축한 게티이미지가 스태빌리티AI를 대상으로 소송을 제기한 것도 그런 맥락이다. 다른 일반 창작자들, 즉 만화가나 음악가, 웹툰 작가, 소설가, 그림 작가들도 스태빌리티AI나, 미드저니, 데비안아트 등의 콘텐츠 제작사에 대해 저작권 침해 소송을 제기하며 외신을 떠들썩하게 하고 있다.

챗GPT 개발·운영에 필요한 인프라 부족도 지적되고 있다. 챗GPT 학습과 운영에는 상당한 양의 컴퓨팅 파워가 필요하다. 실제로 방대한 데이터를 처리하는 인프라 중 핵심은 GPU 칩이다. 그러나 이는 현재 엔비디아가 시장을 거의 장악하고 있다. 그 바람에 걸핏하면 가격이 널뛰기를 하거나, 공급난에 시달리곤 한다.

지난 번 샘 앨트먼 해임 소동의 뒤켠에는 이런 공급난을 해소하기 위해 그가 독자적으로 AI반도체 스타트업을 창립하려다가, 이사회와 충돌을 빚은 것도 작용했다는 후문이다.

LLM의 민주화 ‘오픈소스 모델’ 확산

그렇다보니 오픈소스 모델이 확산되는 것도 새로운 경향이다. LLM 기능을 ‘민주화’하기 위한 강력하고 효율적인 오픈소스 LLM 개발 움직임이 가속화되고 있는 것이다. 또 빅테크가 아닌 일부 기업들은 소형 모델(SLM)을 개발, 자체적으로 운용하는 경우도 늘어나고 있다.

특히 인기를 끄는 것은 소형 오픈소스 모델이다. 최근 AI 개발자들은 구글이나 오픈AI가 천문학적인 자금을 투자해 개발한 고가의 LLM보다는, 오픈소스 커뮤니티에서 공유한 기술을 주로 활용하면서 오픈소스 모델이 대중화를 이끄는 분위기를 만들고 있다.

올초 메타가 공개한 LLM ‘라마(LLaMA)’를 기반으로 훈련한 ‘알파카(Alpaca)’나 ‘비쿠냐(Vicuna)’ 등이 대표적이다.

이같은 오픈소스 기반의 소형 언어모델들은 구글이나 오픈AI가 독점하고 있는 LLM에 대한 대안으로 주목받고 있다. 오픈AI 내부에서도 “오픈소스 LLM 개발이 유망한 미래 방향이 돼야 한다”는 목소리도 나올 정도다.

이처럼 AI에 대한 규제와 함께 개발 속도론과 신중론의 대결, 그리고 그 와중에서 오픈소스 기반의 소형 모델의 대중화가 최근 생성AI 시장의 특징이다. 그런 가운데 여전히 오픈AI는 후발주자들의 추격을 뿌리치기 위해 AGI의 일종으로 추측되는 ‘Q스타’ 개발에 열을 올리고 있다. 구글 또한 ‘AGI 논문’을 통해 그 레벨에 따른 특성을 공개하는 등 새로운 AI의 지평을 제시하고 있어 주목된다.