챗GPT, 바드 등 ‘초거대 생성AI’의 효율적 사용 위한 필수요소
[중소기업투데이 조민혁 기자] 플러그인과 프롬프트 엔지니어링이 초거대 생성AI를 효율적으로 사용할 수 있는 필수 요소가 되고 있다. 특히 기업으로선 챗GPT 등장에 이어, 역시 트랜스포머 모델을 바탕으로 한 구글의 대형언어모델(PalM) 기반의 ‘바드’가 출시되면서 한층 선택의 폭이 넓어졌다.
현재 수많은 언어모델 가운데, ‘바드’와 챗GPT는 수 천억개의 파라미터(매개변수)에 달하는 최첨단 생성AI로 꼽힌다. 그럴수록 적절한 플러그인과 프롬프팅으로 적절한 결과치를 얻고, 이를 바탕으로 최적의 의사결정과 생산성을 기해야 한다는게 전문가들의 주문이다.
기업 경영자나 구성원들은 우선 생성AI를 도입한 후 이에 맞는 플러그인을 적절하게 활용할 수 있어야 한다. 플러그인은 챗GPT가 또 다른 외부의 앱을 통해 사용자의 입력이나 질문, 요청에 대응하는 방식이다. 마치 앱스토어에서 필요한 앱을 다운받아 활용하는 것에 비유할 수 있다.
현재 오픈AI는 다양한 플러그인을 공개하고 있다. KB금융지주경영연구소, IRS글로벌 등이 그 중 인용한 내용을 보면, 80개국의 5만개 식당을 예약할 수 있는 ‘오픈테이블(OpenTable)’을 비롯, 항공권이나 호텔, 렌터카, 유람선, 관광명소 등을 안내하거나 예약하는 ‘익스피디아(Expedia)’, 카약(KAYAK) 등이 있다.
또 각종 비즈니스나 생활정보를 제공하는 ‘피스컬노트(FiscalNote)’, 온․오프라인 쇼핑 안내와 예약을 할 수 있는 ‘인스타카트(Instacart)’, '클라나 쇼핑(Klarna Shopping)', ‘샵(Shop)’ 등이 있다. 이 밖에도 외국어 학습 도우미 ‘스픽(Speak)’, 고난도의 계산까지 해내는 ‘울프럼(Wolfram)’ 등이 대표적이다. 이 밖에도 무려 5000개 이상의 앱이 있는 것으로 알려졌다.
기업으로선 이들 플러그인을 자사의 상황과 업무 수요에 맞춰 적절하게 선택, 활용하는 것이 중요하다는 지적이다. 실제로 국내에서도 이미 대기업에서부터 스타트업에 이르기까지 생성AI의 플러그인을 응용한 다양한 서비스 제품들을 개발하고 있다.
실제로 지난 ‘AI엑스포코리아 2023’에서도 메이크업, 디지털치료, 헬스케어, 외국어 학습, 문장과 문서작성, 기사 작성, 개인정보 비식별 앱 등 다양한 제품들이 등장해 눈길을 모은 바 있다.
또 한 가지 중요한 것은 최적의 프롬프팅이다. 개발자들의 글로벌 ‘툴’ 플랫폼인 깃허브는 이미 프롬프트 사용을 주요 내용으로 한 저장소를 별도 공개, 인기가 높다.
즉, ‘우문우답’이 아닌, ‘현문현답’을 위해 적절하고 정확한 질문을 통해 자사가 필요한 최적의 답변이나 결과치를 얻어낼 수 있는 것이다. 그래서 초대형 언어모델이 쉽게 이해할 수 있는 정확안 언어로 구조화된 프롬프트를 구성하는 것이 중요하다.
이는 텍스트와 맥락에 대한 고도의 리터러시가 필요한 것이어서, 공학과 인문학을 아우른 능력을 요구한다. 그래서 최근 챗GPT 등을 이용해 가장 좋은 결과치를 얻을 수 있는 프롬프트 엔지니어링의 중요성이 강조되고 있다. 심지어 해외에선 이를 위한 ‘프롬프트 엔지니어’가 고 연봉의 유망직종으로 떠오르고 있다.
프롬프트 엔지니어는 무엇보다 최소한의 비용과 노력으로 최대한 효율적인 답변을 얻어내는 능력이 필요하다. 또 풍부한 경험을 바탕으로 기업의 상황에 맞는 데이터를 생성AI로부터 추출해낼 수 있는 노하우도 중요하다.
일부 전문가들은 “나중에는 보통의 직장인이나 일반인들도 생성AI 챗봇의 경험이 쌓이면, 각자 프롬프팅 역량이 향상될 것이므로 프롬프트 엔지니어 직군도 오래가진 못 할 것”으로 보고 있다. 그럼에도 현재로선 가장 효율적인 생성AI 사용을 위해 이같은 전문적 역량을 갖춘 인력이 절실히 필요한 실정이다.
그런 가운데 챗GPT 등에 의한 기업 비밀 유출의 우려도 커지고 있다. 실제로 국내 일부 대기업들은 그 때문에 잠정적으로 외부 생성AI 사용을 금지하거나, 극히 일부 업무에 한해 극소량의 범위에서만 허용하는 등 제한을 가하고 있다.
특히 파운데이션 모델링이 확산되면서 이같은 내부정보 유출 논란도 커지고 있다. 이에 최근에는 ▲기업 데이터를 학습하지 않는 신제품 ‘챗GPT 비즈니스’나, ▲특정 기업만 사용하는 ‘프라이빗 챗GPT 클라우드 서비스’ 등도 출시되고 있다. 또 다른 전문가들은 사내망 전용의 GPT를 권하기도 한다.
이같은 보안 우려에도 불구하고, 챗GPT 등은 빠르게 보급되고 있다. 그럴수록 플러그인과 프롬프트 엔지니어링 역량이 또 다른 기업의 AI역량으로 강조되고 있는 현실이다.