“AI로 유해사이트 걸러낸다”
“AI로 유해사이트 걸러낸다”
이 기사를 공유합니다

한국전자통신연구원, AI검색 시스템 개발
피해영상 웹사이트 유포사례 신속 탐지 및 삭제
(사진=한국전자통신연구원)
한국전자통신연구원이 AI로 유해사이트를 걸러내는 시스템을 개발했다.

[중소기업투데이 조민혁 기자] 온라인을 떠도는 온갖 유해 사이트를 인공지능(AI)이 식별하고 걸러낼 수 있게 됐다. 한국전자통신연구원(ETRI)에 따르면 AI가 인터넷 사이트를 자동으로 검색해 웹 페이지의 음란성 여부를 판단할 수 있는 기술이 등장했다.

이에 앞서 연구원은 지난 2019년 AI 기술을 활용하여 웹하드에 게재된 불법 촬영물을 삭제하는 시스템을 개발한 후 일군 두 번째 쾌거다.그동안의 연구개발 경험과 축적된 기술력을 바탕으로 이같은 성과를 낼 수 있었던 것이다. 이 기술의 핵심은 영상물의 유해성을 분석·검출하는 AI 기능이다. AI가 학습을 거듭해 인식된 키워드로 웹페이지들을 검색하고 웹페이지 내 게시물(텍스트, 이미지 등)을 분석해 유해성 여부를 검출한다.

이번에 연구진이 개발한 AI 엔진은 프레임당 약 100만 회의 세부적인 판단을 근거로 영상과 영상 간의 유사성을 정교하게 비교, 검색해낸다. 그 결과 콘텐츠 유해성을 판단하는 성능은 99.4% 이상의 정확도에 달하고, 검출 속도 역시 0.01초도 채 걸리지 않는다. 그야말로 순간 속도로 유해 여부를 정확히 걸러내는 것이다.

연구진에 따르면 이 기술은 AI를 적용한 ‘유해 웹사이트 자동수집 시스템’에 AI 엔진을 내장시켜 기술을 고도화한 결과다. 이 기술에는 △AI 기술을 활용하여 등록된 키워드로 웹페이지를 검색하는 기능 △유해 영상물 유포 의심 사이트 관련 정보를 자동으로 선별ㆍ수집하는 기능 등이 있다.

이에 앞서 연구진은 지난 6월부터 두 달간 피해 영상물의 검색 키워드, 썸네일 이미지, 주소(URL) 등을 활용, 1만8945건의 웹사이트를 자동 수집했다. 그 중 유해 사이트로 판별된 2631개 웹사이트를 걸러내는 데 성공했다.

전자통신연구원 미디어지능화연구실은 “이번 인공지능 기술은 디지털 성범죄 피해자 지원업무에 유용하게 활용될 것으로 보이며 앞으로도 불법 촬영물의 유포·확산을 최소화할 수 있도록 지원할 것”이라며 “앞으로도 미디어 지능화 기술을 통해 ‘디지털 역기능’에 대응하는 기술을 고도화할 계획”이라고 밝혔다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.