알엔딥, 텔레그램 N번방 등 불법 성인물 차단 AI 기술 개발 완료

증권 입력 2020-04-09 08:51:00 배요한 기자 0개

페이스북 공유하기 트위터 공유하기 카카오톡 공유하기 네이버 블로그 공유하기

빅데이터와 크롤링 기술 접목한 AI 기술

딥페이크 검출 기술도 완성 단계..이달 중 공개

[서울경제TV=배요한기자] N번방 성착취 영상 유포사건이 사회적 이슈가 되고 있는 가운데 성폭력, 포르노 및 음란물, 유해사이트를 막을 수 있는 기술이 공개됐다.

 

9일 관련 업계에 따르면 알엔딥이 개발하고 있는 성인물 검출 기술은 AI 딥러닝 기술중 하나인 GAN(생성적 적대 인공 신경망)을 기반으로 구현된 기술이다.

 

기술 개발을 위해 알엔딥은 약 30만장의 성인 노출 사진을 인공지능에 학습시켰고, 이를 통해 훈련된 AI는 순식간에 컨텐츠가 성인물인지 아닌지를 찾아낸다.

 

알엔딥의 관계자는 "레드 AI 기술을 이용하면 사진, 영상 뿐만 아니라 단순화 되어 표현된 만화, 그림 속에 포함된 Nudity(노출 상태)까지 정확하게 찾아낸다"며 "검사하는데 걸리는 시간은 1초 미만"이라고 설명했다.

 

알엔딥에서 보유한 빅데이터와 크롤링 기술을 접목할 경우 특정 사이트의 주소내에 성인물이 포함되어 있는지를 사전 검사할수 있고, 성인물이 포함되어 있는 경우 사이트 전체를 차단하도록 하는 서비스에도 활용될 수 있다.

 

알엔딥 레드 AI 기술은 컨텐츠에 대한 직접적인 검사 뿐만 아니라 URL 등을 검사하는 데도 사용될 수 있다. 메신저상에서 URL을 보낼 경우, URL에 연결된 컨텐츠가 성인 사진이나 영상일 경우 URL 전달을 차단하게도 할 수 있다.

 

국가에서 운영하는 유해사이트 정보의 경우 인위적으로 등록된 URL을 차단하는 시스템으로, 신규로 만들어진 사이트에 대해서는 차단이 불가능하다. 유해사이트로 등록되는 속도보다 신규로 만들어지는 사이트가 더 많기 때문에 100% 차단하기에는 역부족인 것이다.

 

알엔딥 레드 AI는 특정 유저가 사이트를 열기전, 사이트내 연결된 컨텐츠를 모두 검사하고 유해성을 확인한다. 즉 사이트를 열기전 AI가 먼저 성인물 포함 여부를 검사하기 때문에 유해사이트인지 아닌지를 훨씬 높은 정확도로 검사해 낼 수 있다.

 

이렇게 확인된 유해사이트 URL 등은 국가유해사이트 정보원으로 자동으로 신고를 하게 되어 추가 접속의 경우 AI검사 없이 차단이 가능하다. 알앤딥 관계자는 "성인물 모자이크 생성기술 딥페이크 검출 기술도 완성 단계에 있으며 4월 내에 대중에게 공개할 예정"이라고 밝혔다. /byh@sedaily.com

[ⓒ 서울경제TV(www.sentv.co.kr), 무단 전재 및 재배포 금지]

#Tag

페이스북 공유하기 트위터 공유하기 카카오톡 공유하기 네이버 블로그 공유하기




관련뉴스

알엔딥, N번방 아동성착취 공유 방지책으로 '레드 AI' 대안 제시

0/250

주요뉴스

주간 TOP뉴스

공지사항

더보기
코스콤

핫클립

이 시각 이후 방송

  • 16:50
    상한가 로켓배송

    생방송 박솔아 PD 최유정 MC

  • 17:55
    SEN 경제라이브

    생방송 이상인 PD 윤재윤 MC

  • 18:25
    ON트레이딩AI

    생방송 최민호 PD 이정원 MC

  • 18:55
    BUY킹스탁

    생방송 박아인 PD 서지안 MC

  • 19:55
    베스트 트레이딩 맨 1부

    생방송 백민희 PD 김혜연 MC

더보기

오늘의 날씨

2024-04-27(토) 09:00
구름조금

마포구 상암동18.0℃

강수확률 0%

ON AIR 편성표

0/250

주요뉴스

주간 TOP뉴스

공지사항

더보기

핫클립

이 시각 이후 방송

  • 16:50
    상한가 로켓배송

    생방송 박솔아 PD 최유정 MC

  • 17:55
    SEN 경제라이브

    생방송 이상인 PD 윤재윤 MC

  • 18:25
    ON트레이딩AI

    생방송 최민호 PD 이정원 MC

  • 18:55
    BUY킹스탁

    생방송 박아인 PD 서지안 MC

  • 19:55
    베스트 트레이딩 맨 1부

    생방송 백민희 PD 김혜연 MC

더보기

오늘의 날씨

2024-04-27(토) 09:00
구름조금

마포구 상암동18.0℃

강수확률 0%