인스타그램이 인공지능 기술을 활용, 악성 댓글과 비방 게시물을 차단하기로 했다.

10일 인스타그램은 “앱 내 괴롭힘과 따돌림을 방지하고, 플랫폼에서 긍정적이고 유익한 경험만 하도록 돕는 두 가지 안전기능을 출시한다”고 밝혔다.

그 첫번째는 ‘자동신고’ 기능이다. 머신 러닝에 기반해 인스타그램에 올라오는 사진과 글 중 비방을 목적으로 하는 게시물이나 악성 콘텐츠를 찾아 자동으로 신고한다. 인스타그램 측은 “지금까지 신고된 게시물을 중심으로 리뷰를 진행했던 것에서 한 걸음 더 나아가, 부적절한 게시물을 직접 찾아 리뷰하고 삭제하기 위한 목적으로 개발됐다”며 “특히 청소년 사용자들을 온라인 상 괴롭힘, 따돌림으로부터 더 적극적으로 보호할 수 있을 것으로 기대한다”고 전했다.

자동신고 기능은 스토리(Stories), 둘러보기(Explore) 뿐만 아니라 비공개 계정의 사진 게시물에도 적용되며, 신고된 사진이나 게시물에 포함된 비방용 문구 등을 리뷰하고 인스타그램의 커뮤니티 가이드라인을 준수하지 않는 경우 삭제 조치한다. 삭제된 글을 올린 사용자는 게시물 삭제 이유를 포함한 게시물 삭제 공지를 받게 된다.

다른 하나는 ‘비방 댓글 필터’ 기능 확대다. 기존 피드, 둘러보기, 프로필 페이지의 게시물에 적용되던 댓글 필터 기능을 라이브 방송에도 확대 적용한다. 이를 통해 인스타그램 라이브 중에도 비방용, 악성 댓글 등 부적절한 댓글을 자동으로 필터링, 예상치 못한 사이버 불링 등을 일정 수준 예방한다는 계획이다. 라이브 방송 댓글 필터 기능은 현재 영어, 프랑스어, 독일어, 아랍어 등 총 9개 언어를 지원하며, 추후 한국어를 포함한 더 많은 언어를 지원할 예정이다.