페이스북, AI로 자살방지

페이스북이 인공지능(AI) 기술을 이용해 자살 예방 및 대응 역량을 강화하고 기존에는 이용자들이 자살 징후 글을 신고하는 방식으로 자살 예방에 나섰는데 이번에 AI가 도입돼 자동으로 자살 징후를 감지하고 빠르게 대응하는 것이라고 합니다

이번 업데이트는 '패턴인식' 기술에 기반으로 페이스북 게시글과 라이브 방송의 텍스트를 분석해 자살 신호를 자동으로 감지합니다. 예를 들어, 게시글이나 댓글에 '괜찮아?', '내가 도움 줄 수 있는 부분이 있을까?', 하소연을 장기적으로 같은 표현이 있다면 자살 징후가 높은 글로 분류하고 담당자에게 알리는 것인데요

페이스북은 홈페이지 등을 통해 지인의 자살징후를 신고할 수 있다고 알리고 있는데요 콘텐츠를 검토하는 직원들의 신속한 대응에도 AI가 사용되고 AI가 신고가 접수된 콘텐츠에 우선순위를 매기고 자살 신호로 판단되는 부분을 선별해 담당자에게 알린다고 합니다. 담당자가 접수 내용을 파악하고, 유관기관에 신고해 조치를 취하는 시간을 단축할 수 있다고 합니다

페이스북은 수년간 자살 예방에 공을 들여왔고 다양한 전문가들의 의견을 수렴해 만든 '자살 예방 도구'가 대표적인데요 '자살 예방 도구'는 지인의 게시물이 자살을 암시하는 내용을 담고 있을 때, 해당 내용을 직접 신고해 당사자가 적절한 도움을 받을 수 있도록 돕는 프로그램입니다.

이용자 신고 의존하던 방식에 AI 패턴인식 도입에서 모든기록을 저장.녹화방식이 아니라 이상패턴에 노출된 글들을 모아 감독관에 제시를하여 감독관이 판별하는 방식이지만 방대한 양을 줄일수 있는것이 AI기술력입니다.

신고가 접수되면 24시간 전담팀이 검토해 자살 징후를 판단하고 당사자의 화면에 자살을 피할 수 있는 다양한 방법을 전달한고 경우에 따라서는 유관기관에 직접 연락을 취하기도 합니다.

우리나라에서는 중앙자살예방센터, 보건복지부 보건복지콜센터, 정신건강증진센터 정신건강위기 상담전화 등 여러 단체와의 협력을 통해 더욱 효과적으로 자살을 막을 수 있는 다양한 방법을 지속적으로 논의하고 있다고 하네요