페이스북과 인스타그램 문제점

월스트리트저널이 폭로한 페이스북의 5가지 문제점을 정리합니다

페이스북은 미국에서 언론사에 뉴스 사용료를 지급하고 있습니다만 여전히 미국 언론의 주요 타겟으로 공격 받고 있습니다

페이스북은 인스타그램과 왓츠앱을 소유하고 있으며 시가총액 1조달러(1115조원)을 자랑하는 기업입니다

내부 고발자 페이스북과 인스타그램 문제점 폭로

“페이스북은 매우 위험하며 더욱 악화되고 있다는 것을 알리고 싶다”

페이스북 내부 고발자 Francis Haugen

페이스북의 내부 고발자는 시민 Civic misinformation team(시민 허위 정보 팀)에서 Project Manager로 근무한 프랜시스 하우겐(Francis Haugen)입니다

그녀는 하버드대 MBA 졸업 이후 구글, 핀터레스트, 옐프(Yelp)를 거쳐 2019년부터 페이스북 팀장으로 일했습니다

프랜시스 하우겐은 월스트리트 저널에 내부 정보를 제보한 후 10월 3일 미국 CBS 방송국에 출연했습니다

그녀는 회사의 중요한 정보를 투자자에 숨겼다며 페이스북을 미국 증권거래위원회(SEC)에 제소했습니다

하우겐은 또한 5일 미국 상원의 소비자보호 소위원회가 개최한 청문회에서 증언했습니다

그녀는 청문회에서 페이스북이 청소년의 정신적 문제에 대한 책임이 있고 정치적인 양극화를 조장하며 사회적인 이익과 자사의 이익이 충돌할 경우 자사의 이익을 우선시한 이윤 극대화에 몰입했다고 주장했습니다

페이스북 문제점

플랫폼 규칙 위반에서 면책되는 580만명의 유력자

페이스북의 창업자인 마크 저커버그는 페이스북은 모든 이용자를 평등하게 대우한다고 수차례 밝혔습니다

하지만 페이스북이 비밀리에 580만명의 유력자와 유력자의 지인들의 계정에는 페이스북의 규칙을 어기더라도 제재를 피할 수 있도록 리스트를 만들어 관리해왔습니다

이 리스트의 이름은 처음에는 Shielding이었으며 나중에 Crosscheck로 변경됐습니다

페이스북의 10번 중에 1번은 정책을 적용하는데 실수한다고 페이스북 내부문서에 표현됐습니다
유력자 리스트는 이같은 실수를 저지르지 않기 위해 만든 미봉책이라고 볼수 있습니다
2020년 1년 동안 유력자 리스트에 없었다면 증오발언, 인종주의, 리벤지 포르노 등 페이스북 규정을 어겨 삭제됐을 포스팅의 조회 수는 160억회를 기록했다고 합니다

2014년 가수 리아나(Rihanna)가 인스타그램에 자신의 부분 누드 사진을 올린 후 페이스북이 리아나의 계정을 차단한 적이 있습니다

이 사건이 공론화되자 페이스북은 계정 차단을 취소했습니다

이 사건 이후 페이스북은 유력 인물들과 지인들의 명단을 작성하고 이들에 대해서는 문제 있는 포스팅이 올라오더라도 일반인들의 계정과는 다르게 즉각적인 조치(처벌)를 면제했습니다

페이스북 내 45개 팀이 지속적으로 작성한 유력자 명단(whitelist)에는 도널드 트럼프 전 대통령, 국회의원, 유명인(celebrities), 그리고 마크 저커버그가 포함됩니다

브라질의 유명 축구선수인 네이마르(Neymar)는 자신을 강간혐의로 고발한 여성의 나체사진을 자신의 페이스북과 인스타그램에 영상으로 올렸지만 하루 이상 게재되고 5천만번 조회된 후에 삭제됐습니다

네이마르의 영상은 소위 보복성 음란물(리벤지 포르노) 행위로 분류되기 때문에 즉시 영상이 삭제되고 계정까지도 삭제돼야 하는 문제였습니다

당시 페이스북 직원이 해당 영상을 즉시 삭제하려고 했지만 삭제권한이 없어 하루 이상 소요됐다고 합니다

이 네이마르가 영상으로 올린 여성은 온라인상에서 계속적으로 괴롭힘 당해 그녀를 괴롭힌 페이스북은 3,500개의 일반인 계정을 삭제했지만 네이마르의 계정은 여전히 처벌받지 않고 남아 있습니다

10대 여성의 정신건강에 해로운 인스타그램

페이스북은 2019년 이후 인스타그램을 이용하는 10대 여성들의 정신 건강과 관련한 연구를 여러 차례 진행했습니다

멋진 몸매와 항상 행복하게 보이는 인플루언서로 가득찬 인스타그램에서 일부 10대 여성 사용자들이 사회적인 비교(social comparison)때문에 좌절과 불안감, 심할 경우 자살 충동을 일으킨다는 페이스북 자체 연구결과들이 있었습니다

인스타그램과 비슷한 틱톡은 재미있는 행동에, 스냅챗은 우스워보이는 얼굴 필터 때문에 완벽한 몸매에 포커싱한 인스타그램보다는 사회적 비교로 인한 스트레스가 덜하다고 합니다

하지만 페이스북은 이 연구결과를 공표하지 않고 오히려 만 13세 이하의 어린이를 위한 인스타그램을 준비하고 있었습니다

페이스북이 미국과 영국의 인스타그램 10대 사용자 2500명을 조사한 내부 연구 결과는 이렇습니다

인스타그램을 사용하는 영국 10대의 13%와 미국 사용자의 6%는 자살 충동을 받았습니다

또한 미국 10대의 21%와 영국 10대의 18%는 인스타그램을 시작하며 고독함을 느꼈다고 합니다

영국과 미국의 10대들은 인스타그램을 사용하며 사회적인 비교를 하게 되고 이는 큰 수준의 불안과 우울증을 느꼈다고 합니다

인스타그램은 10대들이 자신을 다른 사람과 비교하는데 사용할 수 없도록 “좋아요” 수를 제거하는 방법을 실험하고 있습니다만 딱히 나쁘지도 좋지도 않다는 것이 현재까지의 결과입니다

페이스북에서 10대 사용자가 처음으로 감소하기 시작한 2012년에 페이스북은 인스타그램을 10억달러에 인수했습니다

마크 저커버그는 2021년 3월에 미국 상원에서 소셜 미디어가 어린이에게 미치는 영향에 대해 아래와 같이 답변했습니다

전반적으로 소셜 앱을 사용하여 다른 사람들과 연결하면 긍정적인 정신 건강 혜택과 사람들이 더 연결되고 덜 외롭다고 느끼도록 돕는 것과 같은 웰빙 혜택을 얻을 수 있다는 연구 결과가 있습니다.

마크 저커버그

인신매매범, 마약카르텔 등의 활동을 묵인

페이스북이 자사 앱(페이스북, 인스타그램 등)을 통해 인신매매, 성매매, 마약 판매 등을 하고 폭력을 선동하는 콘텐츠가 있다는 것을 알면서도 이를 바로 잡으려는 노력을 하지 않았다고 합니다

인신매매와 마약카르텔 등에 대해 페이스북이 조치를 취하기는 했으나 효과적이지 않았다고 합니다

페이스북 비즈니스의 핵심은 사람들을 페이스북과 인스타그램 등 자사 서비스로 끌어들이고 유지하는 것입니다.

월스트리트저널은 페이스북이 플랫폼을 더 안전하게 만들기 위해 할 수 있는 일이 비즈니스 우선순위와 충돌하는 경우에 비즈니스를 선택했다는 뉘앙스로 비난합니다

페이스북의 연구원들은 주로 두바이에서 마사지로 위장한 섹스를 광고하는 데 사용되는 #bodytobodymassage 해시태그를 검색한 후 , 한 인신매매 조직이 100개 이상의 페이스북 계정을 통해 두바이의 섹스 서비스를 광고하는 것을 발견했습니다

이들은 페이스북 광고에 15만달러를 투자에 두바이 남성에게 타겟팅 광고를 진행했습니다

또한 아랍에미리트의 인신매매범이 페이스북 메신저와 왓츠앱을 사용해 높은 임금을 대가로 여성 노동자를 데려온 후 여권을 빼앗고 과도한 노동을 시키는 사례도 있습니다

페이스북은 이 같은 문제점을 해결할 수 있는 보호조치를 개발했지만 이를 적용하지는 않았다고 합니다

2019년 영국의 BBC 방송국이 이 같은 행태를 다큐멘터리로 취재하자 페이스북은 BBC의 영상을 불쾌감을 주는 콘텐츠로 분류해 삭제해버립니다

하지만 BBC가 취재한 다큐멘터리 문건들을 플랫폼 강자 애플에 제공한 후 사건은 변화합니다

애플은 인신매매 문제를 해결하지 않을 경우 페이스북과 인스타그램을 자사 앱플랫폼인 앱스토어에서 제거하겠다고 통보합니다

페이스북은 애플에 아래와 같은 조치들을 즉각적으로 하겠다고 밝히고 성의를 보입니다

플랫폼을 더 광범위하게 모니터링하고 의심스러운 콘텐츠를 많이 표시 : 플랫폼 전반에 걸쳐 잠재적으로 위반되는 콘텐츠 300,000개 이상을 분석하고, 수천 개의 계정을 비활성화, 삭제하고, 어떤 경우에는 단말기 자체를 비활성화해 해당 단말기에서는 페이스북과 인스타그램 계정을 만들 수 없게 함
영어와 아랍어로 된 인신매매 게시물을 사전에 감지하는 자동화 시스템을 출시했으며 페이스북은 더욱 노력하겠다고 약속
Apple의 요구에 대한 응답으로 페이스북은 중장기적으로 “플랫폼에서 가사 노동을 근절”하기 위한 탐지 및 예방 조치를 취하고 궁극적으로 페이스북과 인스타그램에서 가사 노동을 완전히 없애겠다고 함

그럼에도 불구하고 2021년에도 페이스북에서는 여전히 인신매매가 일어나고 있다고 합니다

뉴스피드 알고리즘 변경으로 이용자 분노 유발

페이스북은 2017년 페이스북이 영상을 활성화하고 전문적인 콘텐츠 생산자(매체)가 게시물을 올리는 과정에서 이유를 알수 없지만 사용자가 페이스북을 사용하는 시간이 감소하지 않았음에도 사용자의 참여(engagement)가 하락하는 것을 파악했습니다

사용자 참여는 사용자가 게시물을 올리고 답글을 달며 공유하는 행위를 말합니다입니다

페이스북은 동영상 서비스때문에 이용자들이 가만히 앉아서 페이스북만 보고는 아무 것도 하지 않다가 어느 순간 사용자들이 페이스북 사용을 중단할 것이라는 두려움을 가지고 있었습니다

페이스북은 2018년 사용자 참여를 늘리기 위해 뉴스피드의 알고리즘을 변경했습니다

페이스북은 알고리즘의 변경 이유를 대외적으로는 페이스북 내에 친구와 가족 등에 대한 관계에 집중한다고 설명했습니다

사람들을 연결하는 것만으로는 충분하지 않습니다. 이러한 연결이 긍정적인지 확인해야 합니다. 사람들에게 목소리를 내는 것만으로는 충분하지 않습니다. 다른 사람들에게 해를 끼치거나 잘못된 정보를 퍼뜨리는 데 사용하지 않도록 해야 합니다. 이제 우리는 생태계를 보호하는 데 더 적극적인 시각을 가질 필요가 있지만, 저는 이것을 바로잡기 위해 최선을 다하고 있으며 사람들이 진정한 차이를 보게 될 것이라고 믿습니다.

마크 저커버그

페이스북은 이 즈음 MSI(Meaningful Social Interaction)이라는 알고리즘을 선보였습니다

MSI는 게시물이 가까운 사람들과 얼마나 상호작용하는지 측정하는 숫자입니다

페이스북은 MSI 개념을 사용하여 점수 시스템을 만들었습니다. 좋아요, 댓글, 공유가 많을수록 가까운 사람들 사이에서 이러한 일이 많이 발생할수록 MSI 점수가 높아집니다.

MSI 공식
좋아요 = 1점
반응 또는 공유 = 5점
의미있는 댓글 = 30점
이후에 댓글을 달거나 상호 작용하는 사람들이 얼마나 가까운지에 따라 점수가 증감됨

MSI는 페이스북 이용자의 참여를 늘려 목표를 달성했지만 사용자를 행복하게 하지는 못했다는 내부 연구 결과들이 있습니다

페이스북의 MSI는 지인과의 친밀감을 늘린다는 것과 참여를 늘리는 두 가지 목적이 있는데 이 목적들이 충돌할 경우에는 참여를 늘리는 것에 가중치를 뒀기 때문입니다

하향적인(Downstream) MSI는 반복적으로 공유되거나 댓글이 달릴 가능성이 가장 높은 콘텐츠를 파악해 해당 콘텐츠를 더 많은 사용자에게 보여주려고 합니다.

그러나 실제 알고리즘은 정치적인 분노와 차별을 가져오는 콘텐츠가 더욱 잘 노출되는 것으로 나타났습니다

페이스북의 내부 연구자료에 따르면 새로운 알고리즘이 실제로 잘못된 정보와 유해 콘텐츠를 밀어내고 있고 공유 횟수가 많을수록 거짓일 가능성이 높아졌습니다.

또한, 가족과 친구의 페이스북에 자주 올라오는 정보들은 허위정보들이 많았다는 분석결과도 있습니다

버즈피드는 자사의 고양이와 미담 콘텐츠 대신에 인종적 차별을 다룬 기사가 13,000번의 공유되고 16,000개의 댓글이 달린 것을 확인한 후 나쁜 기사들이 알고리즘의 선택을 과도하게 받는다고 페이스북에 알려주기도 했습니다

분노와 차별적 콘텐츠가 확산되는 것을 막으려면 페이스북의 공유기능을 없애 바이럴 속도를 감소하는 것이라고 내부 연구 문건은 밝혔습니다만 페이스북은 이를 무시했다고 합니다

페이스북 공유기능의 제거는 페이스북의 사업을 위험하게 만들 수 있기 때문입니다

어린이용 인스타그램(Instagram Kids)

페이스북의 10대를 위한 주요 제품은 인스타그램입니다

미국에서 매일 2200만명의 십대가 인스타그램에 로그인합니다만 10대들이 게시물을 이전만큼 포스팅하지 않는다고 합니다

요즘에 십대에게 멋진 앱은 스냅챗과 틱톡입니다

페이스북은 십대들이 틱톡에서 인스타그램보다 2~3배 정도 시간을 보내고, 친한 친구들과의 커뮤니케이션에는 스냅챗을 사용한다는 것을 파악했습니다

틱톡은 몇 년 부터 팝송과 같은 전문 음악 트랙에 립싱크를 하는 20대 소녀들 사이에서 매우 인기를 얻었습니다.

그리고 스냅챗은 몇 년 전 대학 캠퍼스에서 사라지는 메시징 기능으로 시작해 AR 얼굴 필터, 전문 제작 콘텐츠, 미니 비디오 시리즈 같은 기능으로 젊은이들에게 매우 인기를 얻었습니다.

페이스북은 어린이 사용자를 틱톡과 스냅챗에 빼앗길 수 있다는 두려움 때문에 어린이를 위한 새로운 인스타그램을 개발 중이었습니다

미국의 개인정보법은 13개 미만의 모든 사용자에 대한 데이터 수집을 불법으로 규정하기 때문에 유튜브와 틱톡, 페이스북은 어린이용 앱을 별도로 개발했습니다

페이스북은 어린이들이 스마트폰을 처음 가지게 되는 10살(5학년)에 집중했습니다

조사결과에 따르면 10살에서 13살 사이에는 스마트폰에서 앱을 사용하는 선택권을 가지게 됩니다

페이스북은 0~4세까지의 유아에도 페이스북을 사용할 수 있도록 개발하고 있었다고 합니다

페이스북은 사실이 아니라고 답변했습니다

페이스북은아이들이 나이를 속이고 기존의 제품을 사용하기 때문에 어린이들의 안전을 위해 어린이용 인스타그램이 필요하다고 밝혔습니다

다만, 월스트리트저널의 이번 폭로자가 상원에서 발표한 후 어린이용 인스타그램의 출시를 중단했습니다(끝)