*내용에 우울증과 정신 건강에 관한 묘사가 있습니다.

방승석목사 님, 안녕하세요.

저는 국제앰네스티 조사관 리사 디트머 Lisa Dittmer입니다.

혹시 방승석목사 님은 유튜브 쇼츠를 보다가

시간 가는줄 모른채 한두시간은 훌쩍 넘겼던 적이 있지 않나요?

© Amnesty International

그만큼 유튜브 알고리즘은 우리의 취향을 무서울만큼 잘 알고

관련된 숏폼 영상들을 계속 보여줍니다.

하지만 이 유튜브보다 틱톡의 알고리즘이 더욱 무섭다는 점, 알고 계셨나요?

현재 저와 앰네스티는 여러분의 지지로 틱톡이라는 거대한 기업에 맞서 싸우고 있습니다.

틱톡이 전 세계로 빠르게 확산할 수 있게 만든 콘텐츠 추천 시스템은

정신 건강 문제를 가진 아동과 청소년을 심각한 위험에 노출시키고 있습니다.

사용자를 중독에 빠뜨리는 구조

앰네스티의 보고서 <어둠 속으로 몰아넣다: 틱톡이 자해와 자살을 조장하는 방법>은 틱톡이 아동과 청소년의 사용자를 끌어들이기 위해 수단과 방법을 가리지 않으면서, 이들을 우울증, 불안, 자해와 같은

여러 정신 건강 문제를 악화시킬 위험에 빠뜨리고 있다는 점을 자세히 설명하고 있습니다.

저희가 조사한 결과, 틱톡이 콘텐츠 추천 시스템을 통해

우울하고 자살을 부추기는 콘텐츠를 증폭시키고 있다는 점을 확인 했습니다.

조사는 케냐와 미국에 거주하는 13세 사용자를 대표하는 30개 이상의 자동화된 계정을 이용해 진행됐으며, 틱톡의 추천 시스템이 청소년 사용자에게 미치는 영향을 측정하고자 수행했습니다.

추가로 케냐, 필리핀, 미국 계정을 각각 수동으로 운영하는 시뮬레이션도 진행했습니다.

조사 결과, 틱톡에 접속한 지 5~6시간 후에는 거의 절반의 영상이 정신 건강과 관련이 있었으며 잠재적으로 유해한 내용을 포함하고 있었습니다.

이는 정신 건강에 관심이 없는 계정에 비해 약 10배에 해당하는 양이 추천된 것입니다.

© Amnesty International

연구원들이 케냐, 필리핀, 미국의 13세 사용자로 위장한 가짜 계정으로 정신 건강 관련 추천 영상을 수동으로 재시청하자, 점점 비슷한 콘텐츠만 추천해 주는 ‘토끼 굴’ 현상이 가속 됐습니다.

정신 건강 문제와 사용자를 중독에 빠뜨리는 구조

수동 조사를 진행한 지 3~20분 사이에 추천 피드에서 과반이 넘는 영상이 정신 건강 문제와 관련이 있었습니다.

불과 한 시간 내에 여러 추천 영상이 자살을 미화하거나, 정상화하거나, 장려했습니다.

“공감되는 슬픈 영상 한 개를 보고 나면 갑자기 내 추천 피드 전체가

슬픈 콘텐츠로 채워진다.

소위 새드톡Sadtok이라고 하는 것에 빠져들게 되는 것이다.

이는 내 감정에 영향을 준다.”

필리핀 바탕가스주 거주 18세 학생 프랜시스*Francis

“내가 본 콘텐츠로 인해 더 과도하게 생각하게 된다.

정신 질환을 앓고 있는 이들이나 자가 진단한 이들의 영상들이 그렇다.

이는 내 정신 상태에 영향을 미치고

내가 동일한 증상을 가진 것처럼 느끼게 하며, 불안을 악화한다.

심지어 내가 그런 영상을 찾아본 것도 아니다. 저절로 내 피드에 추천된다.”

또 다른 포커스 그룹 인터뷰 참가자

앰네스티에 힘 보태기👏

틱톡은 우리를 감시하고 있다

앰네스티의 조사 결과 틱톡의 비즈니스 모델은 본질적으로 인권 침해적입니다.

사용자에 대한 데이터를 더 많이 수집하고자 하는 목적을 가지고,

데이터를 이용해 고도로 맞춤화된 콘텐츠를 제공하고 참여를 유도합니다.

이러한 그룹과 카테고리는 광고주에게도 제공되어 맞춤형 광고를 활용해 사용자를 타겟팅 할 수 있게 합니다.

“틱톡은 데이터 보호법과 규제가 잘 되어 있지 않은 지역의 아동을 포함한 사용자들을 대상으로 더 침해적인 데이터 수집을 하고 있다.

데이터 규제가 약한 글로벌 다수(Global Majority, 선주민, 아프리카계, 아시아계, 라틴아메리카계 등 비백인 인구를 일컫는 말)에 속하는 국가에 사는 아동은 극심한 사생활권 침해에 노출되는 것이다.”

로렌 아미스테드Lauren Armistead 국제앰네스티 테크 프로그램 부국장

틱톡은 어떤 영상이 추천되는지를 사용자들이 통제할 수 있게끔 해야 합니다.

틱톡은 유럽의 사용자들뿐만 아니라 모든 아동과 청소년의 권리를 존중해야 하며, 전 세계 18세 미만의 사용자들에게 맞춤형 광고를 제공하는 것을 금지해야 합니다.

사용자가 개인화된 피드를 원한다면 사용자의 동의를 기반으로 스스로 관심사에 따라 콘텐츠 추천을 활성화할 수 있도록 해야 합니다.

우리는 이전부터 지속했던 연구 보고서에 대한 증거를 추가하고 있습니다.

이러한 보고서와 연구 결과들은 틱톡 및 기타 ‘빅 테크’ 플랫폼의 감시 기반 비즈니스 모델과 관련된 인권 침해에 대한 기업의 책임과 배상을 촉구하는 앰네스티의 글로벌 캠페인의 증거에 도움이 됩니다.

앰네스티의 연구 보고서들 :

<감시 거인들(Surveillance Giants)>

<사회적 잔혹 행위: 메타와 로힝야족의 적절한 구제책에 대한 권리>

<에티오피아: 메타의 실패가 북부 에티오피아 분쟁 중 티그라이족 공동체에 대한 학대의 원인이 된 과정>

앰네스티가 이런 거대 기업들에 기업의 책무를 다할 것을 요구하고, 목소리를 낼 수 있는 것은 여러분의 지지와 후원이 있어서 가능합니다.

인권 침해 상황을 전문가 집단과 조사, 분석하여 실제적인 해결을 할 수 있도록 UN 등의 국제기구, 기업과 각국 정부에 실행을 요구하는 것은

오직 저희만이 할 수 있는 일입니다.

인권 침해 현장에 조사관을 파견해 조사 활동을 수행하고 현장을 조사, 보고서를 발행해 전세계에 그 상황을 알리는 것 또한 여러분의 지지로 할 수 있습니다.

하지만 아직은 여러분의 지지가 더 필요합니다.

틱톡이라는 거대 기업과 맞서 싸우기 위해, 저희에게 힘을 보태주세요.

앰네스티에 힘 보태기👏

틱톡, 과연 안전할까?🤷

세계 최대 인권단체인 국제앰네스티는 독립성을 지키기 위해 시민 한분 한분의 후원금으로 운영됩니다. 지지자분들의 관심과 후원으로 어떤 부당함에도 당당히 맞서고 있습니다. 우리와 함께하세요!

본 메일은 발송일 기준 수신에 동의하셨기에 발송되었습니다. 더 이상 이메일을 받지 않기 원하시면 여기를 클릭해주세요.

ⓒ Amnesty International Korea