틱톡이 아동·청소년의 정신 건강과 사생활을 위협하고 있다

*보도자료에 우울증과 정신 건강에 관한 묘사가 있습니다.

국제앰네스티 조사 결과, 틱톡이 콘텐츠 추천 시스템과 데이터 수집을 통해 우울하고 자살을 부추기는 콘텐츠를 증폭시켜 아동과 청소년 사용자의 정신 건강을 위험에 빠뜨리고 있다.

연구원들이 케냐, 필리핀, 미국의 13세 사용자로 위장한 가짜 계정으로 정신 건강 관련 추천 영상을 수동으로 재시청하자, 점점 비슷한 콘텐츠만 추천해 주는 ‘토끼 굴’ 현상이 가속했다.

수동 조사를 진행한 지 3~20분 사이에 추천 피드에서 과반이 넘는 영상이 정신 건강 문제와 관련 있는 것이었다. 불과 한 시간 내에 여러 추천 영상이 자살을 미화하거나, 정상화하거나, 장려했다.

틱톡의 비즈니스 모델은 본질적으로 인권 침해적이며, 사용자를 플랫폼에 중독시키기 위해 참여도(engagement)를 우선시한다. 이를 통해 사용자에 대한 더 많은 데이터를 수집하는 것이다. 틱톡의 전 세계 사용자들은 개인정보 침해에 불평등하게 노출되고 있다.

틱톡의 콘텐츠 추천 시스템과 데이터 수집 관행이 정신 건강을 악화시킬 우려가 있는 우울하고 자살을 부추기는 콘텐츠를 증폭시켜 아동과 청소년 사용자를 위험에 빠뜨리고 있다고 국제앰네스티가 보고서 2건을 통해 밝혔다.

두 건의 보고서 <어둠 속으로 몰아넣다: 틱톡이 자해와 자살을 조장하는 방법(Driven into the Darkness: How TikTok Encourages Self-harm and Suicidal Ideation)>과 <모두에게 공개된 기분: 틱톡의 감시망에 갇히다(I Feel Exposed: Caught in TikTok’s Surveillance Web)>는 아동과 청소년이 틱톡을 사용하면서 경험하는 인권 침해를 밝혔으며 틱톡의 추천 시스템과 비즈니스 모델이 이러한 침해를 어떻게 일으키고 있는지 강조했다.

국제앰네스티가 알고리즘 투명성 기구^ATI, AI 포렌식과 공동으로 진행한 조사 결과, 틱톡 추천 탭에서 정신 건강 관련 콘텐츠를 시청하는 아동과 청소년은 유해할 수 있는 콘텐츠의 늪으로 빠르게 빨려 들어가며, 유해 콘텐츠에는 우울한 생각, 자기혐오, 자살 충동을 부추기는 영상이 포함되어 있었다.

리사 디트머^{Lisa Dittmer} 국제앰네스티 조사관은 다음과 같이 말했다.

“이번 조사 결과는 사용자를 조종하고 중독에 빠뜨리는 틱톡의 구조를 폭로한다. 이는 사용자를 가능한 한 오래 머물게 하기 위해 고안된 것이다. 또한 조사 결과에 따르면, 틱톡이 전 세계로 빠르게 확산할 수 있게 한 알고리즘 기반 콘텐츠 추천 시스템은 기존에 정신 건강 문제를 가진 아동과 청소년을 심각한 위험에 노출하고 있다.”

틱톡이 전 세계로 빠르게 확산할 수 있게 한 알고리즘 기반 콘텐츠 추천 시스템은 기존에 정신 건강 문제를 가진 아동과 청소년을 심각한 위험에 노출하고 있다.

– 리사 디트머 국제앰네스티 조사관

---

틱톡의 추천 피드

보고서 <어둠 속으로 몰아넣다: 틱톡이 자해와 자살을 조장하는 방법>은 틱톡이 아동과 청소년의 사용자를 끌어들이기 위해 수단과 방법을 가리지 않으면서 이들을 우울증, 불안, 자해와 같은 여러 정신 건강 문제를 악화시킬 위험에 빠뜨리고 있다는 점을 자세히 설명하고 있다.

틱톡의 추천 피드는 알고리즘 기반 추천 콘텐츠로 구성된 페이지로, 고도로 개인화되고 무한히 스크롤 할 수 있다. 콘텐츠는 사용자의 관심사를 반영하기 위해 시스템이 추론한 내용을 바탕으로 선정된다.

조사는 케냐와 미국에 거주하는 13세 사용자를 대표하는 30개 이상의 자동화된 계정을 이용해 진행됐으며, 틱톡의 추천 시스템이 청소년 사용자에게 미치는 영향을 측정하고자 수행됐다. 추가로 케냐, 필리핀, 미국 계정을 각각 수동으로 운영하는 시뮬레이션도 진행했다.

조사 결과, 틱톡에 접속한 지 5~6시간 후에는 거의 절반의 영상이 정신 건강과 관련이 있었으며 잠재적으로 유해한 내용을 포함하고 있었다. 이는 정신 건강에 관심이 없는 계정에 비해 약 10배에 해당하는 양이 추천된 것이었다.

연구원들이 케냐, 필리핀, 미국의 13세 사용자로 위장한 가짜 계정으로 정신 건강 관련 추천 영상을 수동으로 재시청하자, 점점 비슷한 콘텐츠만 추천해 주는 ‘토끼 굴’ 현상이 가속했다.

수동 조사를 진행한 지 3~20분 사이에 추천 피드에서 과반이 넘는 영상이 정신 건강 문제와 관련 있는 것이었다. 불과 한 시간 내에 여러 추천 영상이 자살을 미화하거나, 정상화하거나, 장려했다.

사용자를 중독에 빠뜨리는 구조

이번에 진행한 포커스 그룹 인터뷰, 좌담회, 틱톡 계정을 활용한 시뮬레이션과 소셜 미디어의 해로움에 관한 연구와 공중 보건 분야 연구의 기존 증거는 틱톡의 구조가 어떻게 앱의 비정상적인 사용을 조장하고 있는지 보여준다.

공감되는 슬픈 영상 한 개를 보고 나면 갑자기 내 추천 피드 전체가 슬픈 콘텐츠로 채워진다. 소위 새드톡^Sadtok이라고 하는 것에 빠져들게 되는 것이다.

– 프랜시스, 필리핀 바탕가스주 거주 18세 학생

---

양극성 장애를 진단받은 필리핀 마닐라 거주 21세 대학생 루이스*^Luis는 틱톡의 추천 피드에 관한 경험에 대해서 국제앰네스티에 다음과 같이 전했다.

“단 한 개의 영상으로부터 모든 게 시작된다는 점에서 마치 ‘토끼 굴’과 같다. 그 한 개의 영상이 당신의 관심을 끌었다면, 비록 그 영상이 마음에 들지 않더라도 다음번에 틱톡 앱을 열 때 다시 나타난다. 영상이 당신에게 익숙하게 느껴지기 때문에 다시 보게 되고, 그러면 그러한 영상의 빈도가 피드에 기하급수적으로 증가하게 되는 것이다.”

필리핀 바탕가스주 거주 18세 학생 프랜시스*^Francis는 다음과 같이 말했다.

“공감되는 슬픈 영상 한 개를 보고 나면 갑자기 내 추천 피드 전체가 슬픈 콘텐츠로 채워진다. 소위 새드톡^Sadtok이라고 하는 것에 빠져들게 되는 것이다. 이는 내 감정에 영향을 준다.”

또 다른 포커스 그룹 인터뷰 참가자는 다음과 같이 설명했다.

“내가 본 콘텐츠로 인해 더 과도하게 생각하게 된다. 정신 질환을 앓고 있는 이들이나 자가 진단한 이들의 영상들이 그렇다. 이는 내 정신 상태에 영향을 미치고 내가 동일한 증상을 가진 것처럼 느끼게 하며, 불안을 악화한다. 심지어 내가 그런 영상을 찾아본 것도 아니다. 저절로 내 피드에 추천된다.”

필리핀 거주 21세 여성 조이스*^Joyce는 다음과 같이 말했다.

“한동안 틱톡을 지우기도 했었다. 너무 중독되었기 때문이다. 몇 시간 동안 틱톡에서 계속해서 영상을 스크롤하곤 했는데, 화면을 내리면 그다음에 무엇이 나올지 궁금해할 수밖에 없기 때문이다.”

케냐에서 인터뷰한 아동과 청소년은 틱톡 사용이 학업 및 친구들과의 시간에 영향을 미치고, 밤늦게까지 잠을 자지 않고 피드를 스크롤하게 만든다고 말했다.

국제앰네스티는 이번 연구의 일환으로 여러 청소년 심리학자의 자문을 받아 위의 증언들을 확증했다.

청소년들의 개별 응답과 이들의 소셜 미디어 사용에 영향을 미치는 상황적 요인들은 각각 다르지만, 다른 소셜 미디어 플랫폼처럼 틱톡도 사용자가 플랫폼에서 보내는 시간을 최대화하려는 목적으로 구조를 설계했다.

리사 디트머 국제앰네스티 조사관은 다음과 같이 말했다.

“이번 연구는 틱톡이 해당 플랫폼에 사용자의 관심을 계속 유지하려는 현재의 비즈니스 모델을 유지함으로써 아동과 청소년 건강에 심각한 위험을 초래할 수 있음을 보여준다.”

틱톡의 감시

보고서 <모두에게 공개된 기분: 틱톡의 감시망에 갇히다>는 틱톡의 인권 침해적인 데이터 수집 관행이 사용자 참여를 유도하는 유해한 관행을 어떻게 뒷받침하고, 그로 인해 유지되는지를 보여준다.

국제앰네스티의 조사 결과 틱톡의 비즈니스 모델은 본질적으로 인권 침해적이며, 사용자를 계속 플랫폼에 머무르게 하기 위해 사용자 참여도를 가장 우선으로 여긴다. 사용자에 대한 데이터를 더 많이 수집하고자 하는 목적인 것이다. 틱톡은 이러한 데이터를 이용해 사용자 프로파일을 작성하고 추론하여 사용자들을 그룹화해 고도로 맞춤화된 콘텐츠를 제공하고 참여를 유도한다. 이러한 그룹과 카테고리는 광고주에게도 제공되어 맞춤형 광고를 활용해 사용자를 타겟팅 할 수 있게 한다. 틱톡은 아동의 권리를 더 존중하기 위한 정책과 실행 방안을 마련했으나, 지역에 따라 다르기 때문에 일부 지역의 아동과 청소년은 착취적인 데이터 수집에 노출되고 있다.

로렌 아미스테드^{Lauren Armistead} 국제앰네스티 테크 프로그램 부국장은 다음과 같이 말했다.

“틱톡은 데이터 보호법과 규제가 잘 되어 있지 않은 지역의 아동을 포함한 사용자들을 대상으로 더 침해적인 데이터 수집을 하고 있다. 데이터 규제가 약한 글로벌 다수(Global Majority, 선주민, 아프리카계, 아시아계, 라틴아메리카계 등 비백인 인구를 일컫는 말)에 속하는 국가에 사는 아동은 극심한 사생활권 침해에 노출되는 것이다.”

틱톡은 유럽의 사용자들뿐만 아니라 모든 아동과 청소년의 권리를 존중해야 하며, 전 세계 18세 미만의 사용자들에게 맞춤형 광고를 제공하는 것을 금지해야 한다.
틱톡은 또한 추천 피드를 과도하게 개인화하는 것을 멈추고, 사용자가 개인화된 피드를 원한다면 사용자의 동의를 기반으로 스스로 관심사에 따라 콘텐츠 추천을 활성화할 수 있도록 해야 한다.

국제앰네스티는 틱톡이 권리를 존중하는 비즈니스 모델로 전환하기 위한 긴급 조치를 취할 것을 촉구하는 동시에, 아동과 청소년의 권리를 보호하고 실현하기 위한 강제적인 규제도 필요하다고 강조한다.

아동을 온라인상 개인정보 침해로부터 보호하기 위해서는 정부가 나서서 침해적인 개인정보 수집을 기반으로 한 맞춤형 광고를 모두 금지해야 한다.

국제앰네스티의 보고서에 대응하여 틱톡은 커뮤니티 가이드라인을 국제앰네스티에 제시했다. 해당 가이드라인에는 어떤 종류의 콘텐츠가 금지되고, 신고하거나 발견되면 플랫폼에서 지워지는지 규정하고 있다. 금지된 콘텐츠에는 ‘자살 및 자해를 보여주거나 홍보하거나 방법 공유’, ‘자살 및 자해와 관련된 챌린지, 내기, 게임, 단체 자살 합의’, ‘자살 및 자해를 꾸미는 거짓말을 보여주거나 홍보’, ‘자살 및 자해에 대한 계획 공유’ 등의 내용이 포함된다.

틱톡은 “정기적인 인권영향평가를 실시하는 내용을 포함한 전사적 인권 실사 과정”을 개발 중이라고 밝혔다. 하지만 틱톡은 어떤 특정 위험이 아동과 청소년 이용자의 인권에 영향을 미친다고 파악했는지 구체적으로 밝히지 않았다. 틱톡이 현재 전사적인 인권 실사 절차를 마련하지 않은 것은 인권을 존중해야 하는 회사의 책임을 지는 데에 명백히 실패한 것이다.

---

국제앰네스티는 기업 책무를 높이기 위해 활동합니다
후원으로 함께하기