logo

SNS가 새로운 소통의 시대 창출?

BBC, 소셜미디어 대기업들 사이버 폭력에 충분하게 대처 못하는 현실 소

사이버 폭력에 기술산업은 어떻게 대응해야 하는가? 소셜미디어 대기업들은 이 문제를 그동안 지나치게 외면해 온 게 아닐까?

모든 형태의 폭력과 학대에 저항하는 것이 중요한 시대적 과제가 된 오늘, 플랫폼 회사들도 모니터링 요원 수천 명을 고용해 사이버 폭력 문제를 극복하려 하고 있다.

넘쳐나는 신고 게시물이 감당이 안 되면 자동화 시스템을 활용하기도 한다. 특히 페이스북은 자사 AI/자동화 시스템을 굳건히 신뢰하며 자랑한다. 페이스북은 자동화 모니터링 시스템 덕분에 2017년 알카에다와 IS의 게시물 99%를 신고가 이루어지기 전 삭제했다고 밝혔다.

그러나 여전히 구멍이 있다는 사실이 지난주 드러났다(Social media firms 'failing' to tackle cyber-bullying).

 

최근 BBC 기자 크리스티나 크리들은 잉글랜드 축구 선수 부카요 사카의 인스타그램에 남겨진 오랑우탄 이모지 댓글을 신고했고 페이스북으로부터 답변을 받았다: "자사 기술은 (신고한) 댓글이 우리 커뮤니티 가이드라인을 위배하지 않는다고 판단했습니다."

답변 내용 말미에 "우리 기술이 완벽하지는 않다"고 덧붙이긴 했다. 신고 며칠 후 인스타그램 대표 아담 모세리는 실수가 일어났다고 인정했다. 그는 크리스티나의 트윗에 "우리는 접수된 신고의 우선순위를 가늠하는 기술이 있으며 실수로 일부 댓글은 악성댓글이 아니라고 분류됐다. 그러나 해당 댓글들은 악성댓글이 맞으며 실수 발생 경위를 보고했다"라고 답했다.

그러나 테크놀로지 작가 찰스 아서는 인스타그램을 소유한 페이스북이 충분한 노력을 하고 있지 않다고 BBC에 말했다. 그는 "기술은 완벽과 거리가 멀다. 왜냐면 선별 작업을 담당하는 인간은 완벽과 거리가 멀기 때문이다"라고 말했다.

그는 흑인 축구선수에게 오랑우탄 이모지를 보내는 행위를 시스템에 등록하는 건 그리 어려운 일이 아니라고 말한다.

"한 시간도 걸리지 않을 일이다. 제법 실력 있는 프로그래머라면 이러한 패턴을 등록하고, 비하적인 이모지의 전송을 막을 수 있을 것이다."

전직 가디언지 테크놀로지 분야 편집장인 아서는 '소셜 워밍(Social Warming)'이란 책을 썼다. 그는 저널리즘부터 정치까지 소셜미디어가 미치는 악영향을 기후변화에 비유했다.

그의 주 비판 대상은 페이스북이다. 그는 페이스북이 충분히 예측 가능한 플랫폼 오남용 행위들을 여태 막지 못했다고 주장한다.

"페이스북은 항상 사람들에게 과도한 기대를 한다. 사람들이 한 번은 친절할 것이라는 희망을 매번 품지만, 대부분 실망스러운 결과가 나타난다."

정치인들은 거대 테크 기업들을 강력하게 제재할 것이라고 약속했다. 오랫동안 추진돼 왔던 '온라인 안전 법안(Online Safety Bill)'은 거대 테크 기업들이 자사 플래폼의 유해 게시물을 신속히 제거하지 않을 경우 높은 과징금을 부과하는 내용을 담고 있다.

유해하지만 불법은 아닌 게시물을 판단하는 것은 오프컴(영국의 방송·통신 규제 기관)의 새로운 숙제가 될 것이다.

발 빠르게 대응하는 테크 기업들도 있다. IT기업 BCS의 빌 미첼은 소셜미디어 회사들이 사용자의 신원을 인증하는 것이 한 가지 방법이라고 말한다.

그는 "근본적인 이유는 간단하다. 자신의 행동에 책임을 지게 하는 것이다. 발언에 책임을 지고, 신원이 알려질 수 있다면 매우 끔찍한 행동을 하려는 열망이 강하게 억제될 것"이라고 말했다.

그러나 일부 BCS 구성원들조차 이 아이디어에 회의적이다. 운전면허증이나 신분증이 없는 사용자들을 배제할 수 있으며, 개인정보를 노리는 해커들의 표적이 될 수 있다는 것이다. 심지어 최근 잉글랜드 축구 선수들에게 인종차별적 발언을 한 사용자들은 본명을 드러내는데 부끄러움이 없었다.

소셜미디어가 처음 등장했을 때 새로운 시대가 올 것이라고 사람들은 예상했다. 정치인과 유권자, 유명인과 팬들 사이에 더 민주적이고 평등한 소통이 가능할 것이라는 희망이 있었다.

그러나 그 꿈은 사라졌고 우물은 오염됐다. 아직까지 이 상황을 개선할 방법에 대한 합의도 이루어지지 않았다.

09.03.2022

Leave Comments