- 플랫폼 노동
-
[정책과 서평30] 디지털 플랫폼을 무대로 펼치는 장사꾼과 정치인들의 온갖 조작들
여당에서 언론중재법을 만들어서 가짜 뉴스를 함부로 퍼뜨리지 못하게 하겠다고 한다. 그리고 이걸 검찰개혁 다음의 핵심개혁과제로 잡았단다. 그런데 말이다. 정작 가짜뉴스가 대량으로 제작되고 배포되는 메커니즘은 기존 언론사를 통해서라기 보다는, 페이스북이나 유튜브 같은 SNS라는 사실을 우리는 어떻게 받아들여야 할까?
"모든 플랫폼 중에서 유튜브가 가짜뉴스 및 음모론에 가장 많은 보상을 주었다. 수익성이 높은 콘텐츠라는 것이 주된 이유다."
"괴짜라면 누구나 자신의 차고 같은 곳에서라도 아이패드와 인터넷을 이용해 가짜뉴스 채널을 만들 수 있다. 유튜브에도 수익이 돌아간다. 광고로 번 돈의 55%를 갖는다. 너머지는 구글이 가져간다."
(1)
초기 인터넷의 탄생에서부터 2019년 최근까지 플랫폼 기업들이 방조하거나 알고리즘 뒤에 숨어 부추기는 온갖 가짜뉴스들이나 혐오의 스토리들이 어떻게 만들어져 왔는지를 추적하는 책이 번역 되었다.
스페인 작가 마르타 페이라노(Marta Peirano)가 2019년에 쓴 <우리의 적들은 시스템을 알고있다>라는 책이다. 이 책은 워낙 많은 얘기를 저자만의 관점으로 접근하기 때문에 솔직히 요약해서 소개하기도 쉽지가 않다. 몇 가지 인상적인 대목만 소개해보겠다.
(2)
플랫폼기업들이 앞다퉈 도입해 문제를 일으킨 인공지능과 알고리즘에 관한 주제는 이 책에서 길게 다루지는 않는다. 하지만 아주 임팩트한 개념 알고리즘 세탁, 수학세탁(math washing)이란 용어를 들고 나온다.
수학세탁이란, 프로그램 "코드라는 깨끗한 손으로 차별적이고 문제가 될만한 행동을 소독한다"는 것을 뜻한다. "차별을 소독하는 덮개 역할을 할 뿐만 아니라 논쟁의 여지도 없애준다"
기업가들은 "알고리즘을 면죄부로 사용하여 '정치적으로 책임있는' 결정을 기계에 위임했다. 기계는 효율성 원칙에 따라 공정하고 합리적인 결정을 내릴 것이라고 말한다"
하지만 알고리즘은 공정하지 않다. 예를 들어서 "가격변동 알고리즘은 결코 소비자편이 아니다. 알고리즘은 철저한 기회주의자이며 감정이 없는 장사꾼이다." "알고리즘은 인류에게 긴급한 위기가 닥쳐 수요가 발생하더라도 소비자들에게 돈을 엄청나게 착취하도록 설계되어 있다."
"비즈니스 알고리즘은 투명하지 않으며 눈에 보이지 않는다. 우리는 기업들이 주장하는 그대로 알고리즘이 작동한다고 믿어야 한다"고 저자는 주장한다. 물론 실제로는 그렇지 않지만.
저자는 이런 사례도 들어준다.
"2017년 미국 시민자유연맹은 아마존의 안면인식 알고리즘을 사용하여 미 의회 의원 535명의 얼굴을 처리했다. 그 결과 이 시스템은 28명의 의원을 등록된 범죄자와 혼돈했다. 예상대로 범죄자로 혼돈된 이들 중에는 흑인이 압도적으로 많았다. 세계 제1위 국가라는 곳의 존경받는 민주당 대표자들이 탐지 오류로부터 안전하지 않다면 나머지 사람들은 어떻겠는가?"
(3)
이 책의 뒷부분은 대부분 세계의 장사꾼들과 정치가들이 어떻게 SNS를 이용해서 가짜뉴스를 조직적으로 확산시켰는지에 할애한다. 그리고 이를 페이스북이나 유튜브는 어떻게 방조했는지 말이다.
많은 이들은 아랍의 봄 당시 페이스북이 긍정적인 역할을 했던 기억, 초기 아프칸 전쟁의 참혹상을 트위터가 발빠르게 전파했던 기억만을 가지고 있을 것이다. 하지만 그건 잠깐이었다. 저자는 2012년 전후를 이렇게 표현했다. "아랍의 봄이 뒤틀리기 시작했을 때 페이스북은 상장을 준비하고 있었다. 반란을 촉진했던 바로 그 플랫폼은 이제 우려스럽고 극단적인 무대가 되었다"
정점은 2016년 미국 대선을 전후해서 러시아, 마케도니아인등이 페이스북 등을 통해 극단적인 갈등을 조장하는 가짜뉴스를 대량으로 살포했고, 페이스북등은 이들 자극적인 뉴스피드를 적극적으로 공유하도록 했다. 잘 알려진 캐임브리지 애널래니카의 대선 개입도 비슷했다.
이어서 미얀마에서 이슬람 로힝야족이 어떻게 군부에 의해 대량학살되었고, 그 과정에서 페이스북이 적절히 활용될 수 있었는지도 자세히 묘사한다. 심지어 2016년 필리핀 선거에서 페이스북의 공짜버전이었던 프리베이직으로 인해 필리핀 페북사용자가 급증했고 이를 두데르테가 적절히 활용했던 점, 브라질 선거에서 왓츠앱을 활용한 보울소나르의 선거전략까지 소개한다.
여기에 대해 페이스북은 어떻게 대처했을까?
"페이스북은 러시아 스캔들이나 필리핀, 미얀마에서 벌어지고 있는 일들을 알면서도 무시하기로 결정했다. 당시 플랫폼의 보안 책임자인 알렉스 스타모스는 러시아의 음모를 확인하고 2015년 초 그의 상사에게 경고했다. 필리핀과 미얀마의 활동가, 언론인과 공무원은 페이스북에 서한을 보내 각자의 나라에서 플랫폼이 행사하는 영향력을 고발했지만, 경영진은 주류 언론이 그 내용을 보도할 때까지 무시했다."
나중에 페이스북의 문제가 명확해졌을 때 저커버그는 뭐라고 변명을 했을까?
"우리는 세상을 더 나은 곳으로 만들기에도 너무 바빠서 세계에서 무엇이 잘못되었는지 깨닫지 못했다" 어이없다!
진실은 뭘까? 저커버그가 정작 바빴던 것은 수익을 내는 것이 아니었을까? 그래서 무엇이 잘못되었는지 알면서도 외면했던 것이 아니었을까? 저자는 이렇게 요약한다. "그들의 산업은 사용자에게 제품을 판매하는 것이 아니라, 관심에 굶주린 산업에 사용자를 제품으로서 판매하는 것이다."
***
420여쪽이라는 적지 않은 분량, 워낙 전세계의 다양한 사례를 정신없이 오가면서 소개하는 서술 패턴때문에, 혹시 온전히 읽어가기가 쉽지 않을 수도 있다. 하지만, 영어권을 넘어 유럽과 남미 등지까지 꽤 다양한 사례를 들어가면서, 플랫폼이 미치는 사회 정치적 영향을 분석한 책은 드물다는 점에서 이 책의 가치가 있을 것 같다.
"모든 플랫폼 중에서 유튜브가 가짜뉴스 및 음모론에 가장 많은 보상을 주었다. 수익성이 높은 콘텐츠라는 것이 주된 이유다."
"괴짜라면 누구나 자신의 차고 같은 곳에서라도 아이패드와 인터넷을 이용해 가짜뉴스 채널을 만들 수 있다. 유튜브에도 수익이 돌아간다. 광고로 번 돈의 55%를 갖는다. 너머지는 구글이 가져간다."
(1)
초기 인터넷의 탄생에서부터 2019년 최근까지 플랫폼 기업들이 방조하거나 알고리즘 뒤에 숨어 부추기는 온갖 가짜뉴스들이나 혐오의 스토리들이 어떻게 만들어져 왔는지를 추적하는 책이 번역 되었다.
스페인 작가 마르타 페이라노(Marta Peirano)가 2019년에 쓴 <우리의 적들은 시스템을 알고있다>라는 책이다. 이 책은 워낙 많은 얘기를 저자만의 관점으로 접근하기 때문에 솔직히 요약해서 소개하기도 쉽지가 않다. 몇 가지 인상적인 대목만 소개해보겠다.
(2)
플랫폼기업들이 앞다퉈 도입해 문제를 일으킨 인공지능과 알고리즘에 관한 주제는 이 책에서 길게 다루지는 않는다. 하지만 아주 임팩트한 개념 알고리즘 세탁, 수학세탁(math washing)이란 용어를 들고 나온다.
수학세탁이란, 프로그램 "코드라는 깨끗한 손으로 차별적이고 문제가 될만한 행동을 소독한다"는 것을 뜻한다. "차별을 소독하는 덮개 역할을 할 뿐만 아니라 논쟁의 여지도 없애준다"
기업가들은 "알고리즘을 면죄부로 사용하여 '정치적으로 책임있는' 결정을 기계에 위임했다. 기계는 효율성 원칙에 따라 공정하고 합리적인 결정을 내릴 것이라고 말한다"
하지만 알고리즘은 공정하지 않다. 예를 들어서 "가격변동 알고리즘은 결코 소비자편이 아니다. 알고리즘은 철저한 기회주의자이며 감정이 없는 장사꾼이다." "알고리즘은 인류에게 긴급한 위기가 닥쳐 수요가 발생하더라도 소비자들에게 돈을 엄청나게 착취하도록 설계되어 있다."
"비즈니스 알고리즘은 투명하지 않으며 눈에 보이지 않는다. 우리는 기업들이 주장하는 그대로 알고리즘이 작동한다고 믿어야 한다"고 저자는 주장한다. 물론 실제로는 그렇지 않지만.
저자는 이런 사례도 들어준다.
"2017년 미국 시민자유연맹은 아마존의 안면인식 알고리즘을 사용하여 미 의회 의원 535명의 얼굴을 처리했다. 그 결과 이 시스템은 28명의 의원을 등록된 범죄자와 혼돈했다. 예상대로 범죄자로 혼돈된 이들 중에는 흑인이 압도적으로 많았다. 세계 제1위 국가라는 곳의 존경받는 민주당 대표자들이 탐지 오류로부터 안전하지 않다면 나머지 사람들은 어떻겠는가?"
(3)
이 책의 뒷부분은 대부분 세계의 장사꾼들과 정치가들이 어떻게 SNS를 이용해서 가짜뉴스를 조직적으로 확산시켰는지에 할애한다. 그리고 이를 페이스북이나 유튜브는 어떻게 방조했는지 말이다.
많은 이들은 아랍의 봄 당시 페이스북이 긍정적인 역할을 했던 기억, 초기 아프칸 전쟁의 참혹상을 트위터가 발빠르게 전파했던 기억만을 가지고 있을 것이다. 하지만 그건 잠깐이었다. 저자는 2012년 전후를 이렇게 표현했다. "아랍의 봄이 뒤틀리기 시작했을 때 페이스북은 상장을 준비하고 있었다. 반란을 촉진했던 바로 그 플랫폼은 이제 우려스럽고 극단적인 무대가 되었다"
정점은 2016년 미국 대선을 전후해서 러시아, 마케도니아인등이 페이스북 등을 통해 극단적인 갈등을 조장하는 가짜뉴스를 대량으로 살포했고, 페이스북등은 이들 자극적인 뉴스피드를 적극적으로 공유하도록 했다. 잘 알려진 캐임브리지 애널래니카의 대선 개입도 비슷했다.
이어서 미얀마에서 이슬람 로힝야족이 어떻게 군부에 의해 대량학살되었고, 그 과정에서 페이스북이 적절히 활용될 수 있었는지도 자세히 묘사한다. 심지어 2016년 필리핀 선거에서 페이스북의 공짜버전이었던 프리베이직으로 인해 필리핀 페북사용자가 급증했고 이를 두데르테가 적절히 활용했던 점, 브라질 선거에서 왓츠앱을 활용한 보울소나르의 선거전략까지 소개한다.
여기에 대해 페이스북은 어떻게 대처했을까?
"페이스북은 러시아 스캔들이나 필리핀, 미얀마에서 벌어지고 있는 일들을 알면서도 무시하기로 결정했다. 당시 플랫폼의 보안 책임자인 알렉스 스타모스는 러시아의 음모를 확인하고 2015년 초 그의 상사에게 경고했다. 필리핀과 미얀마의 활동가, 언론인과 공무원은 페이스북에 서한을 보내 각자의 나라에서 플랫폼이 행사하는 영향력을 고발했지만, 경영진은 주류 언론이 그 내용을 보도할 때까지 무시했다."
나중에 페이스북의 문제가 명확해졌을 때 저커버그는 뭐라고 변명을 했을까?
"우리는 세상을 더 나은 곳으로 만들기에도 너무 바빠서 세계에서 무엇이 잘못되었는지 깨닫지 못했다" 어이없다!
진실은 뭘까? 저커버그가 정작 바빴던 것은 수익을 내는 것이 아니었을까? 그래서 무엇이 잘못되었는지 알면서도 외면했던 것이 아니었을까? 저자는 이렇게 요약한다. "그들의 산업은 사용자에게 제품을 판매하는 것이 아니라, 관심에 굶주린 산업에 사용자를 제품으로서 판매하는 것이다."
***
420여쪽이라는 적지 않은 분량, 워낙 전세계의 다양한 사례를 정신없이 오가면서 소개하는 서술 패턴때문에, 혹시 온전히 읽어가기가 쉽지 않을 수도 있다. 하지만, 영어권을 넘어 유럽과 남미 등지까지 꽤 다양한 사례를 들어가면서, 플랫폼이 미치는 사회 정치적 영향을 분석한 책은 드물다는 점에서 이 책의 가치가 있을 것 같다.
