캠브리지 애널리티카(Cambridge Analytica) 논란은 우버(Uber), 트위터(Twitter), 애플(Apple), 구글(Google), 그리고 무엇보다 페이스북(Facebook) 등 주요 기술 기업들이 연이어 겪어온 일련의 스캔들 중 가장 최근의 파문입니다. 완전한 디지털화 시대로 접어든 지금, 이러한 사건들은 기술 기업에 대한 우리의 신뢰를 갉아먹고 있습니다. 우리는 이미 그들의 서비스와 제품에 익숙해져 있으며, 그 덕분에 정서적으로 얽혀 있고 의존적이며 무방비 상태에 놓여 있습니다. 그리고 이러한 사건들은 우리가 실제로 착취당하고 있다는 사실을 입증해 줍니다.
흔히 비유하듯 기술 기업을 유독성 제품을 공급하는 담배 회사와 단순 비교해서는 안 됩니다. 하지만 분명히 기술 기업들은 개인정보 보호를 약화시키고, 편견을 증폭시키며, 심리적 약점을 이용하고, 괴롭힘을 조장하고, 주의력 산만함을 심화시키며, 정치적 긴장을 고조시켜 왔습니다. 그렇다고 이들 기업을 쉽게 내치기도 어렵습니다. 그들의 도구는 시민적·경제적·사회적·개인적 삶의 질을 실제로 향상시키고 있기 때문입니다. 그럼에도 불구하고 기술 기업들은 대중의 신뢰를 한 번이 아니라 수없이 배신해 왔습니다.
신뢰성은 윤리와 함께합니다. 따라서 기업들이 사용자의 신뢰를 되찾으려면 해야 할 일이 많습니다. 앞으로의 실천은 윤리적 공백을 메워야 합니다. 이 글에서는 특히 개선이 필요한 핵심 영역인 '제품 인프라 속 윤리'를 다루고, 기술 기업들이 윤리를 지키기 어려운 이유와 현 상황을 개선할 방안을 살펴보겠습니다. 본격적으로 들어가기 전에 먼저 명확히 짚어야 할 질문이 있습니다. 과연 윤리가 기술 기업의 사용자 데이터 대응 방식에 실질적인 영향을 미칠까요? 데이터 착취를 막기 위해 사용자 행동의 극적인 변화가 반드시 필요할까요?
윤리란 단순한 도덕적 설교에 불과한가?
기술 기업은 우리의 삶에 영향을 미치는 방식으로 데이터를 활용하고 있다는 점을 인식하고, 이에 대해 성실하게 논의할 책임이 있습니다. 업계에서 가장 저명한 사상가 중 한 명인 『블랙 박스 소사이어티(The Black Box Society)』의 저자 프랭크 파스칼레(Frank Pasquale)는 방대한 사용자 데이터를 보유한 기술 기업들이 정부의 강력한 규제가 가해지기 전에는 사용자 프라이버시 존중에 관해 논의하지 않을 것이라고 말합니다. 자율 규제 체계 아래에서 시민들은 여전히 기술 기업들에 의해 착취당하고, 속고, 조종당할 것이라는 것입니다.
파스칼레는 "규제 프레임워크가 강제하기 전까지 기술 기업들이 이런 논의를 할 수 있으리라고 생각하지 않는다. 그들은 자체 가이드라인의 느슨한 적용이 초래할 위험에 대해 경고받았지만, 비판자들을 무시하거나 주변으로 밀어냈다"고 말했습니다. 페이스북 같은 기업들은 인공지능, 자동화, 엔지니어링을 체계적으로 과대평가하는 반면, 윤리, 법률 전문성, 컴플라이언스는 과소평가해 왔습니다.
파스칼레는 또한 샌디 파라킬라스(Sandy Parakilas)의 사례를 떠올립니다. 2011년부터 2012년까지 서드파티 앱에 의한 데이터 유출을 막는 업무를 담당했던 그는 대형 유출 위험을 상급자에게 경고했음에도 불구하고 어떠한 권한도 부여받지 못했습니다. 그는 회사의 데이터 보호에 대한 무관심한 태도가 결국 대형 데이터 유출로 이어질 것이라고 경고했던 것입니다. 이런 사건들을 고려할 때, 대중이 어떻게 기업을 신뢰하고 윤리적 문제를 제기하는 내부 직원들의 목소리에 이제야 귀 기울일 준비가 되었다고 믿을 수 있겠습니까?
막대한 고객 데이터에 접근할 수 있는 기술 기업들은 권력에 취해 있는 듯합니다. 그들은 자신들도 실패할 수 있다는 사실을 완전히 부정하는 경향이 있습니다. 더욱이 기술 거대 기업들은 규제 당국, 소비자, 주주 등 여러 주인을 섬기는데, 이들 주인의 선호는 서로 충돌할 수 있습니다. 물론 대중은 시장을 움직여 가는 양심적 자본주의 자체에는 반대하지 않습니다. 다만 모든 기업은 강제적인 규제를 피하기 위해라도 자신들의 구조 속에 윤리를 내재화해야 합니다.
반면, 최근의 캠브리지 애널리티카 논란을 계기로 기업들이 마침내 자신들의 방식을 돌아보기 시작했다면 어떨까요? '위대한 권력에는 위대한 책임이 따른다'는 스파이더맨의 명언을 깨달았다면 말입니다.
왜 제품 구조가 윤리에 중요한가?
기업들이 진심으로 신뢰를 되찾고자 한다면, 먼저 윤리적 혁신의 관점에서 제품과 서비스의 디자인을 재설계할 때가 되었음을 인식해야 합니다.
서비스와 관련된 디자인 문제는 기술 기업에 대한 대중의 신뢰를 떨어뜨립니다. 알아듣기 어려운 방언처럼 복잡한 이용약관은 우리 주변에 무지의 벽을 만듭니다. 게다가 플랫폼에 적용되는 디자인 설정은 사용자의 선호를 돕기보다는 오히려 기업이 우리를 착취하도록 작동합니다. 기업들은 그에 맞춰 디자인과 광고 전략을 맞춤화합니다.
실제로 페이스북의 부사장 앤드류 '보즈' 보즈워스(Andrew “Boz” Bosworth)가 유출한 메모는 기술 사용자로부터 최대한의 개인 데이터를 추출하도록 최적화하기 위해 디자인 선택이 이루어졌음을 보여주었습니다.
이 메모를 접한 우드로 하츠로그(Woodrow Hartzog)는 "페이스북 디자인의 모든 측면이 당신이 끝없이 공유하도록 만들고, 그 과정에서 기분 좋게 느끼게 하는 사명에 어떻게 기울어져 있는지 좀 더 쉽게 볼 수 있다"고 말했습니다. 그는 이어 "이 디자인이 지금처럼 중요한 윤리적 문제가 된 이유는, 법과 정책이 아직까지 이에 대해 거의 다룬 바 없기 때문이다. 입법자들은 데이터 처리에 집중하지만 디지털 기술의 디자인에 대한 규칙은 너무 자주 간과한다. 우리는 전 분야에서 더 잘할 수 있으며, 그것은 우리 도구가 만들어지는 방식에 대해 더 비판적으로 바라보는 것에서 시작된다"고 강조했습니다.
엄밀히 말해, 제품 디자인 문제가 이토록 흔한 것은 정책 입안자들이 사용자의 이익을 소홀히 하기 때문입니다. 현 상황을 개선하려면 프라이버시 가치에 대한 새로운 청사진이 기술 기업 전반에서 받아들여져야 합니다. 그러나 이러한 조치를 실행하려면 기술 거대 기업들이 스스로에 대한 자의적인 윤리 환상을 걷어내야 합니다. 그들은 그 어느 때보다 투명해져야 합니다.
기술 기업들은 가치관의 차이, 사용자의 다양성, 상이한 프라이버시 선호 때문에 강력한 기준을 적용하기 어렵다고 주장합니다. 그들에 따르면 일부 사용자는 이를 달가워하지 않을 수 있습니다. 그러나 사실과 다른 이러한 변명은 사용자 데이터를 올바르게 관리해야 할 책임에서 기술 기업들을 빼낼 수 없습니다. 이는 대중의 관심은 원하지만 사회의 롤모델이 될 의무는 회피하려는 연예인들과 다를 바 없습니다.
기술 기업들이 대규모로 사용자 행동에 영향을 미치는 제품과 서비스를 제공하는 한, 세상에 내보내는 그 권력에 대한 책임도 함께 짊어져야 합니다.
책임에는 여러 차원이 있습니다. 그러나 하츠로그에 따르면 기술 기업들이 설정해야 할 세 가지 핵심 기준은 다음과 같습니다.
- 조작을 줄이고 투명성을 높여 신뢰를 증진하는 것
- 사용자가 개인 데이터를 공유할 때 선택권을 더 많이 행사할 수 있도록 하여 사용자의 비밀을 존중하는 것
- 절대적 자율성을 촉진하고 사용자를 혼란스럽게 하는 방식을 버려 인간의 존엄성을 신성한 가치로 여기는 것
이제 기술 기업들은 비즈니스 윤리를 진지하게 받아들이고, 대규모 사용자층을 위한 서비스나 제품을 개발할 때 이를 핵심 요소로 고려해야 할 때입니다. 그것이 대중의 신뢰를 되찾을 수 있는 유일한 길입니다. 기술 기업들이 끊임없이 일으키는 분쟁에 정치인과 대중 모두 지쳐 있습니다. 기술 기업들이 신뢰성 개선을 위해 방향을 수정해 가는 것처럼 보이기도 하지만, 그것을 실현할 시스템은 아직 갖추지 못하고 있습니다. 어쨌든 오만, 탐욕, 조직적 근시안은 더 이상 대중과 정부로부터 용납되지 않을 것입니다.