Cambridge Analytica 논쟁은 Uber, Twitter, Apple, Google 및 마지막으로 가장 중요한 Facebook과 같은 회사를 포함하여 주요 기술 회사와 관련된 일련의 논쟁에서 가장 최근의 센세이션입니다. 완전한 디지털화 시대에 들어서면서 이러한 사건은 기술 기업에 대한 신뢰를 저해할 뿐입니다. 우리는 그들의 서비스와 제품에 익숙하지만, 그것은 우리를 애착, 의존, 취약하게 만들고 착취당하는 느낌을 줍니다. 또한 그러한 사건은 그러한 악용을 확인합니다.
대중적인 은유와 달리 기술 회사는 우리에게 독성 제품을 공급하는 담배 회사와 비교되어서는 안 됩니다. 그러나 기술 회사는 프라이버시를 약화시키고, 편견을 증폭시키고, 심리적 약점을 악용하고, 괴롭힘을 조장하고, 산만함을 강화하고, 정치적 긴장을 고조시켰습니다. 또한 우리는 그들의 도구가 시민, 경제, 사회 및 개인의 복지를 향상시키기 때문에 이러한 회사를 억제할 수 없습니다. 그러나 그들의 서비스의 모든 장점에도 불구하고 기술 회사는 한 번이 아니라 계속해서 대중의 신뢰를 저버렸습니다!
신뢰성에는 윤리가 수반됩니다. 따라서 기업이 사용자 신뢰를 회복하려면 많은 작업을 수행해야 합니다. 그들의 미래 관행은 윤리적 격차를 메워야 합니다. 이 기사에서는 업그레이드가 필요한 주요 영역인 제품 인프라의 윤리에 대해 논의합니다. 또한 기술 회사가 윤리를 준수하기 어려운 이유에 대해 논의하고 현재 시나리오를 개선할 수 있는 방법을 제안합니다. 그러나 기사를 깊이 파고들기 전에 분명한 질문, 즉 윤리가 사용자 데이터에 대한 기술 회사의 행동에 실제로 영향을 미칠까요? 이 데이터 악용을 막기 위해 사용자 행동의 가혹한 변화가 필요합니까?
윤리는 도덕화에 지나지 않습니까?
기술 회사는 우리 삶에 영향을 미치는 데이터를 사용하는 방식에 대해 논의할 만큼 충분한 책임을 져야 합니다. Black Box Society의 저자이자 업계에서 가장 저명한 사상가 중 한 명인 Frank Pasquale는 막대한 사용자 데이터를 보유한 기술 회사는 엄격한 정부 접근 방식이 부과되지 않는 한 사용자 개인 정보 보호에 대해 논의하지 않을 것이라고 말합니다. 자율 규제 관행 하에서 시민들은 여전히 기술 회사에 의해 착취되고 속고 조종될 것입니다. Pasquale는 “기술 회사는 규제 프레임워크가 강제로 수행할 때까지 이러한 논의를 할 수 없다고 생각합니다. 그들은 그들 자신의 지침을 느슨하게 적용하는 것의 위험에 대해 경고를 받았고, 그들은 그들의 비판을 무시하거나 소외시켰습니다.” Facebook과 같은 회사는 체계적으로 인공 지능, 자동화 및 엔지니어링을 과대평가하고 윤리, 법률 전문성 및 규정 준수를 과소평가합니다.
Pasquale는 또한 Sandy Parakilas(2011년부터 2012년까지 타사 앱에 의한 데이터 유출 방지를 담당)가 선배들에게 중대한 침해 위험에 대해 경고한 후에도 권한을 부여받지 못한 사건을 회상하고 싶어합니다. 그는 데이터 보호에 대한 회사의 느슨한 태도가 중대한 데이터 유출로 이어질 것이라고 전했습니다. 그러한 사건에 비추어 볼 때 대중은 어떻게 회사를 신뢰하고 이제 윤리적으로 우려되는 직원의 의견을 들을 준비가 되었다고 믿을 수 있습니까?
방대한 고객 데이터에 액세스할 수 있는 기술 회사는 권력에 도취된 것 같습니다. 그들은 자신도 실패할 수 있다는 사실을 완전히 부인하는 경향이 있습니다. 게다가 거대 기술 기업은 규제 기관, 소비자, 주주와 같은 많은 주인에게 서비스를 제공하며 주인은 서로 경쟁하는 선호도를 가질 수 있습니다. 대중은 시장을 계속 운영하기 때문에 양심적 자본주의에 반대하지 않지만 모든 회사는 엄격한 강제 규제를 방지하기 위해 구조에 윤리를 부여해야 합니다.
한편, 최근 캠브리지 애널리티카 논란으로 인해 기업들이 마침내 자신들의 방식을 성찰할 의향이 있다면 어떨까요? 그들이 스파이더맨의 격언인 "큰 힘에는 큰 책임이 따른다"를 깨달았다면 어떨까요?
제품 구조가 윤리에 중요한 이유
기업이 신뢰를 회복하기로 결정했다면 먼저 윤리적 혁명과 관련하여 제품 및 서비스의 디자인을 개선해야 할 때임을 이해해야 합니다.
서비스와 관련된 디자인 문제는 기술 회사에 대한 대중의 신뢰를 떨어뜨립니다. 뚫을 수 없는 고정관념은 우리 주변에 무지의 벽을 만듭니다. 또한 디자인 선호도는 플랫폼에 적용되어 회사가 우리의 선호도에 따라 우리를 돕는 것이 아니라 우리를 착취하도록 돕습니다. 그에 따라 디자인과 광고 전략을 맞춤화합니다.
Facebook의 부사장인 Andrew "Boz" Bosworth는 기술 사용자로부터 최대한의 개인 데이터 추출을 최적화하기 위해 디자인을 선택했다는 메모를 유출했습니다.
Woodrow Hartzog는 메모에 대해 알게 된 후 "Facebook 디자인의 모든 측면이 공유를 중단하지 않고 그 과정에서 그것에 대해 좋게 느끼도록 하는 임무에 어떻게 기울어져 있는지 조금 더 쉽게 알 수 있습니다."라고 표현했습니다. 그는 또한 “이 디자인의 배후에 있는 이유는 이제 매우 중요한 윤리적 문제가 된 이유는 지금까지 법과 정책이 그것에 대해 거의 언급하지 않았기 때문입니다. 입법자들은 데이터 처리에 초점을 맞추지만 디지털 기술 설계에 대한 규칙을 너무 자주 무시합니다. 우리는 전반적으로 더 잘할 수 있으며 도구가 구축되는 방식에 대해 더 비판적으로 시작합니다.”
엄밀히 말하면 정책입안자들이 사용자의 관심을 소홀히 하기 때문에 제품 디자인 문제가 너무 흔합니다. 현재 상황을 개선하려면 기술 회사 전체에서 프라이버시 가치에 대한 새로운 청사진을 수용해야 합니다. 그러나 그러한 행동을 취하기 위해서는 독선적 윤리의 환상을 기술 대기업이 쫓아내야 합니다. 그 어느 때보다 더 투명해야 합니다.
기술 회사들은 서로 다른 가치, 사용자 다양성 및 다양한 개인 정보 선호도 때문에 강력한 기준을 적용하기 어렵다고 말합니다. 그들에 따르면 일부 사용자는 그것을 좋아하지 않을 수 있습니다. 그러나 정확히 사실이 아닌 이 진술은 기술 회사가 사용자 데이터를 올바르게 관리해야 하는 책임에서 벗어날 수 없습니다. 연예인이 대중의 관심을 받고 싶어도 사회의 롤모델이 되어야 할 의무를 회피하는 것과 같다.
기술 회사가 사용자 행동에 대규모로 영향을 미치는 제품과 서비스를 제공하는 한, 그들은 그들이 세상에 공개하고 있는 힘에 대한 책임을 받아들여야 합니다.
책임에 대해 이야기할 때 여러 차원이 있습니다. 그러나 Hartzog에 따르면 기술 회사는 세 가지 주요 표준을 설정해야 합니다. –
- 조작을 줄이고 투명성을 높여 신뢰를 높임
- 개인 데이터를 공유하는 동안 사용자가 선택할 수 있는 더 많은 권한을 부여하여 사용자의 비밀을 존중합니다.
- 절대적 자율성을 장려하고 사용자를 혼란스럽게 하는 방법을 포기함으로써 존엄성을 신성시합니다.
기술 회사는 비즈니스 윤리를 높이 평가하고 대규모 사용자 그룹을 위한 서비스나 제품을 개발할 때 이를 심각한 측면으로 고려해야 할 때입니다. 그것이 그들이 대중의 신뢰를 회복할 수 있는 유일한 방법입니다. 기술 기업들이 만들어내는 끊임없는 갈등에 정치권과 국민 모두 짜증을 내고 있다. 어쩐지 기술 회사들이 그들의 신뢰성 향상을 재고하는 방향으로 성장하고 있는 것 같습니다. 그러나 그들은 그것을 향해 나아가도록 도울 수 있는 시스템이 여전히 부족합니다. 어쨌든 오만함, 탐욕, 제도적 근시안은 대중과 정부가 더 이상 용납하지 않을 것입니다.