인공지능(AI)은 모든 산업 분야를 빠르게 변화시키고 있습니다. 환자의 질병을 진단하고, 범죄가 발생할 가능성이 높은 지역을 예측하는 등 그 활용 범위는 무궁무진합니다. 나아가 전문가들은 AI가 창의성까지 갖추어 예상치 못한 상황에 대비할 수 있도록 만들려고 노력하고 있습니다.
우리 삶의 수많은 결정에는 예측이 필요하며, 사실 AI는 인간보다 예측에 더 뛰어납니다. 그런데도 우리는 왜 스스로 만들어낸 기계와 기술을 믿지 못하는 걸까요? 실제로 많은 사람들은 지능형 기계나 챗봇보다 전문가와 상담하는 편이 낫다고 생각합니다. 설령 전문가가 기계만큼 정확하지 않더라도 말입니다. AI의 도움을 받으면서도 이를 신뢰하지 않는 세상은 존재할 수 없습니다. 따라서 AI의 혜택을 온전히 누리려면 사람들이 AI를 믿도록 만드는 방법을 찾아야 합니다. 대체 왜 우리는 AI를 의심하는 걸까요?
신뢰 문제의 시작은 어디였을까?
이는 중요한 질문입니다. 처음부터 의심하기 시작하지 않았다면 지금쯤 우리는 AI에 둘러싸여 살고 있었을 테니까요. 모든 것은 IBM이 의사들의 암 치료를 돕기 위해 개발한 '왓슨 온콜로지(Watson Oncology)'를 홍보하면서 시작되었습니다. 이 AI는 세계 암 환자의 약 80%를 차지하는 12가지 암 유형에 대해 신뢰할 수 있는 치료 권고를 제공하겠다고 약속했습니다. 하지만 실패하고 말았습니다.
원인은 의사들이 몇 가지 문제에 대한 해결책을 왓슨 온콜로지에 물었을 때, AI가 내린 제안이 자신들의 판단과 일치했다는 점입니다. 이로 인해 두 가지 일이 벌어졌습니다. 첫째, 의사들은 자신의 방식이 정확하다는 확신을 갖게 되었고, 둘째, 왓슨의 제안이 자신들의 견해와 상충될 경우에는 '왓슨이 역량이 부족하다'고 결론 내렸습니다.
게다가 "제안한 방법이 왜 의사들이 사용하는 방법보다 나은가"라고 물었을 때, 왓슨은 만족스러운 답변을 내놓지 못했습니다. 그 이유는 알고리즘이 너무 복잡해서 인간이 이해할 수 없었기 때문입니다. AI가 아무리 설명하고 논증하려 해도 의사들은 그 내용을 받아들일 수 없었고, 결국 의심은 더욱 커져갔습니다. 얼마 지나지 않아 IBM 왓슨의 최고 의료 파트너였던 MD 앤더슨 암센터(MD Anderson Cancer Center)는 해당 프로그램을 중단하고 기존 방식으로 되돌아갔습니다.
AI는 비교적 새로운 기술임에도 불구하고, 방대한 데이터 속에서 숨겨진 패턴을 식별하는 복잡한 분석 시스템을 통해 의사결정을 내립니다. 이 자체는 분명 장점이지만, 그 결과가 어떻게 도출되었는지 설명한다 해도 이해하기란 매우 어렵습니다. 실제로 많은 전문가들은 "작동 과정이 눈에 보이지 않는다"며 AI가 제대로 작동하는지조차 의심한다고 말합니다.
이 외에도 구글의 알고리즘이 유색인종을 고릴라로 분류한 사건, 마이크로소프트 챗봇 '테이(Tay)'가 하루아침에 인종차별 발언을 쏟아낸 사건, 테슬라 차량의 오토파일럿 모드가 치명적인 사고를 일으킨 사건 등 여러 사례들이 사람들의 의심을 증폭시키는 데 한몫했습니다. 결국 현재로서는 AI가 완벽하지 않다는 결론에 도달할 수밖에 없습니다. 설계하고 코딩한 인간조차 완벽하지 않으니까요.
그렇다면 신뢰를 되찾을 방법은 없을까?
AI에 대한 불신은 사회를 가장 크게 분열시키는 요인이 될 수 있습니다. 따라서 AI가 잠재력을 최대한 발휘하려면, 특히 우리가 익숙한 결론과 다른 권고를 내놓을 때에도 사람들이 AI를 신뢰하도록 만드는 방법을 찾아야 합니다. 다행히 아직 늦지 않았고, AI에 대한 신뢰를 높일 수 있는 몇 가지 아이디어가 있습니다. 하나씩 살펴보겠습니다.
1. 경험 쌓기
첫 번째 해결책은 일상적인 상황에서 자동화 앱을 더 많이 사용해 보는 것입니다. 긍정적으로 기억될 만한 좋은 경험이 쌓이면 사람들의 태도가 개선된다는 사실이 밝혀졌습니다. 이는 기술적 세부 사항에 정통하지 못한 일반 대중에게 특히 중요합니다. 또한 기술은 충분히 자주 사용해 봐야 비로소 신뢰하게 됩니다. 인터넷이 좋은 예입니다. 초기에는 의심의 눈초리를 받았지만, 오랜 사용 경험을 거친 지금은 당연하게 받아들이고 있습니다.
2. 투명성 확보
무언가를 의심하게 되는 또 다른 이유는 그것에 대해 잘 모르기 때문입니다. 알게 되면 두려움이나 의심은 자연스럽게 줄어듭니다. 따라서 기업들이 투명성 보고서를 정기적으로 공개하도록 해야 합니다. 구글, 에어비앤비, 트위터 같은 기업들은 이미 이러한 활동을 진행 중입니다. 이런 관행은 알고리즘이 어떻게 의사결정을 내리는지 더 잘 이해하는 데 큰 도움이 됩니다.
3. 통제권 행사
전문가들은 협력적인 의사결정 프로세스를 만드는 것이 신뢰 구축에 기여한다고 말합니다. 이는 기계가 스스로 학습하는 데도 도움이 됩니다. 많은 사람들의 생각과 달리, AI 의사결정 과정에 사람을 더 많이 참여시키는 것이 오히려 신뢰와 투명성을 높이는 효과를 가져옵니다.
이상이 기계가 더 많은 신뢰를 얻는 데 도움이 될 수 있는 몇 가지 방법입니다. 전문가가 아닌 이상 AI의 작동 원리를 깊이 배우려는 사람은 많지 않지만, 작동 방식에 대해 조금이라도 이해를 돌아준다면 사람들은 AI를 훨씬 더 호의적으로 받아들일 것입니다. 여러분은 어떻게 생각하시나요?