바위 밑에 숨어 지내는 게 아니라면, 인공지능(AI) 전문가들이 쏟아지듯 내놓고 있는 경고를 이미 접해봤을 것입니다. 전문가들은 인류가 AI를 완전한 수준으로 발전시키면, AI가 스스로 자신을 재설계하며 기하급수적으로 성장할 것이라고 경고합니다. 미래가 어떻게 될지 아직 아무도 알 수 없다는 사실은 부정할 수 없지만, 지금까지 우리가 설계하고 코딩해 온 AI는 그런 단계에 도달하기에는 너무나 미숙합니다. 현재 우리는 AI에게 간단한 결정을 스스로 내리는 법을 가르치는 초기 단계에 머물러 있습니다.
출처: techemergence.com
이러한 노력을 통해 대출 심사, 운전 자격 판정, 승진·성과 평가처럼 비교적 단순한 업무나, 인간으로서는 감당하기 어려울 만큼 빠른 속도의 관찰과 분석 작업에서 사람의 개입을 줄일 수 있으리라 기대합니다. 그러나 연구자들은 여전히 하나의 근본적인 질문 앞에 서 있습니다. 과연 기계에게 도덕성을 가르쳐야 하는가?
이 질문이 왜 이렇게 답하기 어려운가?
결론을 내리기 어려운 이유는, 현실 세계의 의사결정이 프로토타입 구현보다 훨씬 복잡하기 때문입니다. 한번 생각해 보세요. 어떤 상황 전체를 파악하지 못하는 기계가 '공정함'이 무엇인지 어떻게 알 수 있을까요? 우리 인간은 하나의 상황을 여러 각도에서 바라보며 종합적인 결론을 내리는 능력을 갖추고 있지만, 기계는 그렇게 작동하지 않습니다.
출처: datasciencecentral.com
따라서 기술적인 관점에서 아직 기계에 인간성을 불어넣는 것은 불가능하다고 봐야 합니다. 그 이유는, 우리가 의사결정의 대부분을 의지하는 양심과 직관 같은 감각 자체를 아직 재현하지 못했기 때문입니다. 물론 포커 게임, 자동화 처리, 대규모 계산 같은 분야에서 기계는 인간보다 훨씬 뛰어나지만, 여전히 인간의 감독이 필수적입니다. 당장 인공지능의 운명을 가를 논쟁이 끝없이 이어지겠지만, 다투기보다는 다음과 같은 가이드라인에 집중해 볼 수 있습니다.
윤리적·인간적 행동 기준의 명시적 정의
기계가 적절하게 반응하도록 가르치기 전까지는, 특정 상황에 대해 명확한 답을 제공해야 합니다. 그런데 이를 위해서는 제대로 된 전문가 패널이 필요합니다. 정작 우리 인간조차 자신들의 윤리에 대해 확신하지 못하기 때문입니다. 서로 입장의 차이를 접어두더라도, 합리적이면서 폭넓게 수용 가능한 해법을 찾기 어려운 문제들이 여전히 많습니다.
크라우드소싱을 통한 인간 도덕의 모색
예상되는 갈등에 대한 대안을 찾는다고 해도, 기계가 어느 한쪽에 치우치지 않으리라는 보장은 없습니다. 상황에 따라 판단이 달라질 수 있으며, 이는 또다시 새로운 갈등을 낳을 수 있습니다. 만약 기계가 인간들이 오랫동안 신뢰해 온 신념 체계에 접근할 수 있다면, 주어진 상황에서 결론을 도출하는 일이 훨씬 수월해질 것입니다.
출처: blog.applovin.com
시스템의 투명성 확보
현재 기계의 행동을 좌우하는 신경망은 이해하기 어려운 블랙박스에 가깝습니다. 그러나 엔지니어들이 윤리적 가치를 어떻게 학습시켰는지 알 수 있다면, 해석하기 어려운 알고리즘을 막연히 탓하는 대신 누가 어디서 실수했는지 명확히 파악할 수 있습니다. 이는 특히 지능형 자율주행차에 큰 도움이 될 것입니다. 투명한 시스템 덕분에 자율주행차는 자신의 실수와 경험으로부터 배워나갈 수 있기 때문입니다.
이러한 방향이 권장되는 이유는, 윤리적으로 행동하는 기계를 사람들이 더 쉽게 신뢰할 수 있기 때문입니다. 나아가 명확한 행동 원칙은 자신의 행동을 결정해야 하는 인공 에이전트의 부담을 덜어줍니다. 더 중요한 것은, 기계와 인간이 함께 의사결정을 내려야 하는 상황에서 공유된 도덕적 가치가 합의와 타협을 촉진할 수 있다는 점입니다.
이를 좀 더 쉽게 이해하기 위해 예를 들어 보겠습니다. 전문가 그룹이 중요한 의사결정을 두고 고민하는 수술실을 상상해 보세요. 거기에 그들을 돕는 기계가 있다면 어떨까요? 우리는 이런 방식으로 한층 더 강력해질 것입니다. 그리고 그날이 오기를 우리는 기다릴 수밖에 없습니다!
여러분은 어떻게 생각하시나요? 아래 댓글 섹션에 의견을 남겨주세요!