마이크로소프트가 개발자들이 '책임감 있는(responsible)' 디지털 어시스턴트를 구축할 수 있도록 돕는 일련의 지침을 공개했습니다. 기반 기술이 빠르게 발전하면서 대화형 인터페이스의 도입도 확대되고 있지만, 정작 윤리적 문제에 대한 고려는 그 속도를 따라가지 못하고 있는 실정입니다.
대화형 AI 시대, 왜 윤리적 설계인가
마이크로소프트는 이번 지침이 개발자들에게 자신의 제품이 늘 예측 가능한 방식으로만 사용되는 것은 아니라는 점을 상기시키기 위한 것이라고 설명했습니다. 윤리적 설계는 언제나 기술 업계에서 중요한 과제였지만, 사용자와 직접 대화를 나누는 대화형 인터페이스의 경우 그 중요성이 더욱 커집니다.
피자 주문 봇으로 보는 윤리적 설계
마이크로소프트는 피자 주문 봇을 예로 들어 이를 설명했습니다. 이러한 서비스는 사용자가 최소한의 혼란 속에서 손쉽게 피자를 주문할 수 있도록 설계되어야 합니다. 만약 사용자가 인종, 성별, 종교, 정치 등 '민감한 주제'를 꺼낸다면, 서비스는 실제 피자 가게 직원처럼 해당 대화에 깊이 개입하지 않는 태도를 취해야 합니다. 그렇지 않으면 봇 알고리즘에 내재된 편향이 고객과의 상호작용 과정에서 원치 않는 행동을 학습하게 될 위험이 있습니다.
투명성과 편향 없는 AI
나머지 지침 역시 유사한 방향을 따르고 있습니다. 전반적으로 마이크로소프트는 개발자가 잠재적 문제를 충분히 인식한다면 봇은 사회에 긍정적인 기여를 할 수 있다고 강조합니다. 또한 기업과 단체는 봇을 운영하고 있다는 사실을 투명하게 밝혀야 하며, 모든 AI 기반 서비스는 편향에서 자유롭고 각 문화권의 기준을 존중해야 합니다.
마이크로소프트의 Conversational AI 부사장 릴리 청(Lili Cheng)은 "전반적으로 이번 지침은 설계 초기 단계부터 책임감 있고 신뢰할 수 있는 대화형 AI를 개발하도록 방향을 제시한다"며 "기업과 조직이 자신들의 봇이 어떻게 사용될지 한 번 멈춰서 생각하고, 오남용을 방지하기 위한 필요한 조치를 취하도록 권장한다"고 말했습니다. 그녀는 이어 "결국 이 지침의 핵심은 신뢰입니다. 사람들이 기술을 신뢰하지 않으면 사용하지 않을 것입니다"라고 덧붙였습니다.
강제 규칙이 아닌 윤리 기준
전체 지침 목록은 Microsoft Research 웹사이트에서 확인할 수 있습니다. 법적 구속력을 지닌 강제 규칙은 아니지만, 봇을 개발할 때 반드시 고려해야 할 기본적인 윤리 기준을 잘 담아내고 있습니다. 마이크로소프트는 이번 주에 디지털 어시스턴트를 개발하는 개발자를 위한 퀵스타트 툴킷을 포함한 새로운 AI 기술 세트와 함께 이번 지침을 공개했습니다.