세상은 우리가 수십 년 동안 영화에서 보고 존경했던 방식으로 AI를 인수하고 삶을 활기차게 만들기 위해 상당히 서두르고 있는 것 같습니다. 그러나 우리는 의도적으로 그 어두운 면을 눈감아 주었습니까? 순식간에 인류를 집어삼킬 수 있는 편은? 해킹, 바이러스, 멀웨어와 같은 문제가 우리의 주요 관심사인 현 시점에서 우리는 이 첨단 기술에 따라다니는 악마에 대비할 준비가 되어 있는지 정말 숙고해야 합니다. 그것이 우리를 능가하면 어떻게 될까요? 우리는 우리 자신의 무덤을 파고 있습니까?
현재 AI는 수행하는 기본 기능 때문에 좁은 AI라고 합니다. 그 자체로 지금도 큰 위협이 될 수 있습니다! 가장 관련성이 높은 예는 빠르고 때로는 재치 있는 응답으로 우리를 놀라게 하는 Siri입니다. 잘! 현재 그녀는 인터넷에서 데이터만 선택하여 우리와 공유합니다. 우리가 휴면 AI라고 부르는 Strong AI는 대화를 시작하고 학습하고 심지어 추론할 수 있는 인지 기능을 가질 것입니다. 정지시키다! 이 단계에 도달하면 어떻게 될까요?
동전의 뒷면
이 기술의 발전에 대한 주요 관심사는 잘못된 손에 넘어가는 것입니다. 무기가 처음 발견되었을 때 아마도 동물과 같은 외부 위험으로부터 자신을 방어하기 위한 의도였을 것입니다. 그러나 우리는 이 무기들을 서로 바꾸면서 먼 길을 왔습니다. 마찬가지로 우리 국민이 AI를 우리에게 사용하면 어떻게 될까요?
인공 지능은 죽이도록 프로그래밍할 수 있습니다. 좋든 싫든, 모든 가능성에서 이 기술은 잘못된 손에 들어가 대량 학살을 일으킬 수 있습니다. Future of Life에 따르면 이러한 기술 무기는 좁은 AI에서도 가능합니다. 강력한 AI가 있으면 어떻게 될까요? 모든 가능성에서 AI는 할당된 작업을 충족하는 데 있어 인간을 방해물로 취급할 수 있습니다.
현재 우리는 강한 AI와 약한 AI 사이 어딘가에서 비틀거리고 있습니다. 완벽한 예는 증거 기반 결론에 도달하기 위해 많은 데이터를 뒤적거리도록 설계된 IBM의 슈퍼컴퓨터인 Watson입니다. 사실, 2011년에는 퀴즈 쇼 Jeopardy에서 이전 우승자를 상대로 100만 달러를 땄습니다. 훌륭한? 아마도! 하지만 순식간에 액세스할 수 있는 데이터의 양과 모든 데이터에 액세스할 수 있을 때 어떤 일이 일어날지 상상해 보세요.
오늘날 여러분과 제가 보는 것은 기계가 특정 작업을 수행할 수 있게 해주는 Applied AI입니다. 데이터를 기반으로 의학적 진단을 내리거나 얼굴을 인식하는 등의 작업을 수행할 수 있다는 것입니다. 일반적인 AI는 아직 존재하지 않으며, 특정 유형의 데이터에서 결과를 추론할 수 있는 능력을 기계에 부여할 뿐만 아니라 우리 인간이 수행하는 모든 작업을 수행합니다.다음 질문이 제기됩니다.우리 직업은 어떻게 되나요?
초점을 변경할 시간인가요?
우리는 파멸의 예언자가 되기를 원하지 않지만 빌 게이츠나 엘론 머스크와 같은 거물들이 AI가 가하는 위협에 대해 걱정하는 것은 전혀 이유가 없습니다. 우리는 몇 년 전에 예측했던 것과 비교하여 AI 발전에서 훨씬 앞서 나가고 있습니다. 슈퍼 인텔리전스를 향해 나아가는 것보다 그것을 확보하기 위한 해킹을 알아내는 것이 중요합니다.
지능이 높아짐에 따라 시간이 지남에 따라 목표가 우리와 다른 방향으로 조정될 수 있습니다. 그리고 우리는 이 잘못 정렬된 지능이 결국 어떤 결과를 가져올지 모릅니다. 그렇게 되려면 수십 년이 걸릴 수 있지만 실제로 걱정되는 것은 안전 해킹을 알아내는 데 훨씬 더 많은 시간이 걸린다는 사실입니다.