대부분의 연구원이 AI를 가르치는 데 사용된 소스 코드를 보고하지 않는 것으로 나타났습니다. 이는 결과를 복제하고 추가 작업을 수행할 수 없기 때문에 다른 과학자를 괴롭히고 있습니다.
한 마디로 급성장하는 인공지능 분야는 복제 위기에 직면해 있다. 이것은 소수의 사람들에게는 평범하게 들릴 수 있지만 AI 애호가에게는 이것은 재앙이나 다름 없습니다. 그러나 수행된 연구의 복제 또는 역추적이 필요한 이유는 무엇입니까? 자세히 알아보려면 자세히 읽어보세요!
복제란 무엇입니까?
연구원이 모델/소프트웨어/알고리즘 또는 연구 자료를 역추적할 수 있는 프로세스를 복제라고 합니다. AI 분야는 예외가 되고 있습니다. 그렇게 하는 것이 전문가에게 어려운 작업이 되기 때문입니다. 역추적하지 않으면 막힐 수 있습니다!
백트래킹이 중요한 이유는 무엇입니까?
일반적인 믿음과 달리 복제에는 고유한 장점이 있습니다. 결과를 쉽게 확인하여 패러다임에 대한 변경을 제안하거나 확인할 수 있습니다. 이것은 자동화 분야에서 연구하던 사람들에게 사용된 기계를 쉽게 수정하고 완전히 업그레이드할 수 있었기 때문에 놀라운 일이었습니다.
따라서 AI에 대한 연구를 재현하는 것이 가능한지 묻는다면 "아니오 당신은 할 수 없습니다.”
연구원은 일반적으로 소스 코드를 공유하지 않습니다. Nicolas Rougier(프랑스 국립 컴퓨터 과학 및 자동화 연구소의 전산 신경과학자)에 따르면, 현장 외부의 사람들은 원하는 결과를 얻을 수 있는 엄격한 규칙이 있다고 생각할 수 있지만 이 작업을 수행하는 사람들은 알고 있습니다. 진정한 투쟁. 그러나 우리는 소스 코드가 회사에 저작권의 대상이 될 수 있거나 때로는 연구원이 현장에 개발을 가장 먼저 제시하는 것을 목표로 하기 때문에 소스 코드를 공유하지 않은 것에 대해 누구를 비난할 수 없습니다. 그러나 소프트웨어나 기계가 기계 학습 알고리즘으로 구동되면 상황이 상당히 복잡해집니다. 이러한 기계는 경험 및 기타 시뮬레이션을 통해 학습하기 때문에 다른 기계와 동일한 것을 얻을 수 없습니다. 따라서 극히 드문 경우라도 소스 코드를 얻더라도 기계를 유사하게 훈련시키지 않으면 원하는 결과를 얻을 수 없습니다.
이전에 기계를 훈련시키는 데 사용된 방법론을 손에 넣을 수 없기 때문에 이것은 다소 가상적인 상황입니다! 우리가 이것을 말할 때 우리를 믿으십시오. 그러나 아무도 가능한 모든 조건 또는 문서에 정의된 샘플 공간에서 알고리즘을 테스트할 시간이 없습니다. 이것이 AI 프로젝트가 기존 기계나 프로젝트에 비해 설계 및 개발에 훨씬 더 오랜 시간이 걸리는 이유 중 하나입니다.
이 문화가 기하급수적으로 성장하지 않고는 먼 꿈으로 남을 것이기 때문에 우리가 이 문화를 바꿔야 한다는 사실을 부인할 수 없습니다!
이 방법이 최적입니까?
전문가들은 우리의 안전과 존재가 위태로워지지 않도록 비밀로 하거나 선택된 소수에게만 공유해야 한다고 말합니다! 그러나 소스 코드를 공유한 사람들이 그것을 오용하지 않을 것이라는 것을 어떻게 알 수 있습니까? 같은 것을 위한 기계 학습 알고리즘을 설계할 수 있다고 생각한다면 아직 그 목표에 도달하지 않았다는 것을 알아야 합니다. 따라서 인간의 행동을 감지하는 알고리즘에 의존할 수 없습니다.
지금 해야 할 일은 무엇입니까?
우리는 이러한 개념에 대해 공개하면 소란이 줄어들 것이라고 생각할 수도 있지만, 이러한 믿음과는 반대로 이것은 재앙이나 다름없을 것입니다. 제정신이 아닌 테러리스트는 리버스 엔지니어링하여 대량 살상에 사용할 것입니다. 의료 산업이 운영하는 것과 동일한 알고리즘을 테스트하기 위한 보드를 구성하는 것을 권장할 수 있습니다. 테스트 및 승인을 받지 않는 한 약의 성분을 공개하지 않습니다. 인공 지능 기계에도 동일한 작업을 수행하면 상황이 예상만큼 두렵지 않을 것입니다.
우리도 주도권을 잡을 수 있고 예법 뒤에 숨는 대신 함께 일하는 것이 유익할 것입니다. 결론적으로 우리는 기계가 편향되어 있지 않으며 "심판의 날"을 기다리고 있다면 우리 모두가 위험에 처해 있음을 잊지 말아야 합니다. 협력과 감독 학습만이 우리에게 남은 유일한 도움입니다.
결론
우리는 연구를 복제할 수 없지만 기계는 복제할 수 있습니다. 2017년 후반에 우리는 AI가 또 다른 종류를 만드는 데 도움이 되는 것을 목격했습니다. 이 AI 기반 머신은 Google이 작업하고 있는 AutoML로 알려진 프로젝트였으며, 따라서 AI 산업의 다음 큰 단계를 표시했습니다. 개발은 축하할 가치가 있지만 그렇게 하는 동안 한 가지 중요한 사실을 간과하고 있습니다. 즉, 개발이 자동화되기 때문에 소프트웨어가 인간이 이해하기 훨씬 더 복잡해지고 있다는 것입니다.
같은 상황이 계속된다면 기계가 인간의 개입 없이 스스로를 창조하는 날이 머지 않았습니다. 위험한가요? 우리는 그렇게 생각합니다! 우리가 역추적하느라 바쁘고 기계가 클론을 생성하기 시작한다면 어떨까요! 여러분 눈을 뜨세요!
다르게 생각하거나 공유할 가치가 있는 이 주제에 대한 의견이 있는 경우 아래 댓글 섹션에 남겨주세요!