Computer >> 컴퓨터 >  >> 프로그래밍 >> 프로그래밍

데이터 마이닝에서 피드포워드 신경망과 피드백 신경망의 차이점은 무엇일까?

피드포워드 신경망(Feed-forward Network)

피드포워드 신경망에서는 신호가 입력층에서 출력층으로 한 방향으로만 전달됩니다. 순환(feedback loop) 구조가 없기 때문에 특정 층의 출력이 그 층 자신에게 다시 영향을 주는 일은 없습니다. 이러한 네트워크는 입력과 출력을 연결하는 비교적 단순한 구조를 가지며, 패턴 인식 분야에서 폭넓게 활용됩니다. 이런 구조는 상향식(bottom-up) 또는 하향식(top-down) 방식이라고도 불립니다.

입력 유닛들의 가중치가 적용된 출력값은 동시에 두 번째 뉴런 층, 즉 은닉층(hidden layer)으로 전달됩니다. 은닉층의 가중 출력은 다시 다음 은닉층의 입력이 될 수 있으며, 이 과정은 여러 층에 걸쳐 반복될 수 있습니다. 은닉층의 개수는 임의로 정할 수 있지만, 일반적으로 하나의 은닉층만 사용하는 경우가 많습니다.

마지막 은닉층의 가중 출력은 출력층(output layer) 유닛들의 입력으로 들어가며, 출력층은 주어진 샘플에 대한 네트워크의 예측 결과를 내보냅니다. 은닉층과 출력층을 구성하는 유닛들은 생물학적 뉴런을 상징적으로 본떴다는 의미에서 '뉴로드(neurode)'라고 부르기도 하고, 단순히 출력 유닛(output unit)이라고 지칭하기도 합니다. 은닉 유닛을 통해 구성된 선형 임계 함수(linear threshold function) 기반의 다층 피드포워드 신경망은 사실상 모든 함수를 매우 근사적으로 표현할 수 있다는 점에서 강력한 성능을 발휘합니다.

피드백 신경망(Feedback Network)

피드백 신경망은 네트워크 내부에 학습 루프(loop)를 두어 신호가 양방향으로 이동할 수 있는 구조입니다. 이러한 네트워크는 매우 동적이며 구조가 복잡해질 수 있습니다. 피드백 신경망은 상태가 끊임없이 변화하다가 평형점(equilibrium point)에 도달하면 안정되는 동적인 특성을 지닙니다.

네트워크는 평형점에 도달한 후 입력값이 변경되기 전까지 그 상태를 유지하며, 입력이 바뀌면 새로운 평형점을 찾아야 합니다. 피드백 아키텍처는 '대화형(interactive)' 또는 '순환형(recurrent)' 구조라고도 불리며, 이 용어는 개별 층 조직 내부의 피드백 연결을 가리키기도 합니다.

딥러닝 알고리즘의 정확도를 높이기 위해 대규모 데이터베이스를 활용할 때에는, 행동 연구를 위한 데이터 생산 모델과 인공지능 학습 모델을 함께 구축하는 것이 필수적입니다. 일반적으로 사용자의 질병 정보가 포함된 경우 임상 데이터(clinical data)를 활용하게 되는데, 이때 임상 데이터가 정확하지 않으면 예측 결과 역시 잘못될 수 있습니다.

또한 임상 데이터 외에 사용자의 행동 및 활동 정보가 반영되지 않으면, 시간의 흐름에 따라 변화하는 사용자 상황에 맞는 시계열(time-series) 데이터를 입력값으로 활용해야만 정확한 예측 결과를 얻을 수 있습니다.

딥러닝 알고리즘을 위한 피드백 모델은 크게 원본 피드백 모델(original feedback model)과, 그 결과를 재해석하는 2차 피드백 모델(secondary feedback model)로 구성됩니다.