Tensorflow는 Google에서 제공하는 기계 학습 프레임워크입니다. 알고리즘, 딥 러닝 애플리케이션 등을 구현하기 위해 Python과 함께 사용되는 오픈 소스 프레임워크입니다. 연구 및 생산 목적으로 사용됩니다.
'tensorflow' 패키지는 아래 코드 줄을 사용하여 Windows에 설치할 수 있습니다 -
pip 설치 텐서플로
Tensor는 TensorFlow에서 사용되는 데이터 구조입니다. 흐름도에서 가장자리를 연결하는 데 도움이 됩니다. 이 흐름도를 '데이터 흐름 그래프'라고 합니다. 텐서는 다차원 배열 또는 목록에 불과합니다. Google Colaboratory를 사용하여 아래 코드를 실행하고 있습니다. Google Colab 또는 Colaboratory는 브라우저를 통해 Python 코드를 실행하는 데 도움이 되며 구성이 필요 없고 GPU(그래픽 처리 장치)에 대한 무료 액세스가 필요합니다. Colaboratory는 Jupyter Notebook 위에 구축되었습니다. 다음은 코드 조각입니다 -
예시
VOCAB_SIZE =10000print("텍스트의 전처리가 시작됩니다.")binary_vectorize_layer =TextVectorization( max_tokens=VOCAB_SIZE, output_mode='binary')MAX_SEQUENCE_LENGTH_ENGTH =250int_vectorize_layer =output_Usence_vectorize_layer =TextVectorization( max_tokens=EOC) /사전>코드 크레딧 - https://www.tensorflow.org/tutorials/load_data/text
출력
텍스트 전처리 시작설명
-
데이터는 'TextVectorization' 레이어를 사용하여 표준화, 토큰화 및 벡터화됩니다.
-
표준화에는 텍스트를 사전 처리하고 구두점 및 HTML 요소를 제거하는 작업이 포함됩니다.
-
토큰화에는 공백을 분할하여 문장을 단어로 분할하는 작업이 포함됩니다.
-
벡터화에는 토큰을 제공할 때 신경망에서 이해할 수 있도록 토큰을 숫자로 변환하는 작업이 포함됩니다.
-
이진 모델은 단어 모음 모델을 사용하여 모델을 구축합니다.