딥러닝 관련 상식

1. GAN아키텍처는 생성된 이미지에 대한 통제를 거의 또는 전혀 제공하지 않는다. InfoGAN은 이러한 부분을 보완하여 생성된 이미지의 다양한 속성을 제어할 수 있도록 한다.
1) 정보 이론의 개념을 사용해서 노이즈 항을 출력에 대해 예측할 수 있고
2) 체계적인 제어를 제공하는 잠재 코드(Latent Code)로 변화시킨다.

2. MLPerf는 머신러닝 소프트웨어 프레임워크로서 머신러닝 하드웨어 가속기, 머신러닝 클라우드 플랫폼의 성능을 측정하기 위한 머신러닝 벤치마크 제품군이다.

3. 최초의 컨볼루션 망 중 하나인 AlexNet은 8개의 계층으로 구성된다. 처음 5개는 최대 풀링 계층이 있는 컨볼루션이고, 마지막 3개는 완전 연결되어 있다. 이와는 달리 레지듀얼 망(ResNet)은 이전 계층으로 직접 공급한다는 흥미로운 아이디어에 기반을 두고 있다.

4. Callbacks은 훈련 중에 동작을 확장하거나 수정하고자 모델로 전달하는 객체다. tf.keras에서 일반적으로 사용되는 몇 가지 유용한 콜백이 있다.

5. 긍정으로 예측한 것 중 실제로 참인 것의 비율을 우리는 정밀도(Precision)이라고 정의한다.  TP / (TP + FP)

6. 사전 학습된 모델이나 특징을 지도 학습 과제에 이용하는 것을 다운스트림 과제라고 정의한다.

7. 원시 오디오 파형을 생성하는 심층 생성 모델을 WaveNet이라고 한다.

8. LeNet은 ConvNets군에 속하며, 최대 풀링 작업을 통해 더 낮은 계층에서 컨볼루션 연산을 교대 수행할 수 있는 구조이다.

9. Xception망은 깊이별 컨볼루션과 점별 컨볼루션이라는 두 가지 기본 블록을 사용한다. 깊이별 컨볼루션은 채널별 n*n 공간 컨볼루션이다. 점별 컨볼루션은 1*1 컨볼루션이다.

10. nove2vec 임베딩 모델은 그로버와 레스코벡에 의해 확장 가능한 방법으로 그래프에서 노드의 특징을 학습하는 기법으로 제안됐다. 이 방법은 그래프에서 다수의 고정 길이 랜덤 워크를 실행함으로써 그래프 구조의 임베딩을 학습한다.

11. tf.hub는 즉시 사용할 수 있는 사전 훈련된 모델 모음을 말한다. tf.data는 매우 효율적인 방법으로 모델을 로드하는데 사용할 수 있다.