JADE's Repository

__del__ 함수는 python의 ResourceWarnings를 예방하기위해 열려있는 file handler를 닫는 용도로 사용된다. 하지만 __del__ 함수는 다음과 같은 단점들을 가지고 있다. 1. __del__ 함수는 참조된 object의 개수가 0이 될 때까지 호출되지 않는다. 그래서 resource handler가 필요 이상으로 사용되거나 열러있다. 2. __del__함수는 system exit가 될 때 실행이 보장되지 않는다. (Python documentation) It is not guaranteed that __del__() methods are called for objects that still exist when the interpreter exits. 3. __del__ 함수..

Instroduction 최근 ViT는 다양한 computer vision 분야에서 주목을 받고 많은 성공을 이루어냈다. 하지만 deployment 관점의 ViT는 CNN보다 훨씬 느리기때문에 여전히 CNN이 압도하고 있다. ViT의 높은 latency를 해결하기위해 많은 연구가 이루어졌다. 예를 들어 Swin Transformer, PVT(Pyramid Vision Transformer)는 MHSA(Multi-Head Self Attention)의 quadratic하게 증가하는 연산량을 개선시켰다. 이외에도 MobileViT, Efficientformer, Coatnet 등은 convolution block들과 Transformer block들을 결합하여 accuracy와 latency의 trade-o..