본문 바로가기

반응형

전체 글

(57)
CS231n - Lec1. Intro A brief history of computer vision Block world 60s first PhD thesis of cv visual world -> simple geometric recognize & reconstruct shape The Summer Vision Project 60s David Marr MIT vision scientist cv , algorithm -> recognize visual world primal sketch input image -> edge image -> 2 1/2-D sketch -> 3-D model Representation - object recognition Every object is composed of simple geometric primit..
[error] CUDA out of memory 리눅스 터미널에서 딥러닝 학습을 강제 중단했을때 GPU에 남은 메모리 정리, 혹은 학습시에 위 에러메세지처럼 GPU의 메모리가 부족하다고 떴을 시에 사용할 수 있다.   아래 명령어를 통해 딥러닝을 학습시킨 python 파일의 실행 id를 찾는다 ps aux | grep pythonmunkyun+  144324  0.6  0.7 1129676 246912 pts/1  Sl+  10:47   0:15 /home/munkyungjung/anaconda3/bin/python /home/munkyungjung/anaconda3/bin/jupyter-lab위 경우에 ID는 144324가 된다  아래 명령어를 통해서도 종료되지 않고 GPU 메모리에 남아있는 데이터를 확인할 수 있다 nvidia-smi  0   N/..
[Jupyter Notebook] 가상환경 관리 가상환경 생성 conda create -n [가상환경명] python=[파이썬버전] 가상환경 활성화 conda activate [가상환경명] ipykernel 설치 conda install ipykernel ipykernel을 이용해 가상환경을 주피터 노트북의 커널로 추가 python -m ipykernel install --user --name=[가상환경명] --display-name [표시할이름] 가상환경 검색 conda info --envs 가상환경에 설치된 패키지 확인 conda list 가상환경 삭제 conda remove --name [가상환경이름] --all
[ubuntu] 우분투 부팅 : dev/nvme0n1p2 clean ubuntu에 nvidia-drive을 설치 후에 재부팅 하였는데 검은 화면에 dev/nvme0n1p2 clean ... 라고 뜨고 화면이 멈춤. 1. 재시동 2. 부팅전에 esc 누르기 (너무 오래 누르면 grub 창으로 이동하니 주의) 3. Advanced options for Ubuntu 4. Ubuntu, with Linux ... generic (recovery mode) 클릭 5-1. nvidia 파일 삭제 - 그래픽 드라이버 없어짐 root 좌측 하단 터미널 활성화 sudo apt-get purge nvidia* resume - Resume normal boot 5-2 그냥 시동 resume - Resume normal boot 우분투 부팅됌. 재부팅시 마다 5-2로 귀찮게 하고있는데 이를 ..
[paper] Very Deep Convolutional Networks for Large-Scale Image Recognition (2014) CNN의 깊이가 성능에 끼치는 영향 ​ Top-5, top-1 : softmax의 output에서 n번째 높은 수치를 가지는 값 중에 정답이 있는 경우 ​ VGC-16 : Visual Geometry Group + 16 layers​ Input : 224x224 fixed ​ 모든 convolution layer에서 3x3필터만 사용 => 16-19레이어에 달하는 깊은 신경망 가능 ​ Conv layer 많이씀 => ReLU 적용 많이시킴, parameter의 수 감소 ​ 네트워크가 깊어질수록 이미지 분류 정확도 높아짐
[paper] ImageNet Classification with Deep Convolutional Neural Networks (2012) 오버피팅을 방지하기 위한 여러 방법 사용 ​ 5개의 conv layer와 3개의 fc layer를 사용, 8개중 어떤 layer을 제거해도 성능이 확연히 떨어지는 것​ Convolution/pooling layer : 이미지를 형상적으로 분할하고 분석​ Weight에 의해 계산 - 활성화함수 통과 - 출력층 ​ Fully connected layer : 이미지를 분류/설명하는 데 가장 적합하게 예측​ 2차원 배열 형태를 1차원 평탄화 작업 - 활성화 함수로 뉴런 활성화 - Softmax로 분류 ​ Dataset : ImageNet data augmentation ​ Activation Function : ReLU - saturation 방지 ​ Overlapping Pooling layer – top1,..
[가상환경] ubuntu 22.04.6 cuda 11.8 cudnn 8.9.7 pytorch 설치 import torch print(torch.__version__) torch.cuda.is_available() device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu") print(device) torch.cuda.get_device_name(0) 사용 gpu - GeForce RTX 4080 22.04.6 준비물: ubuntu 설치를 위한 컴퓨터 1, 다른 컴퓨터2(우분투 드라이버 Usb를 만들기 위함), 빈 usb 1. 2번 컴퓨터에 우분투 데스크탑 이미지 다운로드 2. 2번 컴퓨터에 rufus설치 후 usb 꽂기 3. 해당 usb와 우분투를 선택하여 ubuntu 설치용 usb 만들기. 4. usb를 1번 데스크탑에 연결하고 부..
[paper] An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale 트랜스포머 모델이란? 문장 속 단어와 같은 순차 데이터 내의 관계를 추적해 맥락과 의미를 학습하는 신경망. attention/ self-attention이라 불리며 진화를 거듭하는 수학적 기법을 응용해 서로 떨어져 있는 데이터 요소들의 의미가 관계에 따라 미묘하게 달라지는 부분까지 감지. CNN 과 RNN(합성곱과 순환 신경망) 을 이제는 트랜스포머가 대체 라벨링은 없애고 성능은 높이고 Self-Attention: Convolution Network(CNN): 인간의 시신경 모방. 이미지의 공간적 정보를 유지하고, fullly connected neural network 대비 연산량을 줄이고 이미지 분류에서 성능이 좋음. Convolution(합성곱)이란? convolution은 두 함수(f,g)를 이용..

반응형