[Docker] 도커에서 Ollama를 통해 llama3.1 8B 구동하기
·
Docker_도커
OllamaOllama는 로컬에서 AI 모델을 실행하고 관리할 수 있는 솔루션으로, 다양한 언어 모델과 호환되며, 특히 개인 및 기업이 로컬 환경에서 AI를 실행할 수 있게 돕는 도구이다. Ollama는 명령줄 인터페이스를 통해 편리하게 언어 모델을 실행하고 관리할 수 있게 하며, 특히 Llama 3 시리즈와 같은 모델과 GPT 모델을 지원해 사용자가 직접 대화형 AI 모델을 로컬 환경에서 사용할 수 있게 한다. Ollama의 주요 기능:로컬 실행 지원: 로컬 환경에서 대형 언어 모델을 구동할 수 있어 데이터 프라이버시를 보호, 즉 외부 API 호출 X모델 관리 및 업데이트: Ollama는 다양한 언어 모델의 버전을 손쉽게 관리.커스텀 모델 배포: Ollama는 커스텀 모델 배포 및 관리 기능도 제공해,..
[K3s] Raspberry PI 4 에 K3s 설치하여 클러스터 구축하기
·
Kubernetes_쿠버네티스
이번에 RaspberryPI를 통한 클라우드 환경 구축 및 이 가이드에서는 Raspberry Pi 4 클러스터에 K3를 원활하게 설치하는 데 도움이 되는 커맨드 라인과 유용한 팁을 공유합니다. 본격적으로 설치 과정을 시작하겠습니다. RaspBerry PI OS 설치 https://www.raspberrypi.com/software/operating-systems/ 운영체제 설치를 하고 부팅을 해줍니다. Linux Container 기능 활성화 위 설정은 리눅스 시스템에서 cgroup(Control Group)을 사용하여 메모리 및 CPU 자원을 제어하기 위한 것입니다. 이 설정을 추가하는 이유 자원 제어: cgroup 설정을 사용하면 시스템 관리자가 각 프로세스 그룹에 대해 메모리 및 CPU 자원 할당을..
[Docker] Ubuntu에서 도커 완전 삭제
·
Docker_도커
Docker Uninstall Guide 지난 1주일동안 배포 업무하다가 도커만 수십번 재 설치하였기에 구글링이 귀찮아 정리해둔 포스트입니다. 도커 (실행중,멈춘) 컨테이너 전체 삭제 docker rm -f $(docker ps -qa) 도커 삭제 sudo apt-get purge docker-ce docker-ce-cli containerd.io sudo apt-get purge -y docker-engine docker docker.io docker-ce docker-ce-cli sudo apt-get autoremove -y --purge docker-engine docker docker.io docker-ce 관련 파일 및 그룹 해제 sudo groupdel docker sudo rm -rf /v..
[Docker] docker compose 와 docker-compose의 차이점 정리
·
Docker_도커
인턴을 하면서 오픈소스에 해당 주제에 대한 참조 및 학습을 진행 후 작성하였습니다. What is docker-compose ? python으로 작성된 기능이다. (git branch -> V1.x) pip install docker-compose 로 설치 23년 6월 부로 지원 만료되었다 (더 이상 사용되지 않는다) What is docker compose ? Go language로 작성 (git branch -> V2.x) 기능을 추가하여 새로 작성 apt-get install docker-compose-plugin (커맨드 만 살펴봐도 차이점을 알 수 있다) python project에서 Linux-CLI(Command Line Interface) 프로젝트로 확장 루트 명령에서 모든 공유 플래그를 ..
[Docker/도커] 도커 엔진(Docker Engine)의 명령어(Commands) 및 실습
·
Docker_도커
홍익대학교 소프트웨어융합학과 docker_n_k8s 스터디를 통해 작성한 게시글 입니다. Docker's Command - 도커 명령어를 알아보자 이번 포스팅에서는 필자는 도커 엔진을 구동시키는 것에 필수,옵션 들에 대하여 작성하고자한다. 이 포스트를 읽기전 도커 설치가 안되었다면 링크를 참조하여 설치를 하는 것이 바람직하다. https://boramchan-corgi.tistory.com/7 [Docker/도커] 도커 설치 및 간단한 실습 curl -fsSL https://get.docker.com/ | sudo sh sudo apt-get install docker.io https://boramchan-corgi.tistory.com/6 [Docker/도커] 도커란 무엇인가? 2023 대학교 스터디 ..
[Docker/도커] 도커 설치 및 간단한 실습
·
Docker_도커
curl -fsSL https://get.docker.com/ | sudo sh sudo apt-get install docker.io https://boramchan-corgi.tistory.com/6 [Docker/도커] 도커란 무엇인가? 2023 대학교 스터디 4주차 학습 도커(Docker)란? 서비스 형태의 플랫폼(Platform-as-a-service, PaaS)이며, 이것은 서비스 제공업체가 고객에게 플랫폼을 제공함으로써 고객이 일반적으로 소프트웨어 개발 boramchan-corgi.tistory.com 우리는 지난 포스팅에서 도커에 대해서 알아보았다. 이제 실습을 해보기 앞서 도커 설치 방법을 알아보자! 도커 설치 🐧Linux Command curl -fsSL https://get.docke..
[Docker/도커] 도커란 무엇인가?
·
Docker_도커
2023 대학교 스터디 4주차 학습 도커(Docker)란? 서비스 형태의 플랫폼(Platform-as-a-service, PaaS)이며, 이것은 서비스 제공업체가 고객에게 플랫폼을 제공함으로써 고객이 일반적으로 소프트웨어 개발 프로세스에 필요한 인프라를 구축하고 유지할 필요 없이 비즈니스 애플리케이션을 개발, 실행, 관리할 수 있도록 하는 클라우드 컴퓨팅 기술이다. 도커는 리눅스의 응용프로그램들을 프로세스 격리 기술들을 사용해 컨테이너로 실행하고 관리하는 오픈 소스 프로젝트이다. 즉, 다시 말해 컨테이너 기반 오픈소스 가상화 플랫폼이다. 도커의 이전 시대에서는, 기존 시스템에 어플리케이션을 적용하려면 서버를 구입하여 OS를 설치하고 계정설정과 각종 RPM과 라이브러리, 환경설정을 일일히 해줘야하는 번거로..