목록MLOPS/SERVING (23)
중요한건 꺾이지 않는 맥북

Kubeflow Pipeline python api code import kfp from kfp import dsl from functools import partial from sklearn.datasets import load_iris from sklearn.model_selection import train_test_split from sklearn.tree import DecisionTreeClassifier from sklearn.metrics import accuracy_score import numpy as np from kfp.components import InputPath, OutputPath, create_component_from_func @partial( create_compone..

kubeflow 설치는 아래 링크 참조 https://jeawoo0594.tistory.com/54 Kubeflow - Kubeadm K8s Single Cluster kubeflow 설치 docker, helm, kustomize 설치 필요 Kubernetes v1.22.7 version Kubeadm K8s Cluster 로컬환경이 아닌 LocalPC(Client)에서 Server VM에 요청하는 방식 Install Kubernetes - Kubeadm 모두의 MLOps의 Kubeadm 설치 kubelet kubead jeawoo0594.tistory.com kubeflow notebooks 컴포넌트를 통해 노트북 생성 workspace volume은 host path로 설정한 storageclass..

Prerequisites docker, helm, kustomize 설치 필요 Kubernetes v1.22.7 version Kubeadm K8s Cluster 로컬환경이 아닌 LocalPC(Client)에서 Cluster Server에 요청하는 방식 git clone https://github.com/bentoml/bentoml.git && cd ./examples/quickstart pip install -r ./requirements.txt Install Kubernetes - Kubeadm 모두의 MLOps의 Kubeadm 설치 kubelet kubeadm kubectl install 하는부분을 sudo apt-get install -y kubelet=1.22.7-00 kubeadm=1.22.7..

Environment Kubernetes version: v1.22.7 kubeflow version: v1.6.0 kubeadm single cluster cni: flannel https://github.com/flannel-io/flannel k8s cluster reference: https://mlops-for-all.github.io/docs/setup-kubernetes/kubernetes-with-kubeadm/ 4.3. Install Kubernetes - Kubeadm 1. Prerequisite # 쿠버네티스 클러스터를 구축하기에 앞서, 필요한 구성 요소들을 클러스터에 설치합니다. Install Prerequisite을 참고하여 Kubernetes를 설치하기 전에 필요한 요소들을 클러..

Environment Kubernetes version: v1.21.7 Kserve version: 0.8 kubeadm single cluster cni: flannel k8s cluster reference: https://mlops-for-all.github.io/docs/setup-kubernetes/kubernetes-with-kubeadm/ Install the KServe "Quickstart" curl -s "https://raw.githubusercontent.com/kserve/kserve/release-0.8/hack/quick_install.sh" | bash istio-ingressgateway의 External-IP 가 pending 이라면 istio-ingressgateway ..
Kubeflow와 함께 설치되는 auth 라는 네임스페이스 안의 dex는 사용자 정보를 파일에 직접 저장하고 있습니다. 이 파일은 ConfigMap에 저장되어 있습니다. dex 라는 ConfigMap을 조회하면 설정 정보를 볼 수 있습니다. 다음 명령어를 실행하면, dex 의 설정 정보를 확인할 수 있습니다. $ kubectl -n auth get cm dex -o yaml apiVersion: v1 data: config.yaml: | issuer: http://dex.auth.svc.cluster.local:5556/dex storage: type: kubernetes config: inCluster: true web: http: 0.0.0.0:5556 logger: level: "debug" for..
Notebooks 메뉴에서 노트북 생성할 때 Could not find CSRF cookie XSRF-TOKEN in the request 에러가 발생한다면, 이것은 HTTP로 접근하게 되면 발생하는 오류이며 나는 로컬환경이 아닌 원격환경이므로 localhost 로 접속이 아닌 ip로 접속했기 때문에 XSRF-TOKEN이 생성되지 않았던 것이다. 따라서, vi manifest/apps/jupyter/jupyter-web-app/upstream/base/deployment.yaml # 위 명령어로 deployment.yaml 파일을 연 뒤 apiVersion: apps/v1 kind: Deployment metadata: name: deployment spec: replicas: 1 template: me..

mlops 대표 오픈 소프트웨어 https://github.com/kserve/kserve , https://github.com/SeldonIO/seldon-core , https://github.com/bentoml/BentoML , https://github.com/mlflow/mlflow, https://github.com/apache/airflow Kubernetes를 기반으로 구축된 두 가지 인기 있는 모델 서빙 프로젝트 kserver, seldon core why mlops model serving on k8s? handle high loads(높은 처리량) , application 오토스케일링(kubectl autoscale deployment mlflow-serving --cpu-perce..