너무 쉽다!! 너무 간단하다!! KUZCO 노드 돌리기

 

안녕하세요! 메타부입니다.

 

이번 시간에는 Kuzco의 노드를 구동하는 방법에 대해 알려드리려고 합니다.

 

Kuzco도 AI관련 프로젝트라 GPU를 사용해야되기 때문에, GPU 좋은 사양을 쓰실 분은 Vast.ai로 임대하시면 되고, 아니시면 집에서 맥이나 윈도우로 돌리시면 되는데요.

 

맥은 잘 안된다는 얘기도 있으니 가급적이면 윈도우로 돌려보시기 바랍니다!

---

0. Kuzco란?

Kuzco는 AI관련 크립토 프로젝트인데요.

요런 성능을 띄고 있는 AI프로젝트라고 합니다.

 

그냥 쉽게 말해서 대규모 언어 모델을 돌리는데 리소스가 상당히 많이 필요한데 이걸 분산화시켜서 돌린다~~

그래서 전력소모도 줄이고 유휴컴퓨터를 활용한 계산으로 더욱 효율적이라 좋다~~

 

뭐 이런 뜻이라고 보시면 됩니다....만,

 

투자규모가 공개되질 않아서 막 좋은지 아닌지에 대한 설왕설래가 있긴합니다.

그딴게 뭐가 중요하겠어요? 걍 돌리면 돼죠.

 

일단 Vast.ai가 필요하다고 했으니 만약 돌리는 방법을 모르신다면

https://metaboo.tistory.com/67

Vast.ai를 활용한 GPU서버 임대하는 방법!! Feat.AI Node

 

이거보고 돌리시면 됩니다.

 

그럼 임대했다 치고 돌리는 방법 가볼까요?

---

1. 노드 돌리기

일단 노드 돌리는 방법은 총 3가지가 있습니다.

여기 보이듯이 총 3가지의 다운로드가 있죠.

즉, 맥, 윈도우, 리눅스 모두 돌릴 수 있다는건데요.

맥이나 윈도우는 프로그램 설치형이고 리눅스는 CLI로 돌리거나 프로그램을 설치해서 돌리거나 둘 중 하나입니다.

https://kuzco.xyz/download

Kuzco | LLM Inference Network

위 경로로 들어가서 다운받으시면 되겠습니다.

 

그치만 Vast.ai에서 GPU를 임대했다면 CLI로 돌려야되기 때문에 CLI기반으로 설명드릴게요.

나머지는 그냥 프로그램 설치 딸깍이니까 간단합니다.

 

요구하드웨어의 성능은

 

위 캡쳐와 같으니 참고하시면 되고, GPU역시

https://docs.kuzco.xyz/hardware

Kuzco | LLM Inference Network

위 링크를 통해 확인하시면 되겠습니다.

 

이제 그럼 노드를 돌려볼까요?

---

2. Kuzco, Linux에 설치하기

https://kuzco.xyz/

Kuzco | LLM Inference Network

 

일단 쿠즈코 공식 사이트 가시면

상단 오른쪽에 View Console이라고 보이실 겁니다.

클릭해주시구요.

 

회원가입 및 로그인을 해주시면

이런 화면이 나올겁니다.

워커 클릭!

여기서 세번째인 워커를 눌러주세요.

그럼 우측 상단에 Create Worker라고 나올텐데 눌러주시고

 

Name에 Worker 이름 작성해주시고

Install Type에 CLI를 눌러주시면 되겠습니다.

 

만약 윈도우나 맥이신 분들은 Docker를 누르셔도 됩니다.

 

그리고 완료가 되었으면

내 worker의 이름은 vast다. 임대한 녀석이니까..

 

이런식으로 생성이 되는데요.

 

여기서 생성한 Worker를 클릭해줍니다.

사실상 대시보드

그럼 이런식으로 현황이 막 나오는데요.

 

여기서 상단의 Instance를 눌러주시면

이렇게 나옵니다.

 

여기서 Launch Worker를 눌러주세요.

그럼 이렇게 나타납니다.

 

아이오넷이랑 비슷하죠?

여기서 그럼 Step 1에 해당하는 녀석을 복사해줍니다.

복사는

동그라미 친 사각형 이모티콘을 누르면 자동으로 복사됩니다.

 

그리고 그걸 임대한 GPU의 Linux에 붙여넣어주세요.

붙여넣기는 마우스 오른쪽을 누르면 된다.

 

그러면 일단 설치가 완료됩니다.

---

※ 만약 에러가 났다면?

혹시 돌리시다가

이런 에러가 뜰 수도 있는데요.

Kuzco의 서버가 불안정해서 그런거니 다시 여러번 시도하시면 됩니다...

그냥 서버가 불안정해요 맨날;;;

 

설치가 다 완료가 되었다면

Install Complete.와 Run Kuzco Init이라고 나온다.

 

이렇게 나옵니다!

---

3. Kuzco 실행하기

이제 설치가 다 완료됐으니 실행해주면 되는데요.

 

두 가지 방법이 있습니다.

---

3-1. Kuzco init

일단 위에 보이는 대로

kuzco init

을 입력해주세요.

 

회원가입했던 email을 입력하자

이제 그럼 이메일을 입력하라고 나오니까

Kuzco 회원가입할 때 사용한 이메일을 입력해주고

마찬가지로 비밀번호를 입력해줍니다.

그러면 이렇게 로그인이 완료가 되면서 worker의 이름을 입력하라고 나오는데요.

당연히 Yes.

그럼 실행할거냐고 물으니 Yes(민트색)을 엔터해줍니다.

---

3-2. Worker 명령어 복사

아니면 아까 Worker에서 봤던 CLI 명령어 중에 Step2인

Run an instance of this worker의 명령어를 복사해서

 

CLI에 붙여넣어 엔터눌러주시면 됩니다.

---

3-1이든 3-2든 완료되셨다면 이제부터

이런식으로 막 로그가 올라가면서 kuzco 관련 파일들이 다운로드 되구요.

 

좀 더 기다리시면

이런식으로 통신처리 되는걸 확인하실 수 있습니다.

 

시간이 지나면

Workers에 이렇게 Status가 Online으로 잡히는거 확인하실 수 있습니다.

 

참고로

이렇게 나오는데 대시보드는 하루가 지나야 나타나게 됩니다!

---

4. 창 끄고 계속 돌리기

창 끄고 계속돌리려면 사실 그냥 꺼도 되긴하는데 그러면 중간중간 강제종료되는 경우도 있거든요.

 

그래서 그 방법을 해결하려면 Screen을 사용하시면 되겠습니다.

 

실행중인 노드를 종료하시려면 Ctrl+C를 입력하시면 됩니다.

 

일단

sudo apt-get update

위 명령어를 통해

이렇게 설치해주시구요.

 

sudo apt-get install screen

위 명령어를 통해 screen을 설치해주세요.

 

여기까지 되었다면 이제

screen -S 스크린명

나는 스크린명이 kuzco다.

위 명령어를 통해 스크린을 생성해주면 되는데요.

 

그러면 이렇게 새로운 창으로 진입하게 됩니다.

 

여기서 다시 3번으로 돌아가서 노드를 실행해주면 되겠습니다.

 

그 담에 스크린을 빠져나가시거나 Linux를 종료하시려면

Ctrl+A+D 눌러서 빠져나가신 뒤 끄시면 됩니다!

---

만약 다시 해당 스크린으로 접속하고 싶다면

screen -r 스크린명

위 명령어를 입력하시면 그대로 다시 접속하실 수 있구요.

 

만약 스크린을 삭제하고 싶으시다면

sudo screen -X -S 스크린명 혹은 스크린넘버 kill

위 명령어를 입력하시면 되고

 

스크린명이 동일하게 여러개 생성되었다면 스크린넘버를 입력해야만 삭제가 가능하기 때문에

스크린 명과 넘버를 확인하는 방법은

screen -ls

를 입력하시면 번호와 이름이 나오니 확인하시면 됩니다.

---

저 따라서 초반부터 휴리스트로 채굴하신 분들은 충분히 많이 에어드랍 받으셨을 거라 생각하는데요!

 

그만큼 다른 노드들도 한 번 해보면 좋지 않을까 싶습니다.

 

예전에 제가 소문난 잔치 이론이라고 언급한 적이 있는데 그만큼 노드는 진입장벽이 높기 때문에 쉽게 다들 하지 못하는데요.

https://t.me/x2emeta/23725

메타부 스토리

 

그러니 여러분이 가져가서 우리끼리 파이를 나눠가지면 충분히 좋겠죠?ㅎㅎ

여기까지 Kuzco 노드작 가이드였습니다!

 

소식과 내용을 빠르고 다양하게 접하고 싶으시다면 아래 그림(텔레그램)을 클릭해주세요!!