제3화. "맥은 샀다. 그런데... AI는 어디에 있는 거지?"

 

퀘스트 3

첫 번째 로컬 LLM을 실행하라.

---

맥 미니가 도착한 지 이틀째.

김 에이아이 씨는 커피를 한 잔 내리고 결심했다.

"오늘은 반드시 AI를 실행한다."

유튜브를 켰다.

영상 제목.

"5분 만에 로컬 LLM 설치 끝!"

"좋아."

"이 정도면 나도 하겠는데?"

---

영상을 보니 생각보다 쉬웠다.

LM Studio 설치.

끝.

Ollama 설치.

끝.

"오?"

"이렇게 쉬운 거였어?"

김 에이아이 씨는 괜히 뿌듯했다.

---

하지만...

영상은 갑자기 다음 단계로 넘어갔다.

"이제 모델을 받으세요."

"..."

"...모델?"

"잠깐."

"AI를 설치한 게 아니었어?"

검색.

AI 모델이란?

또 검색.

GGUF란?

또 검색.

Qwen?

Gemma?

Llama?

Mistral?

"아니..."

"도대체 뭘 받아야 하는 거야?"

---

겨우 모델 하나를 골랐다.

그런데 또 이상한 단어가 나왔다.

Embedding Model

"..."

"임베드?"

"이건 또 뭐야?"

검색.

"검색용입니다."

"RAG에 사용합니다."

"벡터 데이터베이스..."

"..."

"벡터?"

김 에이아이 씨는 조용히 검색창을 닫았다.

"그래..."

"나중에 배우자."

---

다음 영상.

"이제 웹으로 접속하면 됩니다."

"오."

브라우저를 열었다.

접속.

...

안 된다.

"왜 안 되지?"

영상을 다시 본다.

"Open WebUI를 설치하세요."

"..."

"잠깐."

"Ollama만 설치하면 된다며?"

또 검색.

Open WebUI.

Docker.

Container.

Port.

localhost.

127.0.0.1.

"이 사람들은 한국말을 하는데..."

"왜 하나도 못 알아듣겠지?"

---

몇 시간을 씨름한 끝에.

드디어 브라우저에 채팅창이 나타났다.

"됐다!!"

김 에이아이 씨는 거의 환호성을 질렀다.

---

첫 번째 질문.

안녕하세요.

엔터.

...

...

...

커서만 깜빡인다.

...

팬이 조용히 돌기 시작한다.

...

맥이 생각에 잠긴 것 같다.

...

1분.

...

2분.

...

3분.

"설마..."

4분.

...

5분.

드디어.

안녕하세요. 무엇을 도와드릴까요?

김 에이아이 씨는 모니터를 멍하니 바라봤다.

"..."

"..."

"...안녕하는 데 5분?"

그는 계산기를 열었다.

"내가 앱 하나 만들면서 AI랑 천 번 대화하면..."

계산 결과를 본 순간 창을 조용히 닫았다.

앞이 캄캄했다.

---

문득 휴대폰을 집어 들었다.

ChatGPT.

"안녕하세요."

0.8초.

Gemini.

1초.

Claude.

1초.

다시 맥을 바라봤다.

"..."

"내가 지금..."

"3백만 원짜리 컴퓨터로..."

"무료 체험보다 느린 AI를 보고 있는 건가?"

---

그날 밤.

김 에이아이 씨는 다시 검색을 시작했다.

이번에는 검색어가 달라졌다.

"왜 로컬 LLM이 느린가"

"맥 AI 속도"

"NVIDIA 추천하는 이유"

"CUDA가 뭐길래"

커뮤니티를 돌아다닐수록 같은 댓글이 눈에 들어왔다.

"맥도 좋지만..."

"AI 개발은 결국 NVIDIA."

"한 번은 다들 그 길로 갑니다."

김 에이아이 씨는 고개를 갸웃했다.

"설마..."

"그래픽카드 하나가 그렇게 차이가 난다고?"

그는 검색창에 조심스럽게 입력했다.

RTX 5090 가격

그리고...

5초 후.

이번에는 AI가 아니라 김 에이아이 씨의 심장이 멈출 뻔했다.