LLaMA 3.1 API의 개인용 AI 트레이딩 봇 연동 준비
개요
최근 인공지능 기술이 빠르게 발전함에 따라, 개인 투자 분야에서도 대규모 언어 모델(LLM, Large Language Model)을 활용한 자동화 및 판단 시스템이 주목받고 있습니다. 저는 Meta의 LLaMA 3.1 (LLaMA: Large Language Model Meta AI) 모델을 로컬 서버에 구축하고, 이를 활용해 바이낸스(Binance) 거래소에서의 암호화폐 매매 판단 및 자동 거래 애플리케이션을 구현하였습니다.
1. Ollama 설치하기 (LLaMA 모델 실행 환경)
[LLaMA 3.1] 모델을 구동하기 위해서는 Ollama라는 로컬 모델 실행 툴이 필요합니다.
공식 웹사이트(https://ollama.com)에 접속하면 운영체제에 맞는 설치 파일을 쉽게 찾을 수 있습니다.
-
macOS / Windows / Linux 모두 지원
-
예: macOS의 경우
.pkg, Windows는.msi형태 제공
👉 설치 후, 터미널(CLI)에서 아래 명령어로 정상 설치 여부를 확인합니다:
ollama --version
2. LLaMA 3.1 모델 구동하기
Ollama 설치가 완료되면, 터미널에서 다음 명령어 한 줄로 LLaMA 3.1 모델을 다운로드하고 실행할 수 있습니다:
ollama run llama3.1
💡 처음 실행 시, 모델이 자동으로 다운로드되며, 약간의 시간이 소요될 수 있습니다.
✅ 이후 실행은 캐시된 모델을 이용해 바로 구동됩니다.
3. WebUI 설치 (Open WebUI)
LLM 모델을 GUI로 쉽게 테스트하고 싶다면, Open WebUI를 Docker 컨테이너로 실행하면 됩니다.
다음 명령어를 통해 로컬 포트 3000에 WebUI가 구동됩니다:
docker run -d \
-p 3000:8080 \
-v open-webui:/app/backend/data \
--name open-webui \
--restart always \
ghcr.io/open-webui/open-webui:main
-p 3000:8080: 호스트 3000 포트로 접속 가능 (http://localhost:3000)-
-v open-webui:/app/backend/data: WebUI 설정 및 대화 로그를 로컬 볼륨에 저장 -
--restart always: Docker가 재시작될 경우 자동으로 컨테이너 재실행
✅ 설치 후 웹 브라우저에서
http://localhost:3000으로 접속하여 Open WebUI에 접근할 수 있습니다.
여기서 Ollama와 연동된 LLaMA 3.1 모델을 웹 기반 인터페이스로 직접 호출해볼 수 있습니다.
4. WebUI 구성 및 API 연동 설정
Open WebUI가 성공적으로 실행되었다면, 이제 초기 사용자 등록 및 API 연동 설정을 진행할 수 있습니다.
✅ 1) 사용자 등록 및 로그인
브라우저에서 WebUI에 접속합니다:
http://localhost:3000
처음 접속 시, 관리자 계정 생성을 위한 회원가입 화면(Sign Up) 이 나타납니다.
-
원하는 이메일과 비밀번호를 입력해 계정을 생성합니다.
-
이 계정은 이후 WebUI에 로그인하고 설정을 변경할 수 있는 관리자 권한을 가집니다.
✅ 2) Ollama 모델 연동 확인
WebUI 내부의 Settings > Model 또는 Providers 메뉴에서 Ollama 실행 중인 모델(LLaMA 3 등)이 자동 인식되었는지 확인합니다.
-
만약 감지되지 않았다면,
Host URL을http://localhost:11434로 수동 설정해줍니다. -
이후
Test Connection버튼을 눌러 연동 여부를 확인할 수 있습니다.
Ollama는 기본적으로
localhost:11434포트에서 REST API 서버로 동작합니다.
✅ 3) Open WebUI API 키 발급 (Python 연동용)
이제 외부 애플리케이션(예: Python 트레이딩 봇)과 연동하기 위해 WebUI API를 활성화하고 키를 발급해야 합니다.
-
WebUI에서 로그인 후, 우측 상단의 프로필 아이콘 > Settings 메뉴로 이동합니다.
-
API Keys탭에서 새 키 생성(Create API Key) 를 클릭합니다. -
원하는 키 이름을 입력하고
Create버튼을 누르면 Access Token 형태의 API 키가 발급됩니다.
⚠️ 이 키는 단 한 번만 표시되므로 안전한 곳에 저장해두세요.
이후 Python 코드에서 이 키를 Authorization 헤더로 사용해 WebUI API에 접근할 수 있습니다.
댓글
댓글 쓰기