로컬에서 가성비있게 chatGPT 사용하기 (feat: ollama-webui)

안녕하세요 😉

유유자적한 개발자 유로띠 입니다 😀

 

👏👏👏👏

 

 

이번 포스팅에서는

✅ chatGPT 요금제 비교

✅ chatGPT api 사용하기

✅ ollama-webui에서 chatGPT 연동

에 대해서 알아보겠습니다

 

 

 

 

Ollama에서 chatGPT 연동하여 가성비 있게 사용하기

---

 

openAI의 GPT를 이용하는 방법은 크게 두 가지가 있습니다.

월정액 방식의 chatGPT 사용

종량제 방식의 openAI api 사용

두 방식에 대해 비교해보겠습니다.

 

✅  chatGPT 요금제

 

openAI의 GPT-3.5는 무료로 이용가능하고 월 20달러에 chatGPT plus를 사용할 수 있습니다.

chatGPT plus는 GPT-4를 사용하며 금액 정책은 다음과 같습니다.

 

 

가볍게 보조도구로 사용하기에 월 20 달러는 생각보다 비용이 비싸다고 생각됩니다. 🤨

 

✅  openAI api 요금제

api는 구독제가 아닌 api 사용량에 따라 비용이 발생되는 종량제입니다. 다만, 구독제 요금과 별도로 api 요금이 발생됩니다.

요금제는 언어 모델마다 다르며, 금액 정책은 다음과 같습니다.

 

GPT-3.5의 경우 chatGPT에서는 무료이지만 api는 비용이 발생됩니다.

심지어 새로운 모델이 기존 모델보다 비용이 저렴합니다. 🙌

GPT-4를 비교해 보면 GPT-4 Turbo 입력 토큰은 $0.01로 GPT-4보다 3배 저렴하고, 출력 토큰은 $0.03으로 2배 저렴합니다.

 

 

openAI api 사용하기

---

 

 

✅  openAI api 발급

API Keys로 이동합니다.

API keys > Create new secret key 버튼을 클릭합니다.

 

 

 

 

선택사항이지만 원하는 key이름을 설정하고 Create new secret key 버튼을 클릭하여 키를 발급받습니다.

 

 

생성된 시크릿 키는 발급 시에만 확인할 수 있고 이후 확인이 불가능하며,수정 시 이름만 변경 가능하니 반드시 복사하여 보관하도록 합니다.

 

 

 

키는 발급받았지만 실제 호출하여 사용하려면 크레딧을 등록해야 합니다.

등록하지 않고 ollama-webui와 연동하여 호출하면 다음과 같은 에러가 발생됩니다. 🤣

 

 

✅  openAI api 카드 등록 및 충전

크레딧 충전을 위해서 카드를 등록을 먼저 진행하겠습니다.

Settings > Billing > Payment methods로 이동하면 등록된 크레딧 정보가 없는 것을 알 수 있습니다.

 

 

 

Overview > Add payment details를 선택합니다.

 

 

 

 

크레딧을 충전할 신용카드를 등록합니다.

 

 

 

카드가 등록되면 다음으로 원하는 금액만큼 크레딧을 충전할 수 있습니다. 또한, 자동 충전이 가능한 옵션도 있습니다.

저는 가볍게 10 달러만 충전하도록 하겠습니다. 😎

 

 

 

드디어 금액 충전이 완료되었습니다.

 

 

 

✅  openAI api 사용 제한

 

매달 사용 제한을 설정할 수 있습니다. 기본적으로 120 달러로 설정되어 있습니다.

Set a Monthly budget : 설정한 금액을 초과하면 api 호출이 거절됩니다.

Set an email notification threshold : 설정한 금액을 초과하면 이메일을 발송합니다.

 

 

 

 

 

이상으로 openAI의 api 설정이 완료되었습니다. 🙆‍♂️

다음으로 api를 Ollama-webui에 등록하여 사용해 보도록 하겠습니다.

 

 

Ollama에 openAI api 등록하여 GPT-4 사용하기

---

 

 

 

✅  Ollama에 openAI api 등록하기

 

Ollama의 기본적인 내용은 하단의 링크를 참고하시면 됩니다.

2024.02.01 - [Programming/AI] - ollama로 로컬에서 나만의 AI 챗봇 만들기

ollama로 로컬에서 나만의 AI 챗봇 만들기

 

Ollama-webui를 실행한 후 settings > External 선택한 후 발급받은 OpenAI API key를 입력하여 저장하면 됩니다.

 

 

 

openAI의 api key를 등록한 후 언어 모델 선택창을 확인하면 다음과 같이 gpt 언어 모델을 사용할 수 있습니다. 

 

아래의 왼쪽 이미지는 크레딧 충전 전에 api를 등록한 목록입니다. 신기한건 이때는 GPT-4가 목록에 존재하지 않았습니다.

크레딧 충전 후 새로고침하니 오른쪽 이미지처럼 GPT-4가 목록에 추가되었습니다.

 

 

✅  Ollama-webui에서 GPT-4 사용하기

 

Ollama를 통해 GPT-4-Turbo-Preview 언어 모델로 챗을 진행하였습니다.