시작하기 앞서...Docker를 사용해서, 인터넷 없이도 1인 또는 그룹에서 사용할 수 있는 챗봇을 만들어보려고 합니다.챗봇 툴: 오픈 소스인 Open-WebUI모델 관리 및 실행 플랫폼 : Ollama(올라마)사용 모델 : Meta-Llama3.2-3B 모델추가사항 : OpenAI - API, GPT 모델 사용하기설치하고 실행만 하면 되어서 매우 간단하게 시작할 수 있습니다.차근차근 따라 하면 보안 걱정이나, 인터넷 없이도 사용할 수 있는 챗봇을 만들 수 있습니다. Docker 설치하기 링크 Docker 다운로드 하기그리고 홈페이지에 회원 가입해 주시면 됩니다. OS에 맞게 설치해 주시면 됩니다.Docker에서 Ollama(올라마) 컨테이너 생성하기Docker 환경에서 Ollama를 실행하기 위해 컨테..

시작하기 앞서2024년 8월 말 기준으로 전 세계 생성형(Generative) AI 사용 서비스 웹, 앱 서비스 Top50입니다.부동의 1위는 ChatGPT입니다.전과 비교했을 때 새롭게 등장한 서비스가 웹(12개), 모바일(15개)입니다.전 세계 생성형 AI 사용자 - 웹(인터넷)저번과 비교했을 때 순위 변동이 있습니다.Perplexity와 Claude가 전과 비교했을 때 많이 올라갔습니다.그리고 SUNO라는 음악 만드는 서비스가 가장 많이 순위가 상승했습니다(31단계).Suno AI란?인공지능을 활용한 음악 제작 플랫폼으로, 실제 연주와 구분하기 어려울 정도로 자연스러운 보컬과 악기 연주를 생성할 수 있습니다. 또한, Suno AI에서 보컬과 악기 연주를 결합하거나 순수한 악기 연주만을 만들어낼 수 ..

VScode GPT 무료 사용법 소개코드 에디터에서 GPT 기능을 사용하려면 VScode에서 GitHub Copilot Individual 또는 Cursor를 사용해야 합니다. 하지만 이러한 서비스들은 매달 구독료를 지불해야 하기 때문에 비용 부담이 있을 수 있습니다.완전히 무료로 GPT 기능을 사용하려면 Llama, Phi, Mistral 같은 오픈 소스를 사용해 로컬 서버에서 구동하는 방법이 있습니다. 또는 적은 비용을 들여 Antropic의 Claude 3.5 Sonnet, OpenAI의 GPT-4o-mini 사용을 위해 API를 충전해서 사용하는 방법도 있습니다.가장 저렴한 모델인 GPT-4o-mini를 이용하면 경제적으로 사용할 수 있습니다. GPT-4o-mini의 경우 API 요금이 굉장히 저..

LM Studio UI 변경점기존 버전에서 0.3.4 버전으로 바뀌면서 UI가 변경되었습니다.LM Studio 다운로드 바로가기전보다 더 UI가 심플하게 바뀌었습니다.왼쪽 사이드 노란색 - 챗봇 대화초록색 - 서버 관리빨간색 - 모델 관리보라색 - 모델 검색Llama 3.2 다운로드Meta에서 Llama 3.2 버전이 새로 나왔습니다.오른쪽에 돋보기 모양에 Llama 3.2 검색하셔서 다운로드하시면 됩니다.Llama 3.2 챗봇 사용하기왼쪽 사이드바에서 노란색 챗봇을 누르시고 "Select a model to load" 또는 "Load a mode" 눌러서 다운로드하신 모델을 불러오면 됩니다. 모델 선택하신 후에 다음과 같은 화면으로 오는데, 설정 값 수정을 원하시는분은 수정하시면 됩니다. 처음이시면 기..

시작하기 앞서...개발자가 아니신 분은 LM Studio가 이용하기 더 쉽습니다.비-개발자분들은 ChatGPT처럼 사용하기 쉽게 사용할 수 있으니 LM Studio를 추천드립니다.최근에 LM Studio가 0.3.4 버전이 출시하여 UI까지 깔끔하게 바뀌어서 사용하기 편할 수 있습니다. 모델 다운로드 받기도 더 쉽습니다.포스팅 바로 가기 LM Studio 챗봇 사용법 - Llama 3.2-3B 사용 후기포스팅 바로 가기 LM Studio 기능 및 사용법 - Llama 3.1-7B 로컬 챗봇 만들기(파이썬)Ollama(올라마)란?Ollama는 대규모 언어 모델(LLM)을 로컬 환경에서 쉽게 실행할 수 있도록 설계된 오픈소스 도구입니다.Ollama(올라마) 다운로드먼저, Ollama 홈페이지 가시면 자신의 ..

챗GPT(ChatGPT) 사용자는 반드시 알아야 하는 필수 기능 - GPTs챗GPT(ChatGPT)를 사용하면서 단순히 검색용도로만 사용하고 계신가요?오픈AI의 챗GPT가 세상에 등장한 이후, 다양한 인공지능(AI) 서비스가 출시되었고, 특히 업무 자동화와 관련된 서비스들이 눈에 띄게 많아졌습니다.사실 자동화는 복잡한 개념이 아닙니다. 직장, 일상, 학업 등에서 반복되는 업무를 자동화하여 시간을 절약하고 노력을 최소화하는 것을 의미합니다. 그러나 많은 자동화 서비스가 유료이기 때문에 매번 비용을 지불하는 것은 부담스러울 수 있습니다.오픈AI에서 기본으로 제공하는 GPTs 기능을 활용하면 이러한 자동화를 직접 구현할 수 있습니다. 매번 프롬프트를 새로 작성할 필요 없이, 나만의 맞춤형 GPT를 만들어 바로..