RAG(검색 증강 생성) 쉬운 설명 및 예시 - LLM 사용 필수 지식
·
생성형 AI/AI 활용기
Summary많은 분들이 GPT를 사용하시다 보면 별로인데? 마음에 안 드는데 등 서비스 질에 대해 부정적인 의견을 낼 때가 있습니다. 그래서 생성형 AI(Generative AI) 서비스를 누구보다 잘 사용하기 위해서는 RAG를 반드시 알고 방법에 맞게 사용하셔야 합니다. 현재 앤트로픽의 Claude 모델과 OpenAI의 GPT 모델, o1 모델, Meta의 Llama(라마) 등 정말 많은 생성형 AI 서비스가 많은데, 잘 사용하기 위해서는 반드시 RAG의 개념을 인지하고 사용하셔야지 AI모델을 100% 이상의 성능을 발휘할 수 있습니다.RAG는 개발자뿐만 아니라 비 개발자분들도 아셔야 현재 사용할 수 있는 생성형 AI(Generative AI)서비스를 보다 잘 사용하실 수 있습니다. 좀 더 나간다면 ..
LM Studio 기능 및 사용법 - Llama 3.1-7B 로컬 챗봇 만들기(파이썬)
·
생성형 AI/AI 활용기
LM Studio 다운로드먼저 LM Studio를 사용하기 위해서는 다운로드하셔야 합니다. 링크를 들어가시면 다운로드 받으실 수 있습니다. 다운로드 링크 : LM Stuido 다운로드링크를 통해 들어가시면 다음과 같은 화면이 나오는데, 자신의 OS에 맞게 다운로드하고 설치해 주시면 끝입니다.LM Studio 기능 1 - Home 화면 (모델 다운로드)LM Studio를 실행하시면 다음과 같은 화면이 나옵니다. LM Studio는 Huggingface에 공개되어 있는 양자화모델(gguf)을 쉽게 검색하고 다운로드하실 수 있습니다. 첫 화면에는 해당 화면에 인기 있는 Model을 추천해 줍니다. ! LM Stuido는 인터넷 연결 없이 사용할 수 있습니다. 하지만 모델을 다운로드하실 때는 반드시 인터넷이 연..
LM Studio란? - 특징, 기능 그리고 Ollama 차이점
·
생성형 AI/AI 활용기
LM Stuido란?LM Studio는 로컬 컴퓨터에서 대규모 언어 모델(LLM)을 쉽게 실행하고 실험할 수 있게 해주는 데스크탑 애플리케이션입니다.LM Stuido 주요 특징오픈 소스 LLM을 로컬에서 다운로드하고 실행 가능Windows, Mac, Linux 지원인터넷 연결 없이 완전 오프라인으로 사용 가능사용자 친화적인 인터페이스 제공LM Stuido 주요 기능LLM 모델 검색 및 다운로드: 내장된 검색 기능으로 호환되는 모델을 찾아 다운로드할 수 있음인터페이스: 다운로드한 모델과 대화형으로 상호작용 가능로컬 서버: OpenAI 호환 API를 제공하는 로컬 추론 서버 실행 가능다양한 모델 지원: Llama, MPT, StarCoder 등 ggml/gguf 형식의 모델과 호환LM Stuido 장점개인정..