OpenAI
-
OpenAI의 o1 모델: 기술적 차이와 실생활 경험, 그리고 선택 팁AI&ML 2024. 9. 24. 21:24
AI 기술이 발전할수록 우리는 더 정교하고 복잡한 모델을 기대하게 됩니다. 하지만 OpenAI의 새로운 o1 모델은 그 방향과는 약간 다릅니다. 기존의 모델들이 "더 많은 파라미터, 더 많은 모달리티"를 추구하며 발전했다면, o1은 그런 방향에서 벗어나 '측면적 발전'을 선택했습니다. 이번 글에서는 o1 모델과 GPT-4의 기술적 차이점을 설명하고, 실제 대화 사례를 통해 그 차이를 알아보며, 마지막으로 어떤 상황에서 o1을 선택하는 것이 유리한지에 대한 팁을 제공해보도록 하겠습니다.기술적 차이점: o1과 GPT-4o1 모델의 가장 큰 특징은 '에이전틱 래퍼(agentic wrapper)'로서 작동한다는 점입니다. 즉, o1은 질문에 바로 답변을 시작하는 대신, 먼저 해당 질문을 어떻게 접근할지 분석합니..
-
Azure Databricks에서 생성 AI 및 LLMs 개발하기AI&ML 2024. 4. 10. 13:34
Azure Databricks는 데이터 수집 및 준비에서부터 모델 개발과 LLMOps, 서비스 및 모니터링에 이르는 AI 라이프사이클을 통합하는 통합 플랫폼을 제공한다. 이 플랫폼은 생성 AI 애플리케이션 개발을 위해 최적화된 기능을 제공한다. 작년에 Dolly 라는 자체 AI모델을 서비스 하는것을 본적이 있는데, 현재는 어떻게 서비스를 제공하는지 궁금했다. 그래서 클라우드에서 Databricks를 배포하고 서비스 포털을 오픈해서 확인해보기로 한다. 최근 웨비나 영상에서 openAI처럼 인공지능 모델들을 체험할수 있는 AI Playground를 제공한다고 하여, 기대하면서 워크스페이스를 열었다. 하지만, 불행이도 Azure OpenAI 처럼 아직 한국리전에서는 이 기능을 제공하지 않는다. 아래 Regio..
-
GPT-4 사용하기!AI&ML 2023. 10. 12. 23:27
인공 지능의 발전은 우리의 디지털 세계에 혁명을 일으키고 있습니다. 특히, 자연어 처리 분야에서의 진보는 우리의 일상 생활, 비즈니스 및 기술 환경에 영향을 미치고 있습니다. 이런 변화의 선두주자 중 하나가 OpenAI의 GPT 모델 시리즈입니다. 최근에 공개된 Azure OpenAI GPT-4는 이 시리즈의 최신 버전으로, GPT-3.5와 어떻게 비교되는지 알아보겠습니다. 1. 성능과 정확도 GPT-4는 GPT-3.5보다 훨씬 더 뛰어난 성능을 자랑합니다. 이전 버전과 비교하여 더 많은 데이터로 사전 훈련되었으며, 이는 텍스트 생성의 정확도와 문맥 이해 능력을 향상시켰습니다. GPT-4는 문장을 더 자연스럽게 생성하고, 특정 주제에 대한 깊은 이해를 보여줍니다. 특히 한국어를 이해하는 능력이 크게 향상..
-
간단한 Azure OpenAI 사용하기!AI&ML 2023. 5. 29. 21:29
간단하기 OpenAI를 사용해서 질문을 던져보는 코드를 만들어볼게요. 아래코드는 Azure OpenAI를 사용했습니다. import json import openai import os from dotenv import load_dotenv load_dotenv() 단순히 필요한 패키지를 가져오고 환경 변수를 로드하는 코드입니다. json, openai, os, dotenv 패키지를 가져와서 사용합니다. dotenv 패키지는 .env 파일을 로드하여 환경 변수를 설정하는 데 사용됩니다. 루트디렉토리에 .env 파일을 만들고 필요한 환경변수를 셋팅합니다. config.json 파일을 하나더 만들어서 필요한 환경변수를 셋팅합니다. # Load config values with open(r'config.json..
-
기업환경에서 openAI 보다 Azure OpenAI를 써야하는 이유?AI&ML 2023. 5. 17. 21:16
챗GPT와 같은 LLM 모델이 요즘 핫하다. 대 생성AI 시대라고도 하는데 거의? 지능을 가진 머신이라고 해야하나? 암튼, 정말 기계랑 사람처럼 대화할수 있는 세상이 되었다. 이 엄청난 AI 모델을 기업환경, 즉 비지니스 프로세스에 적용하고 싶어 하는 사람들이 많을것이다. 왜냐?? 돈이 될수도 있기 때문이다. 하지만, 기업의 데이터는 컨피덴셜한 경우가 많다. 보안이 중요하다는 얘기다. 그럼, 이 데이터를 AI가 다 훔쳐가는게 아닐까? 당연히 걱정되는 포인트다. 그럼 이 챗GPT와 같은 API를 사용하기 위해서 openAI사이트에서 유료결재하고, 바로 사용하면 될까? 기업환경이라면, Azure OpenAI를 사용하기를 권장드린다. 아래표는 OpenAI와 Azure OpenAI의 차이점에 대해서 간략하게 설..
-
나의 TXT 데이터를 OpenAI를 이용하여 FastAPI로 서비스해보자!AI&ML 2023. 5. 3. 00:10
안녕하세요. LLM 모델인 chat gpt 를 활용해서 나만의 텍스트 데이터를 OpenAI를 연동해서 질문해 보는 서비스를 만들어 보겠습니다. 간단하게 파이썬을 이용해서 아래와 같은 순서로 작업합니다. 필요한 라이브러리를 설치해줍니다. openai 같은 LLM 모델들을 이용해서 애플리케이션을 개발하는데 유용한 Langchain 라이브러리를 이용합니다. from fastapi import FastAPI ,File, UploadFile , Request from pydantic import BaseModel from langchain.document_loaders import DirectoryLoader, TextLoader from langchain.text_splitter import CharacterT..
-
ChatGPT는 지금 휴식중!!AI&ML 2023. 1. 14. 12:03
ChatGPT는 OpenAI가 개발한 언어를 인식하도록 만들어진 대화형 인공지능 챗봇이다. ChatGPT는 이전 언어모델인 GPT-3가 개선된 버전이며, 지도학습과 강화학습을 이용하여 만들어진 AI서비스로 알려져 있다. 최초 출시일은 2022년 11월 30일이고 지난 한달동안 엄청난 센세이션을 일으키고 있다. 인터넷을 가정에서 사용하는 사람이라면, 이러한 대화형 AI에 익숙할것이다. KT 인터넷을 사용하는 나는 매일 아침 일어나면 "지니야~ 티비 틀어죠"."지니야 오늘 날씨는?", 심지어 집을 나서기전에 "지나야 버스 언제와?" 를 외치면, 몇분뒤에 버스가 우리집 앞 정류장에 도착할지 알려준다. 물론, 핸드폰 앱으로 몇번 클릭으로 알아낼수도 있지만, 컴퓨터가 내 말을 이해해서 응답을 준다는 것이 요즘은 ..