model
-
Azure Databricks에서 생성 AI 및 LLMs 개발하기AI&ML 2024. 4. 10. 13:34
Azure Databricks는 데이터 수집 및 준비에서부터 모델 개발과 LLMOps, 서비스 및 모니터링에 이르는 AI 라이프사이클을 통합하는 통합 플랫폼을 제공한다. 이 플랫폼은 생성 AI 애플리케이션 개발을 위해 최적화된 기능을 제공한다. 작년에 Dolly 라는 자체 AI모델을 서비스 하는것을 본적이 있는데, 현재는 어떻게 서비스를 제공하는지 궁금했다. 그래서 클라우드에서 Databricks를 배포하고 서비스 포털을 오픈해서 확인해보기로 한다. 최근 웨비나 영상에서 openAI처럼 인공지능 모델들을 체험할수 있는 AI Playground를 제공한다고 하여, 기대하면서 워크스페이스를 열었다. 하지만, 불행이도 Azure OpenAI 처럼 아직 한국리전에서는 이 기능을 제공하지 않는다. 아래 Regio..
-
Choosing your AI model (AI 모델 선택하기)AI&ML 2023. 6. 24. 13:01
최근에 AI에 대한 관심이 실제 기업에서 어떤 식으로 적용할수 있을까에 대한 기술검증이 활발합니다. 우리말에 구슬도 꿰어야 보배다 라는 말이 있죠. 아무리 뛰어난 기술이라도, 어떤식으로 활용할수 있을지 눈에 보이지 않는다면, 신기류에 불과할 뿐일 것입니다. 처음 AI 모델을 선택할때 어떻게 시작해야할까요? 기업환경에 가장 적합한 모델을 선택하는것은 하나의 조건이 있는것이 아니라, 여러가지 조건들을 잘 따져 봐야 할것 입니다. 아래는 AI 모델을 선택할때 고려해야할 조건들을 나열해 보았습니다. - 모델이 바로 사용할 수 있는 품질을 보장하는가? - 추론 속도/지연 시간 - 비용 - 미세 조정(Fine-tune) / 확장성 - 데이터 보안 및 라이센스 허용성 대부분의 경우, 바로 선택할수 있는 모델은 GPT..