AI/HyperCLOVAX
-
Text-to-SQL을 위한 랭체인 Vector DBLess 환경 구축하기(ClovaXEmbeddings 활용)AI/HyperCLOVAX 2025. 1. 5. 13:37
AI를 활용하여 자연어를 SQL로 변환하는 기술을 Text-to-SQL 또는 NL2SQL이라고 부릅니다. 이 기술을 적용하기 위한 프롬프트로는 일반적으로 테이블 스키마 정보, 쿼리 생성 시 주의사항, 예시 등이 있는데요. 만약, 테이블을 여러 개 갖고 있는 경우 모든 테이블에 대한 스키마 정보를 프롬프트로 담기에는 LLM이 처리할 수 있는 context 길이에 제한이 있기 때문에 이 경우에는 사용자 쿼리로부터 필요한 정보만을 프롬프트로 사용해야 하는 기술이 추가적으로 필요합니다. 이때 사용자 질문을 해석해 의미상 어떤 테이블을 조회하는 것이 가장 적합할지 찾아주는 기능을 Vector database와 임베딩 모델로 해결할 수 있습니다. 그러나 시중의 Vector Database를 도입하기에는 비용이나 인..
-
하이퍼클로바 X 랭체인 프로젝트 및 서버 구축하기AI/HyperCLOVAX 2024. 11. 24. 21:04
불과 몇 주전인 10월 말 11월 초쯤 랭체인에 하이퍼클로바X를 연동할 수 있는 ChatCLOVA X가 등장했습니다. AI 생태계를 거의 지배하고 있는 랭체인 프레임워크에서 공식적으로 지원하는 한국 최초의 오픈소스 모델이 등장했다는 점은 상당히 고무적으로 다가오는 것 같습니다. 지난달까지만 해도 제가 랭체인 v0.3에 하이퍼클로바x 연동하기라는 포스팅을 작성했었는데요. 포스팅을 작성한 게 무색할 정도로 작성한 지 불과 며칠 만에 공식지원 모듈이 등장했습니다. 따라서 이제는 커스텀모델로 직접 만들지 않아도 사용하고 계신 langchain의 버전만 맞춰주신다면 공식적으로 HyperCLOVA X 사용이 가능해졌는데요. 이번 포스팅에서는 랭체인에서 지원하는 HyperCLOVA X 연동 모듈에서는 어떤 기능들이..
-
랭체인v0.3 하이퍼클로바x 연동하기AI/HyperCLOVAX 2024. 10. 13. 20:40
AI 업계에서 일하고 계신 분들이라면 랭체인(LangChain)이라는 단어가 낯설지 않을 텐데요. 요즘은 개발자부터 MLOps 엔지니어까지 여러 다양한 직군의 채용공고만 보아도 랭체인이라는 단어가 심심치 않게 등장하고 있습니다. 그만큼 랭체인은 AI 서비스를 개발하는 데 있어 중요한 프레임워크로 빠르게 자리 잡아가고 있는 것 같습니다. 랭체인의 장점은 모듈화 된 구조로 인해 모델과 프롬프트를 자유자재로 교체해서 사용할 수 있다는 점과 배치 처리, 비동기호출 같은 다양한 함수들을 활용하여 답변을 생성할 수 있기 때문에 백엔드 개발에 필요한 여러 많은 작업들을 최소화시켜준다는 점입니다. 특히, 많은 사람들이 사용하고 있는 클로드나 GPT 같은 저명한 오픈소스 모델 연동 모듈은 랭체인 커뮤니티에서 써드파티 라..
-
HyperCLOVA X로 나만의 캐릭터 챗봇 만들기: LLM 활용부터 데이터셋 자동화까지AI/HyperCLOVAX 2024. 7. 17. 23:30
요즘 AI가 워낙 핫 해지면서 여러 다양한 캐릭터 또는 유명 연예인들의 가치관, 성격, 말투까지 모두 따라 하게 만드는 챗봇들을 직접 만들어보는 시도들이 점차 늘어나고 있는데요. 어떻게 이렇게 단 시간 안에 수많은 캐릭터 챗봇들이 쏟아져 나올 수 있게 되었을까요? 그 이유는 바로 LLM(Large Language Model) 이 등장했기 때문입니다. 이전에는 챗봇을 만들려면 직접 질문과 답변을 다 대 다로 매핑해서 일일이 데이터베이스에 저장해놓아야 했기 때문에 굉장히 많은 시간과 비용이 들었지만 이제는 적은 데이터 만으로도 모델 학습을 통해 단 시간 안에 실제 캐릭터가 답변하는 듯한 느낌을 줄 수 있는 챗봇을 만들 수 있게 되었습니다. 적은 데이터만으로도 캐릭터 챗봇을 만들 수 있게 된 이유는 LLM에..
-
CLOVA Studio 스킬 사용방법 2탄AI/HyperCLOVAX 2024. 3. 31. 16:00
이전 포스팅에서 한국진흥원에서 제공하는 영화순위 API와 CLOVA Studio의 스킬 트레이너 기능을 활용하면 HyperCLOVA X가 바로 어제 일어난 일에 대해서도 답변하도록 만들 수 있다는 것을 확인해 보았는데요. 혹시 생성형 AI로 미래에 일어날 일도 예측하게 만들 수 있을까요? 이번 포스팅에서는 기상청에서 제공하는 단기예보조회 API를 이용해서 사용자가 오늘 날씨에 대해 물어보는 경우에도 답변이 가능한지 알아보도록 하겠습니다. 다만, 기상청의 단기예보조회 API는 앞선 포스팅에서 소개한 영화순위 API에 비해 요청 파라미터를 만들기가 조금 까다로운데요. 그 이유는 nx, ny라는 예보지점 X, Y 좌표를 제공해야 하고 기상청의 예보날짜와 시간을 계산해서 API를 호출해야 합니다. 즉, 쉽게 말..
-
CLOVA Studio 스킬 사용방법AI/HyperCLOVAX 2024. 3. 17. 14:45
“어제 영화 순위 알려줘”, “오늘 날씨 알려줘”와 같은 질문들을 CLOVA X에게 물어보신 적이 있으신가요? 아마 다음과 같이 답변하는 것을 확인하실 수 있습니다. 이는 ChatGPT나 다른 생성형 AI에게 물어봐도 마찬가지인데요. 이처럼 가까운 과거나 미래에 일어날 일들은 도대체 어떻게 물어봐야 답변이 가능하도록 만들 수 있을까요? CLOVA Studio에서는 바로 이러한 문제점들을 해결하기 위해 스킬 트레이너라는 기능을 만들었습니다. 🏇🏻 스킬 트레이너란?스킬 트레이너는 특화된 지식을 모델에 학습시키는 CLOVA Studio의 기능입니다. 이 특화된 지식이라 함은 생성형 AI가 답변할 수 없는 가까운 미래나 최신 정보들을 답변할 수 있도록 특정 질문이나 발화 패턴을 인식하여 다른 외부 API..
-
HyperCLOVA X를 활용한 공부앱 만들기AI/HyperCLOVAX 2024. 3. 3. 20:48
많은 기업들이 작년 재작년까지 계속해서 생성형 AI를 도입해 보고 적용해 보면서 새로운 먹거리 찾기에 나섰는데요. 올해 2024년은 실제로 생성형 AI가 비즈니스에 적합한지 확인하고 검증해 나가는 시기라고 합니다. 하지만 아직까지 많은 기업들에서 생성형 AI를 어떻게 적용하고 있는지, 또 어떤 서비스를 하고 있는지 구체적으로 밝혀진 바가 거의 없는데요. 그래서 저도 여태 생성형 AI를 요약과 문장 생성, 질문에 대한 답변 등으로만 활용하다가 이번에 네이버클라우드 퇴근길 테크밋업에 다녀오고 나서 한 가지 좋은 인사이트를 얻게 되었습니다. 바로 생성형 AI를 답변 생성이 아닌 질문 생성에 활용하는 것인데요. 지난번 네이버클라우드 퇴근길 테크밋업에서 발표를 진행해 주신 스톤즈랩, 클라비 연사자 분들도 이 방법..
-
포텐데이 X 클로바 스튜디오 해커톤 참여 후기 및 HyperCLOVA X 모델 적용 수상작 소개AI/HyperCLOVAX 2023. 12. 26. 23:47
HyperCLOVA X가 등장한 후로 네이버클라우드에서는 클로바 스튜디오를 개편하여 HyperCLOVA X 모델을 사용자들이 직접 가공해서 사용할 수 있도록 외부 기업들에게 클로즈베타로 공개하였습니다. 하지만 안타깝게도 현재 클로즈베타 신청은 기업에 한정하여 받고 있어 개인으로는 클로바 스튜디오를 사용할 수 없도록 되어있는데요. 이번에 비사이드와 네이버클라우드의 콜라보 해커톤인 포텐데이 X 클로바 스튜디오가 열리게 되어서 이번 해커톤을 한정으로 HyperCLOVA X 모델을 사용해 볼 수 있는 기회가 생겼습니다. 마침 회사에서도 관심 갖고 있는 사업이고 저도 이 기회를 놓치고 싶지 않아서 바쁜 스케줄을 쪼개서 해커톤 참여를 신청했습니다. 포텐데이 X 클로바 스튜디오 해커톤에 참여하면서 HyperCLOVA..