AI
-
초스피드 AI 프로토타입 개발을 위한 랭서브(Langserve) 도입기AI 2025. 2. 16. 23:58
최근에 5개월짜리 짧은 기간의 AI 프로젝트 리드를 맡게 되면서 어떤 프레임워크와 환경 셋팅을 가져가야 구현 속도면에서 이점이 있을까 고민하던 찰나에 우아한형제들의 기술블로그 중 AI 데이터 분석가 ‘물어보새’ 등장 – 1부. RAG와 Text-To-SQL 활용 아티클을 보게 되었습니다. 마침 제가 진행 중인 것과 유사한 프로젝트를 이미 사내 시스템에 도입해 보는 경험을 보유하고 있었고 그 과정에서 랭서브(Langserve)라는 프레임워크를 사용했다는 사실을 알게 되었는데요. 저도 흥미를 느끼게 되어 조사해 본 결과 러닝커브가 높지 않아서 저희 프로젝트에도 도입해 보면 좋겠다는 생각이 들었습니다. 가장 크게 느꼈던 매리트 중 하나는 랭서브를 통해 개발하는 경우 코드 몇 줄 작성한 것만으로도 invoke,..
-
Text-to-SQL을 위한 랭체인 Vector DBLess 환경 구축하기(ClovaXEmbeddings 활용)AI/HyperCLOVAX 2025. 1. 5. 13:37
AI를 활용하여 자연어를 SQL로 변환하는 기술을 Text-to-SQL 또는 NL2SQL이라고 부릅니다. 이 기술을 적용하기 위한 프롬프트로는 일반적으로 테이블 스키마 정보, 쿼리 생성 시 주의사항, 예시 등이 있는데요. 만약, 테이블을 여러 개 갖고 있는 경우 모든 테이블에 대한 스키마 정보를 프롬프트로 담기에는 LLM이 처리할 수 있는 context 길이에 제한이 있기 때문에 이 경우에는 사용자 쿼리로부터 필요한 정보만을 프롬프트로 사용해야 하는 기술이 추가적으로 필요합니다. 이때 사용자 질문을 해석해 의미상 어떤 테이블을 조회하는 것이 가장 적합할지 찾아주는 기능을 Vector database와 임베딩 모델로 해결할 수 있습니다. 그러나 시중의 Vector Database를 도입하기에는 비용이나 인..
-
하이퍼클로바 X 랭체인 프로젝트 및 서버 구축하기AI/HyperCLOVAX 2024. 11. 24. 21:04
불과 몇 주전인 10월 말 11월 초쯤 랭체인에 하이퍼클로바X를 연동할 수 있는 ChatCLOVA X가 등장했습니다. AI 생태계를 거의 지배하고 있는 랭체인 프레임워크에서 공식적으로 지원하는 한국 최초의 오픈소스 모델이 등장했다는 점은 상당히 고무적으로 다가오는 것 같습니다. 지난달까지만 해도 제가 랭체인 v0.3에 하이퍼클로바x 연동하기라는 포스팅을 작성했었는데요. 포스팅을 작성한 게 무색할 정도로 작성한 지 불과 며칠 만에 공식지원 모듈이 등장했습니다. 따라서 이제는 커스텀모델로 직접 만들지 않아도 사용하고 계신 langchain의 버전만 맞춰주신다면 공식적으로 HyperCLOVA X 사용이 가능해졌는데요. 이번 포스팅에서는 랭체인에서 지원하는 HyperCLOVA X 연동 모듈에서는 어떤 기능들이..
-
랭체인v0.3 하이퍼클로바x 연동하기AI/HyperCLOVAX 2024. 10. 13. 20:40
AI 업계에서 일하고 계신 분들이라면 랭체인(LangChain)이라는 단어가 낯설지 않을 텐데요. 요즘은 개발자부터 MLOps 엔지니어까지 여러 다양한 직군의 채용공고만 보아도 랭체인이라는 단어가 심심치 않게 등장하고 있습니다. 그만큼 랭체인은 AI 서비스를 개발하는 데 있어 중요한 프레임워크로 빠르게 자리 잡아가고 있는 것 같습니다. 랭체인의 장점은 모듈화 된 구조로 인해 모델과 프롬프트를 자유자재로 교체해서 사용할 수 있다는 점과 배치 처리, 비동기호출 같은 다양한 함수들을 활용하여 답변을 생성할 수 있기 때문에 백엔드 개발에 필요한 여러 많은 작업들을 최소화시켜준다는 점입니다. 특히, 많은 사람들이 사용하고 있는 클로드나 GPT 같은 저명한 오픈소스 모델 연동 모듈은 랭체인 커뮤니티에서 써드파티 라..
-
HyperCLOVA X로 나만의 캐릭터 챗봇 만들기: LLM 활용부터 데이터셋 자동화까지AI/HyperCLOVAX 2024. 7. 17. 23:30
요즘 AI가 워낙 핫 해지면서 여러 다양한 캐릭터 또는 유명 연예인들의 가치관, 성격, 말투까지 모두 따라 하게 만드는 챗봇들을 직접 만들어보는 시도들이 점차 늘어나고 있는데요. 어떻게 이렇게 단 시간 안에 수많은 캐릭터 챗봇들이 쏟아져 나올 수 있게 되었을까요? 그 이유는 바로 LLM(Large Language Model) 이 등장했기 때문입니다. 이전에는 챗봇을 만들려면 직접 질문과 답변을 다 대 다로 매핑해서 일일이 데이터베이스에 저장해놓아야 했기 때문에 굉장히 많은 시간과 비용이 들었지만 이제는 적은 데이터 만으로도 모델 학습을 통해 단 시간 안에 실제 캐릭터가 답변하는 듯한 느낌을 줄 수 있는 챗봇을 만들 수 있게 되었습니다. 적은 데이터만으로도 캐릭터 챗봇을 만들 수 있게 된 이유는 LLM에..
-
Cursor IDE 동작원리 및 설치, 사용방법AI 2024. 6. 11. 22:46
제가 코딩할 때 주로 쓰는 IDE는 IntelliJ와 VS Code인데요. 최근에는 이 에디터들만큼 자주 사용하는 도구가 하나 더 추가되었는데 바로 AI 기반 에디터인 Cursor입니다. 이전에는 AI를 활용해서 코드를 짠다고 하면 주로 ChatGPT에게 물어봐서 더 효율적인 함수를 찾거나, 기억이 잘 나지 않는 라이브러리를 찾거나 부트스트랩, 테일윈드 같은 css 프레임워크의 클래스명을 물어보는 용도로만 활용했었는데요. 사실 ChatGPT만 사용해도 업무 효율이 엄청나기 때문에 굳이 AI 에디터를 사용해야 될까?라는 의문을 갖고 있다가 이번에 마침 Cursor라는 에디터가 떠오르고 있어서 한번 직접 조사해 보고 사용해 보았는데 생각보다 만족감이 높았습니다. 그래서 이번에는 Cursor 사용경험에 대한 ..
-
CLOVA Studio 스킬 사용방법 2탄AI/HyperCLOVAX 2024. 3. 31. 16:00
이전 포스팅에서 한국진흥원에서 제공하는 영화순위 API와 CLOVA Studio의 스킬 트레이너 기능을 활용하면 HyperCLOVA X가 바로 어제 일어난 일에 대해서도 답변하도록 만들 수 있다는 것을 확인해 보았는데요. 혹시 생성형 AI로 미래에 일어날 일도 예측하게 만들 수 있을까요? 이번 포스팅에서는 기상청에서 제공하는 단기예보조회 API를 이용해서 사용자가 오늘 날씨에 대해 물어보는 경우에도 답변이 가능한지 알아보도록 하겠습니다. 다만, 기상청의 단기예보조회 API는 앞선 포스팅에서 소개한 영화순위 API에 비해 요청 파라미터를 만들기가 조금 까다로운데요. 그 이유는 nx, ny라는 예보지점 X, Y 좌표를 제공해야 하고 기상청의 예보날짜와 시간을 계산해서 API를 호출해야 합니다. 즉, 쉽게 말..
-
CLOVA Studio 스킬 사용방법AI/HyperCLOVAX 2024. 3. 17. 14:45
“어제 영화 순위 알려줘”, “오늘 날씨 알려줘”와 같은 질문들을 CLOVA X에게 물어보신 적이 있으신가요? 아마 다음과 같이 답변하는 것을 확인하실 수 있습니다. 이는 ChatGPT나 다른 생성형 AI에게 물어봐도 마찬가지인데요. 이처럼 가까운 과거나 미래에 일어날 일들은 도대체 어떻게 물어봐야 답변이 가능하도록 만들 수 있을까요? CLOVA Studio에서는 바로 이러한 문제점들을 해결하기 위해 스킬 트레이너라는 기능을 만들었습니다. 🏇🏻 스킬 트레이너란?스킬 트레이너는 특화된 지식을 모델에 학습시키는 CLOVA Studio의 기능입니다. 이 특화된 지식이라 함은 생성형 AI가 답변할 수 없는 가까운 미래나 최신 정보들을 답변할 수 있도록 특정 질문이나 발화 패턴을 인식하여 다른 외부 API..