분류 전체보기
-
초스피드 AI 프로토타입 개발을 위한 랭서브(Langserve) 도입기AI 2025. 2. 16. 23:58
최근에 5개월짜리 짧은 기간의 AI 프로젝트 리드를 맡게 되면서 어떤 프레임워크와 환경 셋팅을 가져가야 구현 속도면에서 이점이 있을까 고민하던 찰나에 우아한형제들의 기술블로그 중 AI 데이터 분석가 ‘물어보새’ 등장 – 1부. RAG와 Text-To-SQL 활용 아티클을 보게 되었습니다. 마침 제가 진행 중인 것과 유사한 프로젝트를 이미 사내 시스템에 도입해 보는 경험을 보유하고 있었고 그 과정에서 랭서브(Langserve)라는 프레임워크를 사용했다는 사실을 알게 되었는데요. 저도 흥미를 느끼게 되어 조사해 본 결과 러닝커브가 높지 않아서 저희 프로젝트에도 도입해 보면 좋겠다는 생각이 들었습니다. 가장 크게 느꼈던 매리트 중 하나는 랭서브를 통해 개발하는 경우 코드 몇 줄 작성한 것만으로도 invoke,..
-
개발자의 비영리(non-profit) 도메인 이해하기독서 및 기타 활동 2025. 1. 19. 21:02
작년 10월에 테크포임팩트 커뮤니티의 랩짱으로 선발되어 모두의연구소와 카카오임팩트의 지원을 받아 누구나데이터와 함께 비영리단체를 위한 AI 솔루션을 개발해오고 있는데요. 프로젝트 시작 당시 누구나데이터의 김자유 대표님으로부터 『 비영리단체 성장 공식, 잠재후원자 모금:정체된 후원자 수를 돌파하는 기술 』 도서를 선물로 받았습니다. 하지만, 부끄럽게도 기획 초반 단계에 읽었어야 할 책을 현업이 바쁘다는 핑계로 이제야 다 읽게 되었는데요. 늦었다고 생각했을 때가 가장 빠르다는 말이 있듯이 이번에 그 후기를 작성해보려고 합니다. 이 책은 각기각색의 다양한 비영리단체의 성공 노하우와 비결에 대해 담은 도서로 비영리단체를 운영하고 계신 분들께 유명한 바이블로써 알려져 있습니다. 따로 판매 중인 도서는 아니지만 누..
-
Text-to-SQL을 위한 랭체인 Vector DBLess 환경 구축하기(ClovaXEmbeddings 활용)AI/HyperCLOVAX 2025. 1. 5. 13:37
AI를 활용하여 자연어를 SQL로 변환하는 기술을 Text-to-SQL 또는 NL2SQL이라고 부릅니다. 이 기술을 적용하기 위한 프롬프트로는 일반적으로 테이블 스키마 정보, 쿼리 생성 시 주의사항, 예시 등이 있는데요. 만약, 테이블을 여러 개 갖고 있는 경우 모든 테이블에 대한 스키마 정보를 프롬프트로 담기에는 LLM이 처리할 수 있는 context 길이에 제한이 있기 때문에 이 경우에는 사용자 쿼리로부터 필요한 정보만을 프롬프트로 사용해야 하는 기술이 추가적으로 필요합니다. 이때 사용자 질문을 해석해 의미상 어떤 테이블을 조회하는 것이 가장 적합할지 찾아주는 기능을 Vector database와 임베딩 모델로 해결할 수 있습니다. 그러나 시중의 Vector Database를 도입하기에는 비용이나 인..
-
5년차 개발자의 2024년 회고록독서 및 기타 활동 2024. 12. 22. 23:53
올해로 벌써 개발자의 길을 걸어온 지 5년이 되었습니다. 지난 기간 동안 수많은 기술을 배우고 다양한 서비스들을 접해보면서 느낀 점은 계속해서 시대가 빠르게 변해오고 있는데 변치 않는 것은 개발자로서의 사명인 끊임없는 도전과 배움의 연속이라는 사실인 것 같습니다. 이번 연도에도 어김없이 새로운 변화에 대한 적응, 그리고 새로운 도전, 꾸준한 학습을 이어왔는데요. 작년, 재작년때와 마찬가지로 이번에도 2024년을 마무리하며, 지난 1년을 돌아보고 앞으로의 방향을 고민해보려 합니다. 지난 회고글 돌아보기2023년 목표 달성 및 성장에 대한 회고챗봇개발자의 2022년 회고록 🍀 Ncloud 테크 엠버서더와 HyperCLOVA X Ncloud 테크 앰버서더 마스터 주니어 1기 합격 후기어떤 한 오픈 채팅방..
-
하이퍼클로바 X 랭체인 프로젝트 및 서버 구축하기AI/HyperCLOVAX 2024. 11. 24. 21:04
불과 몇 주전인 10월 말 11월 초쯤 랭체인에 하이퍼클로바X를 연동할 수 있는 ChatCLOVA X가 등장했습니다. AI 생태계를 거의 지배하고 있는 랭체인 프레임워크에서 공식적으로 지원하는 한국 최초의 오픈소스 모델이 등장했다는 점은 상당히 고무적으로 다가오는 것 같습니다. 지난달까지만 해도 제가 랭체인 v0.3에 하이퍼클로바x 연동하기라는 포스팅을 작성했었는데요. 포스팅을 작성한 게 무색할 정도로 작성한 지 불과 며칠 만에 공식지원 모듈이 등장했습니다. 따라서 이제는 커스텀모델로 직접 만들지 않아도 사용하고 계신 langchain의 버전만 맞춰주신다면 공식적으로 HyperCLOVA X 사용이 가능해졌는데요. 이번 포스팅에서는 랭체인에서 지원하는 HyperCLOVA X 연동 모듈에서는 어떤 기능들이..
-
React로 CLOVA X 클론코딩하기Front-End/react 2024. 10. 27. 23:50
CLOVA X, ChatGPT 같은 생성형 AI 기반 채팅 서비스는 어떻게 만드는 걸까요? 랭체인, 라마인덱스 등 생성형 AI 개발을 위한 백엔드 프레임워크들은 다양한 방식으로 많이 쏟아져 나오고 있는데 정작 UI/UX나 프론트엔드 쪽으로는 생성형 AI 관련 아티클들을 많이 못 본 것 같아 아쉬움이 많습니다. 사실 CLOVA X같이 AI 답변 결과가 스트리밍 형식으로 렌더링 되는 UI를 구현하려면 프론트엔드도 신경 써야 할 부분이 생각보다 많은데요. 이번 포스팅에서는 React를 사용하여 CLOVA X 같은 생성형 AI 기반 채팅 서비스는 어떻게 만들 수 있는지에 대해 공유드리도록 하겠습니다. 🧑🏻🎨 UI 모델링먼저 서비스를 개발하기 전에는 UI모델링을 어떻게 가져가면 좋을지 설계하는 것이 가장..
-
랭체인v0.3 하이퍼클로바x 연동하기AI/HyperCLOVAX 2024. 10. 13. 20:40
AI 업계에서 일하고 계신 분들이라면 랭체인(LangChain)이라는 단어가 낯설지 않을 텐데요. 요즘은 개발자부터 MLOps 엔지니어까지 여러 다양한 직군의 채용공고만 보아도 랭체인이라는 단어가 심심치 않게 등장하고 있습니다. 그만큼 랭체인은 AI 서비스를 개발하는 데 있어 중요한 프레임워크로 빠르게 자리 잡아가고 있는 것 같습니다. 랭체인의 장점은 모듈화 된 구조로 인해 모델과 프롬프트를 자유자재로 교체해서 사용할 수 있다는 점과 배치 처리, 비동기호출 같은 다양한 함수들을 활용하여 답변을 생성할 수 있기 때문에 백엔드 개발에 필요한 여러 많은 작업들을 최소화시켜준다는 점입니다. 특히, 많은 사람들이 사용하고 있는 클로드나 GPT 같은 저명한 오픈소스 모델 연동 모듈은 랭체인 커뮤니티에서 써드파티 라..
-
테크포임팩트 랩짱에 도전하다독서 및 기타 활동 2024. 9. 16. 21:23
최근에 모두의연구소에서 풀잎스쿨 퍼실이 활동을 마치고 난 후 앞으로 어떤 활동을 하면 좋을지 고민하던 찰나에 풀잎스쿨 가드너(커뮤니티 도우미)님으로부터 테크포임팩트 랩짱에 지원해 보는 것을 추천받았습니다. 마침 새로운 사이드 활동을 찾고 있었기에 테크포임팩트를 유심히 살펴보던 도중 이번 하반기에 열리는 프로젝트들 중 평소에 관심 있던 기술로 진행되는 프로젝트 중 하나인 ‘ AI 챗봇으로 데이터 기반 의사결정 돕기’를 우연히 발견하게 되었는데요. 마침 Text-to-SQL에 관심을 갖고 있었고 챗봇 업계에 들어선지도 벌써 4년이 넘었기에 슬슬 내가 가진 기술로 얼마나 영향력을 끼칠 수 있을지 도전해보고 싶은 마음이 있어서 이번 기회에 경험해 보고자 망설임 없이 신청을 결심했습니다. 그 결과 저의 열정을 좋..