전체 글
-
테크포임팩트 랩짱을 마치며독서 및 기타 활동 2025. 3. 25. 00:40
2025년 3월 21일 커넥트데이 행사를 마지막으로 테크포임펙트에서의 랩짱 활동을 모두 마치게 되었습니다. 왠지 모를 아쉬움을 느끼면서도 번아웃이 올 정도로 그동안 정말 열심히 달려왔는데요. 이번 포스팅에서는 6개월간 팀을 리드하면서 느끼고 깨달았던 소중한 경험들을 공유드리고자 합니다. 그동안, 함께해 주신 랩원 분들과 브라이언 펠로우인 누구나데이터 직원분들 그리고 커뮤니티 활동을 아낌없이 지원해 주신 모두의연구소, 카카오임팩트 매니저분들에게 감사 인사를 드리고 마지막으로 저와 마찬가지로 6개월 동안 현업과 병행하면서 테크포임팩트 랩을 무사히 마치신 모든 랩짱님들에게 경의를 표합니다. 🌟 테크포임팩트 랩짱의 역할 되새기기 테크포임팩트 랩짱에 도전하다최근에 모두의연구소에서 풀잎스쿨 퍼실이 활동을 마치고..
-
생성형 AI(LLM) 프롬프트 파일 관리 방법AI 2025. 3. 16. 00:38
생성형 AI에 사용되는 프롬프트는 어떻게 관리하는 게 좋을까요? 프롬프트는 챗봇의 답변 품질에 굉장히 많은 영향을 미치는 만큼 반드시 체계적인 관리가 필요한데요. 정작, 인터넷에서 프롬프트 관리 방법에 대해 검색해 보면 공개된 자료를 거의 찾을 수 없어서 항상 아쉬움이 많이 남았습니다. 최근 5개월짜리 짧은 기간 동안 AI 프로젝트를 리드하면서 어떻게 하면 팀의 성격에 맞게 프롬프트를 효율적으로 관리할 수 있을지 저도 직접 겪어보며 방법들을 조금씩 개선해 나갔는데요. 이번에 그 경험에 대해 공유드리고자 합니다. 🤔 프롬프트는 어떻게 관리하는 게 좋을까? 우선, 프롬프트를 관리하기 위해 첫 번째로 생각해보아야 할 점은 프롬프트가 외부에 공개되어도 되는지? 아니면 외부로 유출되면 안 되는지 생각해 볼 필..
-
BigQuery와 하이퍼클로바X로 Text-To-SQL(NL2SQL) 구현하기AI/HyperCLOVAX 2025. 3. 2. 21:55
BigQuery는 Google Cloud에서 제공하는 데이터 웨어하우스로, 대량의 데이터를 빠르게 분석할 수 있다는 장점이 있습니다. BigQuery를 사용할 경우 별도의 DB 설치 필요 없이 클라우드 내에서 데이터베이스를 조작할 수 있고 언어별 SDK도 지원이 잘 되어 있기 때문에 구글 계정 인증만 한다면 코드단에서도 손쉽게 사용이 가능합니다. 이번 포스팅에서는 랭체인을 활용하여 BigQuery와 하이퍼클로바X를 연동해 보고 Text-to-SQL 프롬프트를 작성하는 방법에 대해 알아보도록 하겠습니다. 목차1. BigQuery 사용방법 알아보기2. BigQuery 연동하기3. 하이퍼클로바X 연동하기4. Text-to-SQL(NL2SQL) 프롬프트 작성하기5. 정리하기 🔍 BigQuery 사용방법 알아..
-
초스피드 AI 프로토타입 개발을 위한 랭서브(Langserve) 도입기AI 2025. 2. 16. 23:58
최근에 5개월짜리 짧은 기간의 AI 프로젝트 리드를 맡게 되면서 어떤 프레임워크와 환경 셋팅을 가져가야 구현 속도면에서 이점이 있을까 고민하던 찰나에 우아한형제들의 기술블로그 중 AI 데이터 분석가 ‘물어보새’ 등장 – 1부. RAG와 Text-To-SQL 활용 아티클을 보게 되었습니다. 마침 제가 진행 중인 것과 유사한 프로젝트를 이미 사내 시스템에 도입해 보는 경험을 보유하고 있었고 그 과정에서 랭서브(Langserve)라는 프레임워크를 사용했다는 사실을 알게 되었는데요. 저도 흥미를 느끼게 되어 조사해 본 결과 러닝커브가 높지 않아서 저희 프로젝트에도 도입해 보면 좋겠다는 생각이 들었습니다. 가장 크게 느꼈던 매리트 중 하나는 랭서브를 통해 개발하는 경우 코드 몇 줄 작성한 것만으로도 invoke,..
-
개발자의 비영리(non-profit) 도메인 이해하기독서 및 기타 활동 2025. 1. 19. 21:02
작년 10월에 테크포임팩트 커뮤니티의 랩짱으로 선발되어 모두의연구소와 카카오임팩트의 지원을 받아 누구나데이터와 함께 비영리단체를 위한 AI 솔루션을 개발해오고 있는데요. 프로젝트 시작 당시 누구나데이터의 김자유 대표님으로부터 『 비영리단체 성장 공식, 잠재후원자 모금:정체된 후원자 수를 돌파하는 기술 』 도서를 선물로 받았습니다. 하지만, 부끄럽게도 기획 초반 단계에 읽었어야 할 책을 현업이 바쁘다는 핑계로 이제야 다 읽게 되었는데요. 늦었다고 생각했을 때가 가장 빠르다는 말이 있듯이 이번에 그 후기를 작성해보려고 합니다. 이 책은 각기각색의 다양한 비영리단체의 성공 노하우와 비결에 대해 담은 도서로 비영리단체를 운영하고 계신 분들께 유명한 바이블로써 알려져 있습니다. 따로 판매 중인 도서는 아니지만 누..
-
Text-to-SQL을 위한 랭체인 Vector DBLess 환경 구축하기(ClovaXEmbeddings 활용)AI/HyperCLOVAX 2025. 1. 5. 13:37
AI를 활용하여 자연어를 SQL로 변환하는 기술을 Text-to-SQL 또는 NL2SQL이라고 부릅니다. 이 기술을 적용하기 위한 프롬프트로는 일반적으로 테이블 스키마 정보, 쿼리 생성 시 주의사항, 예시 등이 있는데요. 만약, 테이블을 여러 개 갖고 있는 경우 모든 테이블에 대한 스키마 정보를 프롬프트로 담기에는 LLM이 처리할 수 있는 context 길이에 제한이 있기 때문에 이 경우에는 사용자 쿼리로부터 필요한 정보만을 프롬프트로 사용해야 하는 기술이 추가적으로 필요합니다. 이때 사용자 질문을 해석해 의미상 어떤 테이블을 조회하는 것이 가장 적합할지 찾아주는 기능을 Vector database와 임베딩 모델로 해결할 수 있습니다. 그러나 시중의 Vector Database를 도입하기에는 비용이나 인..
-
5년차 개발자의 2024년 회고록독서 및 기타 활동 2024. 12. 22. 23:53
올해로 벌써 개발자의 길을 걸어온 지 5년이 되었습니다. 지난 기간 동안 수많은 기술을 배우고 다양한 서비스들을 접해보면서 느낀 점은 계속해서 시대가 빠르게 변해오고 있는데 변치 않는 것은 개발자로서의 사명인 끊임없는 도전과 배움의 연속이라는 사실인 것 같습니다. 이번 연도에도 어김없이 새로운 변화에 대한 적응, 그리고 새로운 도전, 꾸준한 학습을 이어왔는데요. 작년, 재작년때와 마찬가지로 이번에도 2024년을 마무리하며, 지난 1년을 돌아보고 앞으로의 방향을 고민해보려 합니다. 지난 회고글 돌아보기2023년 목표 달성 및 성장에 대한 회고챗봇개발자의 2022년 회고록 🍀 Ncloud 테크 엠버서더와 HyperCLOVA X Ncloud 테크 앰버서더 마스터 주니어 1기 합격 후기어떤 한 오픈 채팅방..
-
하이퍼클로바 X 랭체인 프로젝트 및 서버 구축하기AI/HyperCLOVAX 2024. 11. 24. 21:04
불과 몇 주전인 10월 말 11월 초쯤 랭체인에 하이퍼클로바X를 연동할 수 있는 ChatCLOVA X가 등장했습니다. AI 생태계를 거의 지배하고 있는 랭체인 프레임워크에서 공식적으로 지원하는 한국 최초의 오픈소스 모델이 등장했다는 점은 상당히 고무적으로 다가오는 것 같습니다. 지난달까지만 해도 제가 랭체인 v0.3에 하이퍼클로바x 연동하기라는 포스팅을 작성했었는데요. 포스팅을 작성한 게 무색할 정도로 작성한 지 불과 며칠 만에 공식지원 모듈이 등장했습니다. 따라서 이제는 커스텀모델로 직접 만들지 않아도 사용하고 계신 langchain의 버전만 맞춰주신다면 공식적으로 HyperCLOVA X 사용이 가능해졌는데요. 이번 포스팅에서는 랭체인에서 지원하는 HyperCLOVA X 연동 모듈에서는 어떤 기능들이..