전체 글

Vector DB는 써야되긴 하겠으나, 어떤 벡터 DB가 괜찮은지 몰라 몇 가지 벡터 데이터베이스에 대한 특징을 정리해보았다. 이 중 적합한 것을 찾아 사용해보자* Self-Host: 데이터베이스가 타사 클라우드 서비스에 의존하지 않고 사용자의 자체 인프라에 호스팅될 수 있는지 여부 지정** Latency: 요청을 시작하고 응답을 받기까지의 지연 시간(밀리초)*** Disk index support: ChatGPT 데이터베이스가 디스크에 인덱스를 저장하는 것을 지원하는지 여부. 메모리에 맞지 않는 대규모 데이터셋을 처리하는 데 필수적 Case 1. Open-Source and hosted cloud - Weviate, Milvus, and Chroma를 고려하는 것이 좋다. Case 2. Performa..

급하게 PDF에 전자서명 할 일이 있어, 알게된 유용한 사이트 처음 사용하는거라 그런지 무료로 서명하고 다운까지 받을 수 있었다.  무료 온라인 전자 서명 포함 PDF 서명전자 서명으로 문서에 온라인으로 서명할 수 있는 100% 무료 도구입니다. 가입이 필요 없습니다. 온라인으로 전자 서명을 생성하고 PDF에 서명하세요.smallpdf.com

Llama.cpp를 파이썬에서 사용할 수 있도록 도와주는 라이브러리인 llama-cpp-python을 설치하던 도중에, 계속 다음과 같은 에러를 만난다..  Failed building wheel for llama-cpp-python .. Failed to build installable wheels for some pyproject.toml based projectsCMake도 관련 있는 거 같고, 여러모로 많이 얽혀있는거 같았다. 어찌저찌 해결책을 찾아 여러 Docker 환경에서 테스트를 진행해보았고, 잘 동작하는거 같아 이를 공유한다.apt-get updateset "CMAKE_ARGS=-DLLAMA_OPENBLAS=on"set "FORCE_CMAKE=1"apt install gcc-11 -yapt..

해당 포스트는 Medium 'Florian June'이 작성한 Advanced RAG 포스트 시리즈 그 여덟번째 내용을 실제로 실습하는 과정을 정리하며, Self-RAG 관련된 여러 기법을 사용해본다. 이론적인 부분은 다음을 참고하자. Self-RAG해당 포스트는 Medium 'Florian June'이 작성한 Advanced RAG 포스트 시리즈 그 여덟번째 내용을 정리하며, ~에 대해 다루고 있다.오픈북 시험을 보는 상황에서, 우리는 크게 두 가지 전략을 사용한다.Methcori.tistory.com오픈북 시험을 보는 상황에서, 우리는 크게 두 가지 전략을 사용한다.Method #01. 익숙한 주제에 대해서는 빠르게 답하고, 익숙하지 않은 주제에 대해서는 참고서를 열어 관련 부분을 빨리 찾아서 머릿속..

LangGraph 탄생 배경 - LLM이 생성한 답변이 Hallucination이 발생한 것은 아닐까 ?- RAG를 적용하여 받은 답변이 문서에는 없는 사전지식으로 답변한 것이 아닐까 ?- 문서 검색에서 원하는 내용이 없을 경우 부족한 정보를 검색하여 보강할 수 없을까 ?  잘못된 검색 결과가 잘못된 정보 검색으로 이어질 수 있음 => 사전에 정의된 데이터 소싱 자원, 사전에 정의된 Fixed Size Chunk, 사전에 정의된 Query 입력, 사전에 정의된 검색 방법, 신뢰하기 어려운 LLM 혹은 Agent, 고정된 프롬프트 형식, LLM의 답변 결과에 대한 문서와의 관련성 / 신뢰성 Conventioanl RAG의 문제점은 RAG 파이프라인이 단방향 구조이기 때문에 발생한다. 이전에 잘못된 과정이 ..

해당 포스트는 Medium 'Florian June'이 작성한 Advanced RAG 포스트 시리즈 일곱번째 내용을 실제로 실습하는 과정을 정리하며, PDF 문서를 효과적으로 처리하는 방법에 대해 다룬다. 이론적인 부분은 다음 글을 참고하자 Exploring RAG for Tables해당 포스트는 Medium 'Florian June'이 작성한 Advanced RAG 포스트 시리즈 그 일곱번째 내용을 정리하며, RAG에서 테이블을 관리하기 위한 핵심 기술에 대해 다루고 있다.RAG(복합 정답 생성, Retrieval-Augmecori.tistory.com사용 데이터실습에 사용한 pdf 파일은 내가 작성했던 졸업 논문이다.표, 그래프, 수식 등이 포함되어 있어 테스트 용으로 적합한듯 .. ? Table P..

해당 포스트는 Medium 'Florian June'이 작성한 Advanced RAG 포스트 시리즈 그 여섯번째 내용을 실제로 실습하는 과정을 정리하며, 쿼리 재작성 관련 여러 가지 방법을 사용해본다. 이론적인 부분은 다음을 참고하자. Exploring Query Rewriting해당 포스트는 Medium 'Florian June'이 작성한 Advanced RAG 포스트 시리즈 그 여섯번째 내용을 정리하며, 쿼리 재작성과 관련된 여러 기법에 대해 다루고 있다.검색 증강 생성(RAG)에서는 부정확한 표현cori.tistory.com쿼리 재작성은 쿼리와 문서의 의미를 일치시키기 위한 핵심 기술이다.Hypothetical Document Embeddings (HyDE)HyDE는 이론 부분에서도 설명했듯이, 입..

해당 포스트는 Medium 'Florian June'이 작성한 Advanced RAG 포스트 시리즈 그 다섯번째 내용을 실제로 실습하는 과정을 정리하며, 의미 기반 청킹 여러 가지 방법을 사용해본다. 이론적인 부분은 다음을 참고하자. Exploring Semantic Chunking해당 포스트는 Medium 'Florian June'이 작성한 Advanced RAG 포스트 시리즈 그 다섯번째 내용을 정리하며, 이 글에서는 의미 기반 청킹 방법을 탐구하고, 그 원리와 응용에 대해 다루고 있다.  가장 일cori.tistory.comEmbedding-based methodspip install llama-index-corepip install llama-index-readers-filepip install ..

기본적인 asynco 코드를 실행하는데도 자꾸만 asyncio.run() cannot be called from a running event loop 문제가 발생한다. import asyncioasync def main(): print(1) asyncio.run(main())다음 코드를 실행하면 해결할 수 있다.!pip3 install nest_asyncioimport nest_asyncio nest_asyncio.apply()오류가 언제 발생했냐는 듯이 깔끔하게 해결됐다.Ref.https://pypi.org/project/nest-asyncio/

해당 포스트는 Medium 'Florian June'이 작성한 Advanced RAG 포스트 시리즈 그 네번째 내용을 실제로 실습하는 과정을 정리하며, RAG의 Re-Ranking 과정에 대해 살펴본다. 이론적인 부분은 다음을 참고하자. Advanced RAG #04: Re-ranking해당 포스트는 Medium 'Florian June'이 작성한 Advanced RAG 포스트 시리즈 그 네번째 내용을 정리하며, RAG의 Re-Ranking 기술을 소개하고, 두 가지 방법을 사용하여 해당 기능을 통합하는 방법에 대해 다cori.tistory.com사용 데이터실습에 사용한 pdf 파일은 내가 작성했던 졸업 논문이다.표, 그래프, 수식 등이 포함되어 있어 테스트 용으로 적합한듯 .. ?Using re-ran..