본문 바로가기

Spring16

Chat Memory - Spring AI Practice 개요LLM은 stateful하지 않기 때문에 대화형 애플리케이션에서 과거 대화를 기억하고 컨텍스트를 유지하는 것이 중요합니다. Spring AI는 Chat Memory API를 통해 대화 히스토리를 관리하고 이를 프롬프트에 통합하여 보다 자연스럽고 일관된 대화를 가능하게 합니다. ChatMemoryRepository 인터페이스는 대화 세션별로 메시지를 저장하고 검색하는 기능만 담당하여 어떤 메시질르 보관하고 언제 제거할지는 ChatMemory 인터페이스가 담당합니다.본문Chat Memory vs Chat HistoryChat Memory: 대규모 언어 모델이 대화 전체에서 맥락 인식을 유지하기 위해 보관하고 사용하는 정보Chat History: 사용자와 모델 간에 교환된 모든 메시지를 포함한 전체 대화 .. 2025. 10. 2.
Vector Databases - Spring AI Practice 개요Spring AI는 벡터 데이터베이스와의 통합을 지원하여 임베딩된 데이터를 효율적으로 저장하고 검색할 수 있는 기능을 제공합니다.본문API OverviewDocumentWriter: 벡터 데이터베이스에 문서를 쓰는 기능을 제공해야 하는 인터페이스입니다. Consumer>를 구현합니다.VectorStore: 벡터 데이터베이스와 상호작용하는 핵심 인터페이스입니다. 벡터의 저장, 검색, 삭제 등의 기능을 제공합니다. DocumentWriter를 확장합니다.add(List documents): Document 객체 리스트를 벡터 데이터베이스에 추가합니다.accept(List documents): Document 객체 리스트를 벡터 데이터베이스에 추가하는 Consumer 메서드입니다.delete(List id.. 2025. 10. 2.
Embeddings Model API - Spring AI Practice 개요Spring AI는 Embeddings Model API를 통해 다양한 AI 기반 임베딩 모델과 통합할 수 있는 기능을 제공합니다.본문EmbeddingsEmebeddings은 텍스트, 이미지, 오디오 등 다양한 데이터 유형을 부동 소수점 숫자 배열로 표현하는 기술입니다. 이러한 표현은 기계 학습 모델이 데이터를 이해하고 처리하는 데 도움이 되며 Vector라고 불립니다. Embeddings은 검색, 추천 시스템, 분류, 군집화 등 다양한 AI 및 NLP 작업에 활용됩니다.Design of the Embeddings Model APIPortability: Spring의 모듈화 및 상호 교환성 원칙을 준수하여 다양한 Embeddings 모델을 쉽게 통합할 수 있도록 설계되었습니다.Simplicity: 사.. 2025. 10. 2.
Adivisors API - Spring AI Practice 개요Spring AI Advisors API는 Spring AI에서 가로채고 수정하고 확장할 수 있는 강력한 메커니즘을 제공합니다.본문Core Components출처: https://docs.spring.io/spring-ai/reference/api/advisors.html#_core_componentsadvisorCall(), advisorStream(): Advisor의 핵심 메서드로 프롬프트를 보내기 전에 검사, 정의, 확장하고 응답을 받은 후 응답 검사, 처리 오류 처리 등을 수행합니다.getOrder(): Advisor의 실행 순서를 정의합니다. 낮은 값이 먼저 실행됩니다.getName(): Advisor의 이름을 반환합니다.Advisors Flow출처: https://docs.spring.i.. 2025. 10. 2.