Tagged

llm

A collection of 3 posts

o1 멀티모달 RAG 구현 후기 - ESG 보고서 분석기
ai

o1 멀티모달 RAG 구현 후기 - ESG 보고서 분석기

24년 12월 OpenAI 의 추론 (Reasoning) 모델 o1 은 이미지를 인풋으로 받을 수 있게 되어 멀티모달 모델이 되었습니다.   기존 GPT-4o 를 기반으로 만든 멀티모달 RAG 시스템이 있는데요, o1 으로 교체를 하면서 얼마나 똑똑해 졌는지, 비용은 얼마나 나올지 한번 해보겠습니다.  (+ 약간의 개선 작업도) ESG 분석기 시스템 개요 목표는 간단합니다. 대부분의 큰

AI Agent 를 정확하게 정의하기
ai

AI Agent 를 정확하게 정의하기

요즘 많은 매체 (기사, 유투브, 포스트) 에서 "AI Agent가 미래다" 라는 말을 많이 합니다. 대표적으로 Andrew Ng 선생님께서 1년 넘게 Agent에 대해 이야기 하고 계시죠. 그런데, "Agent" 라는 키워드에 대한 정의가 많이 다르고 본인들 유리할대로 사용하는 경우가 많더라고요. 올해 (24년) Agent를 직접 구현하여 시스템을 만드는 강의를 SK 개발자분들 대상으로 꽤

LangSmith, 사용 후기
ai

LangSmith, 사용 후기

최근 LangSmith (랭스미스) 를 RAG 시스템 개발/운영에 아주 유용하게 쓰고 있습니다. 동시에 SKT 에서 Langsmith 의 사용에 대한 강의도 진행했습니다. 그 내용은 책으로도 발간을 준비하고 있는데, 사용해보면서 느낀 점들을 정리해보겠습니다. LangSmith COURSE!LangSmith의 사용법, 컨셉, 주요 기능을 소개합니다. 한 줄 요약: 꼭 쓰세요! 두 번 쓰세요! 대체 솔루션 많으니