AI/LLM 2

[LLM] Function Calling과 Agent의 차이

1. Function Calling (함수 호출) : ‘무엇을 할지 알려주는 능력’Function Calling은 LLM 모델 자체의 내장 기능이다.LLM이 사용자의 요청을 이해하고, 해당 작업을 수행하기 위해 어떤 함수(도구)를 어떤 인자(argument)로 호출해야 하는지 구조화된 데이터(주로 JSON)로 요청하는 능력이다.핵심 특징:모델의 능력Langchain 같은 프레임워크 등의 기능이 아닌, Gemini나 GPT-4, Cluade 처럼 LLM 모델 자체가 가진 고유 능력이다.실행은 안함LLM은 직접 함수를 실행하지 않는다. 어떤 함수를 어떤 값으로 실행해야 할지 전달해줄 뿐이고, 실제 실행은 어플리케이션이 담당한다.단일 작업일반적으로 한 번의 요청에 대한 한 번의 함수 호출을 제안한다.출력물최종..

AI/LLM 2025.06.26

[RAG] RAG(검색 증강 생성)란?

RAG(검색 증강 생성)는 기존 LLM의 한계를 기존 LLM의 한계를 극복하고자 고안된 기술로, LLM이 학습하지 못한 데이터 뭉치를 손에 쥐어주고, 사용자의 질문이 들어왔을 때 이를 오픈북처럼 활용할 수 있게 만들어주는 기술임. 더보기ex)A회사의 직원이 LLM에게 A회사의 프로젝트 일정에 대해 질문하는 상황. 기존 LLM :사전 학습된 데이터만 가지고 있어서 답변하지 못함(검색 엔진을 활용할 수 있어도 'A회사의 프로젝트 일정'은 공공연한 정보가 아니기에 결과는 동일함.) RAG 체인으로 호출된 LLM :'A회사의 프로젝트 일정'이 포함된 문서를 전달 받았기에, 사용자의 질문이 들어오면 해당 정보가 포함된 문서를 읽고 그에 맞는 답변을 출력함. Embedding이란, 우리가 사용하는 자연어를 컴퓨터가..

AI/LLM 2025.06.13