I. Agent AI의 발전 배경과 사업 적용 (2/5) : LLM·Planning·Memory·Tool Use의 완전 해부
ChatGPT의 등장 이후 생성형 AI는 빠르게 발전하고 있습니다. 최근에는 단순히 질문에 답하는 수준을 넘어 스스로 계획을 세우고 여러 도구를 활용하며 목표를 수행하는 'Agent AI'가 새로운 패러다임으로 주목받고 있습니다. 이번 시리즈에서는 Agent AI가 등장하게 된 배경부터 핵심 기술, 실제 기업 적용 사례, 그리고 미래 비즈니스 변화까지 쉽게 살펴보겠습니다.
Agent AI는 어떻게 동작할까? — 생각하고, 계획하고, 실행하는 AI
두뇌: LLM의 역할 — Agent AI의 핵심인 대형 언어 모델이 어떤 역할을 하는지, 왜 LLM이 Agent의 두뇌가 될 수 있는지 설명합니다.
4가지 핵심 능력 — Planning(계획), Memory(기억), Tool Use(도구 활용), Multi-step Reasoning을 해양 산업 사례로 풀어냅니다.
Agent Workflow — 목표에서 결과까지, Agent AI가 실제로 어떤 순서로 일하는지 전체 흐름을 시각화합니다.
프롤로그
선박 엔진은 수천 개의 부품으로 이루어져 있습니다. 각 부품을 따로 보면 복잡하지만, 전체 구조를 이해하면 어떻게 배가 움직이는지 명확해집니다.
Agent AI도 마찬가지입니다. 내부 구조를 알면, 무엇을 할 수 있고 무엇을 할 수 없는지 정확히 판단할 수 있습니다. 블랙박스로 두지 말고, 엔진룸처럼 들여다봅시다.
1. LLM이란 무엇인가?
LLM(Large Language Model, 대형 언어 모델)은 수천억 개의 텍스트 데이터로 학습한 AI 모델입니다. 인터넷 문서, 책, 논문, 코드, 법률 문서 등 인류가 생산한 방대한 텍스트를 학습하여 언어의 패턴과 지식을 내재화했습니다.
단순히 텍스트를 출력하는 것을 넘어, 현대 LLM은 맥락을 이해하고, 추론하고, 다음 행동을 결정할 수 있습니다. 이 능력이 Agent AI의 '두뇌' 역할을 가능하게 합니다.
목표 이해: 사용자 지시를 이해하고 의도를 파악합니다
계획 수립: 목표를 달성하기 위한 단계를 분해합니다
도구 선택: 각 단계에 필요한 도구(검색, 계산, DB 조회 등)를 결정합니다
결과 해석: 도구 실행 결과를 해석하고 다음 행동을 결정합니다
최종 답변: 모든 과정을 종합해 사용자에게 결과를 전달합니다
2. Planning (계획) — 목표를 단계로 쪼개는 능력
Agent AI의 첫 번째 핵심 능력은 복잡한 목표를 실행 가능한 작은 단계들로 분해하는 것입니다. 이를 Task Decomposition(작업 분해)이라고 합니다.
DNV 사이버보안 최신 규정 검색 및 요구사항 추출
선박 CBS 데이터베이스 조회 → 현재 시스템 현황 파악
규정 요구사항 vs 현재 상태 Gap 분석
리스크 우선순위 산정 및 조치 계획 수립
감사 준비 보고서 작성 → 담당자에게 공유
사람이 지시한 것은 목표 하나뿐. 나머지 5단계는 Agent가 스스로 계획하고 실행.
단순히 질문에 즉답하는 것과 달리, 복잡한 목표는 계획 없이 한 번에 실행할 수 없습니다. Planning 능력이 약한 Agent는 중간에 길을 잃거나 엉뚱한 방향으로 흘러갑니다. 좋은 Agent는 처음에 충분히 생각하고, 중간에 계획을 수정하는 능력도 갖춥니다.
3. Memory (기억) — 잊지 않는 능력
1편에서 기존 LLM의 가장 큰 한계 중 하나로 '기억 없음'을 언급했습니다. Agent AI는 이 문제를 해결하기 위해 여러 종류의 메모리를 갖춥니다.
현재 진행 중인 작업의 맥락을 유지. 사람의 단기 기억과 유사. 대화가 끝나면 사라집니다.
벡터 데이터베이스나 일반 DB에 정보를 저장하고 필요할 때 검색. 회의록, 이전 분석 결과, 선박 데이터 등을 오래 기억.
LLM이 학습을 통해 내재화한 일반 지식. IACS 규정 내용, 해양 용어, 기술 개념 등이 여기 해당.
이전에 수행한 작업의 결과와 교훈을 저장. "지난번 A선박 감사에서 이런 문제가 있었다"는 정보가 다음 감사에 활용됩니다.
선박 50척의 CBS 데이터를 External Memory에 저장해두면, Agent는 "A선박의 ECDIS 패치 이력"을 즉시 조회할 수 있습니다. 5년 치 감사 결과를 Episodic Memory로 활용하면, 반복되는 문제 패턴을 스스로 발견합니다.
4. Tool Use (도구 활용) — 손발이 생기다
Agent AI가 단순 챗봇과 근본적으로 다른 이유는 외부 도구를 사용할 수 있다는 점입니다. LLM이 두뇌라면, 도구는 손발입니다. Agent는 목표를 달성하기 위해 필요한 도구를 스스로 선택하고 실행합니다.
웹 검색, 문서 검색, 규정 DB 조회, 특허 검색
엑셀/CSV 분석, 데이터베이스 쿼리, 통계 계산
이메일 발송, 슬랙 메시지, 보고서 생성
API 호출, 코드 실행, ERP 시스템 연동
PDF 읽기, Word 문서 작성, 스프레드시트 편집
AIS 조회, 선박 모니터링 시스템, 선급 포털 연동
중요한 것은 도구 자체가 아니라, 상황에 맞는 도구를 스스로 선택하는 판단력입니다. "IACS 최신 규정을 찾아야 한다" → 웹 검색 도구 사용. "선박 데이터가 필요하다" → DB 조회 도구 사용. 이 판단을 LLM이 합니다. 3편에서는 이를 가능하게 하는 MCP 기술을 설명합니다.
5. Multi-step Reasoning — 여러 단계를 연결하는 사고
Multi-step Reasoning은 Agent AI의 가장 강력한 능력입니다. 단순히 A → B가 아니라, A의 결과를 보고, B를 결정하고, B의 결과로 C를 조정하는 연쇄적·적응적 사고입니다.
[행동] 네트워크 로그 분석 도구 실행
[관찰] 외부 IP에서 포트 22로 반복 접근 시도 발견
[생각] SSH 브루트포스 공격 패턴. 해당 IP를 위협 인텔리전스 DB에서 확인해야겠다.
[행동] 위협 IP 조회 도구 실행
[관찰] 해당 IP는 알려진 악성 봇넷에 등록된 주소
[생각] 즉시 차단이 필요하고, 선급 보고도 해야 한다. 두 작업을 동시에 진행하겠다.
[행동] 방화벽 차단 규칙 적용 + 인시던트 보고서 초안 작성
이 과정을 ReAct(Reasoning + Acting) 패턴이라고 합니다. 생각(Reasoning)과 행동(Acting)을 번갈아 반복하며 점점 목표에 가까워집니다. 사람 전문가가 일하는 방식과 매우 유사합니다.
6. Agent Workflow — 전체 그림
지금까지 배운 네 가지 능력이 실제로 어떻게 조합되어 작동하는지 전체 흐름으로 봅시다.
사용자: "IACS E27 연간 감사 준비 보고서 작성해줘" → LLM이 의도 파악, 필요 정보 목록 작성
작업을 5단계로 분해, 각 단계에 필요한 도구 결정
웹 검색으로 최신 IACS E27 요구사항 수집 + DB에서 선박 CBS 현황 조회 + 과거 감사 이력 확인
수집된 정보를 바탕으로 Gap 분석, 리스크 우선순위 산정, 개선 방안 도출
보고서 자동 작성, 파일 저장, 담당자에게 이메일 발송 — 사람이 다시 클릭할 필요 없음
7. Agent AI의 현재 한계 — 솔직한 이야기
Agent AI는 강력하지만, 아직 완벽하지 않습니다. 현장에서 활용하려면 이 한계를 알고 있어야 합니다.
확인되지 않은 정보를 사실처럼 출력하는 경우가 있습니다. 특히 규정 조문 번호나 수치에서 오류가 날 수 있어, 중요 사항은 반드시 원문 확인이 필요합니다.
단순 Q&A보다 Agent 실행은 훨씬 많은 API 호출과 토큰을 소비합니다. 작업 규모에 따른 비용 계획이 필요합니다.
복잡한 상황에서 올바른 경로를 찾지 못하고 반복 행동에 빠지는 경우가 있습니다. 사람의 모니터링과 개입 시점 설계가 중요합니다.
에필로그
좋은 선장은 배의 구조를 알아야 합니다. 엔진이 어떻게 돌아가는지, 조타 시스템이 어떻게 연결되는지.
Agent AI를 현업에 도입하려면 그 내부 구조를 이해해야 합니다. LLM이 두뇌, Memory가 항해 로그, Tool이 선박 장비, Planning이 항로 계획. 이 구조를 알면 Agent AI를 어떻게 설계하고, 어디에 사람이 개입해야 하는지 판단할 수 있습니다. 다음 편에서는 이 기술들이 실제로 어떻게 구현되어 있는지, ReAct부터 MCP까지 살펴봅니다.
“해양 산업에서 우리는 오랫동안 시스템을 '구성 요소'로 이해해왔습니다. ECDIS가 무엇을 하는지, AIS가 어떻게 작동하는지. Agent AI도 같은 방식으로 접근하면 됩니다. LLM이라는 두뇌, Memory라는 항해 로그, Tool이라는 선박 장비, Planning이라는 항로 계획. 이 네 가지가 어떻게 조합되는지 이해한 사람은 Agent AI를 두려워하지 않습니다. 오히려 선박 시스템을 다루듯 자신 있게 설계하고 운용할 수 있습니다.”
블랙박스가 아닙니다. 엔진룸처럼 열어보면 이해할 수 있는 시스템입니다.
Agent AI 기술은 어디까지 발전했을까? — Single에서 Multi-Agent 시스템까지
ReAct, Tool Calling, MCP(Model Context Protocol), AutoGPT, CrewAI, LangGraph, Multi-Agent 구조, AI 운영체계(Agent OS)까지 — 기술 발전의 최전선을 한눈에 정리합니다.
데이터, AI, 사이버보안을 해양 산업과 연결하는 혁신 리더. 해양 종사자 누구나 AI를 이해하고 활용할 수 있도록 쉽게 씁니다.
LinkedIn ↗
Comments
Post a Comment