[이슈 리포트][AI EXPO KOREA 2025] (연재) 차세대 제조산업 AI를 위한 LLM, RAG, MCP 기술 - 1부

(연재)[AI EXPO KOREA 2025] 차세대 제조산업 AI를 위한 LLM, RAG, MCP 기술 - 1부


[티엠넘버스 = 김창규] brainy78@tmnumbers.com


(서론) 제조업을 재편하는 새로운 AI의 지평 (LLM, RAG, MCP)


2025년 5월 14일, 인공지능(AI) 산업의 현재와 미래를 조망하는 ‘AI EXPO KOREA 2025(국제인공지능대전)’이 삼성동 코엑스(COEX)에서 개최되었습니다. 본 이슈리포트는 해당 행사에서 진행된 전시회 및 세미나를 참석한 내용을 바탕으로, 티엠넘버스에서 그동안 진행해온 연구를 토대로 작성되었습니다.



대규모 언어 모델(LLM), 검색 증강 생성(RAG), 그리고 새롭게 주목받고 있는 모델 컨텍스트 프로토콜(MCP)이 만나면서 제조업 전반에 근본적인 변화를 일으키고 있습니다. 이는 단순한 기술 개선 차원을 넘어서, 더욱 지능적이고 자율적이며 통합된 제조 생태계로의 패러다임 전환을 의미합니다.

 

AI EXPO KOREA 2025에서 확인된 AI 추세 변화

이번 AI EXPO에서는 스마트 팩토리에서의 LLM 활용, 소형 LLM(sLLM) 적용, 생성형 AI와 RAG 솔루션 도입 등 첨단 AI 기술에 대한 뜨거운 관심을 확인할 수 있었습니다. 특히 3세대 AI 전환(AX)은 LLM을 중심으로 한 업무 자동화를 특징으로 하고 있습니다.

  

개별 기술을 넘어선 시너지의 힘

이러한 기술들의 진정한 가치는 각각을 따로 사용하는 것이 아니라 함께 활용할 때 나타나는 시너지 효과에 있습니다. 

LLM은 핵심적인 지능을 제공합니다. 복잡한 언어를 이해하고 생성하는 능력으로 제조 현장의 다양한 상황을 파악하고 대응할 수 있는 기반을 마련합니다.

RAG는 이러한 지능을 실제 제조 현장의 고유한 데이터와 연결시킵니다. LLM 혼자서는 부정확한 정보를 만들어내거나 특정 분야의 전문 지식이 부족할 수 있는데, RAG가 관련 데이터를 찾아서 이런 한계를 보완해줍니다.

MCP(Model Context Protocol)는 LLM과 RAG를 제조 현장의 다양한 시스템과 연결하는 표준화된 통신 프로토콜로, 실시간 데이터 통합과 처리를 가능하게 합니다. 이를 통해 제조업체들은 개별 AI 도구들이 아닌 완전히 연결된 지능형 제조 생태계를 구축할 수 있게 되었습니다.

 


(핵심 기술 소개) LLM, RAG 및 MCP


대규모 언어 모델(LLM): 지능형 자동화와 의사 결정 지원의 핵심 동력

LLM은 엄청난 양의 데이터로 미리 학습된 거대한 딥러닝 모델입니다. 인간의 언어를 이해하고 생성하며 다룰 수 있어서 질의응답, 요약, 코드 생성, 콘텐츠 제작 등 다양한 작업을 수행할 수 있습니다. 가장 큰 특징은 하나의 모델로 여러 가지 다른 업무를 처리할 수 있는 뛰어난 유연성입니다.


 제조업 분야에서 LLM의 가져올 여러 방면으로의 혁신

(설계 생산성 향상) 복잡한 설계 문서 작성이나 기술 사양 정리 등의 업무를 자동화하여 엔지니어들이 더 창의적인 작업에 집중할 수 있게 해줍니다.

(실시간 문제 해결과 지식 공유) 현장에서 발생하는 문제에 대해 즉시 해결책을 제시하고, 축적된 경험과 노하우를 조직 전체에 효과적으로 공유할 수 있습니다.

(생산 최적화) 생산 데이터를 분석하여 효율성을 높이고 낭비를 줄이는 방안을 제안할 수 있습니다.

(결함 예측) 과거 데이터 패턴을 바탕으로 잠재적인 품질 문제를 미리 파악하여 예방 조치를 취할 수 있게 해줍니다.

(수요 예측 개선) 시장 동향과 과거 판매 데이터를 종합적으로 분석하여 더 정확한 수요 예측을 제공합니다.


LLM을 실제 공장 데이터와 연결하는 핵심 기술인 검색 증강 생성(RAG)

RAG는 LLM이 답변을 생성하기 전에 외부의 지식 기반, 특히 기업의 독점적인 데이터베이스에서 관련 정보를 먼저 찾아보도록 하는 프레임워크입니다. 이를 통해 LLM을 처음부터 다시 학습시키지 않고도 최신이고 정확한 데이터에 기반한 답변을 얻을 수 있습니다. 쉽게 말해 정보 검색의 정확성과 생성형 AI의 자연스러운 표현력을 결합한 기술이라고 할 수 있습니다.


제조업에서 RAG가 중요한 이유

제조업에서 RAG는 LLM을 실용적으로 활용할 수 있게 해주는 핵심 기술입니다. LLM이 다음과 같은 기업 내부의 특수한 데이터들에 접근하고 활용할 수 있도록 해주기 때문입니다:

1) 기술 매뉴얼과 표준 운영 절차(SOP)

2) 품질 관리 데이터

3) 유지보수 기록과 로그

4) 실시간 센서 정보

이런 내부 데이터와 연결된 LLM은 문제 해결, 장비 진단, 운영 의사 결정 등의 업무에서 훨씬 정확하고 상황에 맞는 신뢰할 수 있는 AI 지원을 제공할 수 있습니다.


AI EXPO KOREA 2025에서는 여러 기업들이 RAG 기술에 대한 실질적인 접근 방법을 제시

(아이크래프트의 전략적 접근) "AI 신기술 홍수의 시대, 경쟁력을 갖춘 Agentic AI, RAG를 위한 방법은?"라는 발표에서 데이터 파이프라인과 애플리케이션 간의 의존성 문제를 중요하게 다뤘습니다. 이는 RAG 도입 시 반드시 고려해야 할 핵심 요소들입니다.

(베슬에이아이의 기술적 구현) LLMOps 플랫폼의 에이전트 계층에 RAG를 포함시켜 LLM에 필요한 문서들을 효과적으로 주입할 수 있는 방법을 제시했습니다.

(S2W의 실무 관점) "기업 내 생성형 AI 및 RAG 솔루션 도입 시 고려할 점"을 주제로 한 세미나에서 실제 도입 과정에서 겪을 수 있는 현실적인 문제들과 해결 방안을 논의했습니다.

(AI3의 최적화 방법) 내부 챗봇용 RAG 구축에 초점을 맞춰 더 나은 성능을 위한 데이터 준비 방법(예: 마크다운 변환)과 주제별로 구조화된 챗봇 설계 방안을 강조했습니다.


AI 통합과 고급 도구 활용의 게임 체인저인 모델 컨텍스트 프로토콜(MCP)

MCP는 앤트로픽이 개발한 개방형 표준으로, LLM과 AI 에이전트가 외부 도구, 데이터 소스, 그리고 다양한 시스템과 안전하고 안정적으로 연결될 수 있도록 돕는 기술입니다. 쉽게 말해 AI를 위한 "만능 어댑터"나 "USB 포트" 같은 역할을 하며, 복잡한 시스템 통합을 간단하게 만들어줍니다. MCP는 호스트, 클라이언트, 서버라는 세 가지 핵심 구성 요소로 이루어져 있습니다.

AI EXPO KOREA 2025에서 라온피플이 발표한 "LLM에서 MCP까지의 기술적 진화" 세미나는 이런 기술 발전의 의미를 잘 보여줍니다. LLM이 정보를 이해하고 생성하고, RAG가 특정 지식을 보강하는 역할을 한다면, MCP는 한 단계 더 나아가 LLM이 다른 소프트웨어나 하드웨어 시스템과 실제로 상호작용하고 행동할 수 있게 해주는 핵심 기술입니다.

MCP는 스마트 제조 환경에서 특히 혁신적인 변화를 가져올 것으로 예상됩니다. AI 에이전트가 할 수 있는 일들을 살펴보면 다음과 같습니다.

(예측 정비와 자동 대응) AI 에이전트가 MCP 서버를 통해 IoT 센서 데이터에 접근해 기계 고장을 미리 예측하고, 다른 MCP 연결을 활용해 ERP 시스템을 통해 자동으로 부품을 주문하고 정비 일정을 잡을 수 있습니다.

(통합된 시스템 관리) 제조 실행 시스템(MES), 제품 수명 주기 관리(PLM) 도구, 공급망 플랫폼 등 다양한 시스템들과 연결되어 더욱 전체적이고 자동화된 공정 제어가 가능해집니다.

(에이전트 간 협업) 복잡한 제조 워크플로우에서 각각 다른 전문 분야를 담당하는 여러 AI 에이전트들이 서로 협력할 수 있게 됩니다.

MCP와 통합 네임스페이스(UNS)를 함께 사용하면 표준화된 데이터 접근과 중앙 집중식 데이터 관리가 가능해져, 더욱 스마트한 산업용 AI 솔루션을 만들 수 있습니다.

MCP의 가장 큰 의미는 AI의 분석 능력(LLM/RAG)과 공장의 실제 운영 환경 사이의 간격을 메워준다는 점입니다. 이는 단순히 정보를 제공하는 AI에서 실제로 행동하고 조정하는 AI로 나아가는 핵심 기술입니다.

제조업에는 기계, 소프트웨어, 사람 간의 복잡한 상호작용이 필요합니다. 기존의 LLM과 RAG는 훌륭한 통찰력이나 지침을 제공할 수 있지만, 실제 공장 시스템에서 이런 지침을 실행하려면 여전히 사람의 개입이 필요했습니다. 하지만 MCP를 활용하면 AI 에이전트가 직접 API를 호출하고, 데이터베이스를 조회하며, 안전한 범위 내에서 장비를 제어할 수 있어 훨씬 높은 수준의 자동화와 빠른 대응이 가능해집니다.


확장성 문제의 해결책인 RAG-MCP

RAG-MCP 같은 프레임워크의 등장은 자연스럽고도 강력한 발전입니다. LLM이 수많은 도구에 접근할 때 발생하는 "프롬프트 과부하" 문제를 해결해주기 때문입니다.

더 많은 제조 시스템이 MCP를 지원하게 되면, AI 에이전트는 수백 개의 도구에 접근할 수 있게 됩니다. RAG-MCP는 가장 관련성 높은 도구들을 미리 걸러내고 추천해줌으로써 LLM의 작업을 쉽게 만들고 정확성과 효율성을 크게 향상시킵니다. 이는 다양한 제조 환경에서 AI 에이전트를 확장 가능하게 배포하는 데 매우 중요한 기능입니다.


MCP의 전망과 과제

MCP의 확산은 제조 시스템들이 기능을 외부에 제공하는 방식의 표준화를 촉진할 것입니다. 이는 더욱 개방적이고 상호 운용 가능한 스마트 팩토리 아키텍처로 이어질 가능성이 높습니다. 다만 MCP를 통해 AI 에이전트의 권한이 확대되는 만큼, 강력한 신원 확인 및 접근 권한 관리가 그 어느 때보다 중요해질 것입니다.

AI EXPO KOREA 2025의 라온피플 세미나가 이 분야의 핵심 동향을 다루고 있다는 점에서, 국내에서도 이런 기술 발전에 대한 관심과 준비가 필요한 시점입니다.

MCP는 이렇게 통합된 지능이 실제 운영 시스템들과 상호작용할 수 있도록 해줍니다. ERP, MES, SCADA 등 서로 다른 시스템들이 하나의 통합된 AI 플랫폼을 통해 협력할 수 있게 됩니다.


포괄적 관점의 중요성

이러한 상호 연결성은 기존의 데이터와 프로세스 사일로를 허물어뜨려 최적화와 자동화에 대한 훨씬 포괄적 접근을 가능하게 합니다.

예를 들어, 설계 단계에서 생산성과 품질을 동시에 고려한 최적화가 가능해지고, 생산 중 발생하는 문제를 실시간으로 감지해 즉시 대응하며, 이런 경험들이 다시 설계 개선에 반영되는 선순환 구조를 만들 수 있습니다.


<표. 제조 가치 사슬 내 LLM, RAG, MCP 시너지 기반 AI 에이전트 활용 전략>

가치 사슬 단계

LLM 적용

RAG 강화 적용

MCP 기반 AI 에이전트 적용

스마트 설계 및 엔지니어링

설계 사양, 재료 특성, 시뮬레이션 결과, 특허 데이터베이스에 대한 빠른 액세스 지원. 자동화 스크립트용 초기 설계 초안 또는 코드 생성.

기존 설계 라이브러리 및 엔지니어링 표준을 참조하여 설계 제안 최적화.

CAD/CAM 소프트웨어, 시뮬레이션 도구, PLM 시스템과 상호 작용하여 설계 검증 자동화, 최적화 제안 또는 설계 변경 관리. 신소재 분자 설계 지원.

지능형 생산 및 품질 보증

SOP를 참조하여 복잡한 조립 작업에 대한 실시간 지침 제공. 품질 관리 보고서 분석을 통해 추세 파악 및 시정 조치 제안. AI 기반 품질 관리는 제조 비용을 최대 20%까지 절감 가능. 컴퓨터 비전을 이용한 결함 감지.

특정 제품의 품질 표준 및 과거 결함 데이터를 기반으로 운영자에게 맞춤형 지침 제공.

IoT 센서를 통해 생산 라인 모니터링, 실시간으로 기계 매개변수 조정, 품질 관리 시스템에 이상 징후 플래그 지정, MES에서 재작업 주문 시작.

예측 유지보수 및 운영 우수성

유지보수 로그 및 센서 데이터를 분석하여 장비 고장 예측 정확도 향상. 기술 매뉴얼을 쿼리하여 기술자에게 단계별 수리 지침 제공.

특정 장비 모델의 과거 고장 이력 및 해결책을 참조하여 보다 정확한 진단 및 수리 절차 제안.

장비 상태 지속적 모니터링, 고장 예측, CMMS/ERP 시스템에서 자동으로 유지보수 작업 주문 생성, 예비 부품 주문, 기술자 일정 예약.

탄력적인 공급망 및 물류

시장 동향, 뉴스, 과거 데이터를 분석하여 수요 예측 강화. 배송 문서 및 공급업체 커뮤니케이션을 처리하여 물류 최적화.

실시간 재고 수준 및 공급업체 가용성 데이터를 통합하여 보다 정확한 수요 예측 및 주문 관리.

실시간으로 공급망 중단 모니터링, 통합 플랫폼을 통해 공급업체와 통신, ERP 시스템에서 재고 수준 조정, 자동으로 배송 경로 재설정. 아이크래프트는 물류 주문 처리를 위한 생성형 AI 언급.

향상된 인간-기계 협업 및 지식 관리

복잡한 기계 및 소프트웨어를 위한 직관적인 자연어 인터페이스 생성. 프로세스, 안전 절차, 문제 해결에 대한 정보를 직원이 쿼리할 수 있는 포괄적인 내부 지식 기반(예: RAG 기반 챗봇) 개발[그림 2].

회사별 용어 및 절차에 대한 이해를 바탕으로 직원 문의에 더욱 정확하고 관련성 높은 답변 제공.

작업자를 위한 지능형 비서 역할, 정보 검색, 음성 또는 텍스트 명령을 통해 장비 제어, 사용자를 대신하여 다양한 기업 애플리케이션과 상호 작용하여 워크플로우 간소화.


 

RAG 기반 챗봇 및 데이터 분석 활용 사례 - 'AI Qurator' 솔루션 (자료 : 아이크래프트 발표자료)


제조업체를 위한 전략적 시사점

따라서 제조업체들이 AI 도입 전략을 수립할 때는 단순히 개별 부서의 문제를 해결하는 것을 넘어서야 합니다. 이 세 기술이 운영의 서로 다른 부분들을 어떻게 통합하여 복합적인 이익을 창출할 수 있는지에 대한 전체적인 관점을 가져야 합니다.

이는 AI가 단순한 효율성 도구가 아닌, 제조업 운영 방식 자체를 근본적으로 재구성할 수 있는 변혁적 기술임을 의미합니다. 성공적인 AI 도입을 위해서는 기술적 역량뿐만 아니라 조직 전체의 통합적 사고와 접근이 필요합니다.


*본 연재는 총 3부에 걸쳐 작성될 예정입니다. 전체 보고서를 희망하실 경우 티엠넘버스 대표 이메일(contact@tmnumbers.com)이나, 작성자(김창규, brainy78@tmnumbers.com)에게 문의 바랍니다.


(연재)[AI EXPO KOREA 2025] 차세대 제조산업 AI를 위한 LLM, RAG, MCP 기술 - 2부 보러가기


(연재)[AI EXPO KOREA 2025] 차세대 제조산업 AI를 위한 LLM, RAG, MCP 기술 - 3부 보러가기


#AIEXPO2025 #대규모언어모델 #LLM #RAG #MCP #제조업AI #스마트팩토리 #AI제조혁신 #생성형AI #AgenticAI #예측정비 #AI챗봇 #AI통합플랫폼 #산업AI #AI기술세미나 #AI기반품질관리 #AI기반설계 #AI기반수요예측 #AI공급망최적화 #RAG기반챗봇