최근 기존 웹 환경에 LLM(Large Language Model)을 통합하는 사례가 급증하며, 이러한 기술은 웹 애플리케이션의 기능성과 사용자 경험을 혁신적으로 개선하고 있습니다. LLM의 한계점을 극복하기 위해 등장한 RAG(Retrieval-Augmented Generation)와 같은 기술은 LLM의 성능을 높일 수 있지만, 동시에 새로운 Attack surface를 형성합니다. 본 발표에서는 LLM과 RAG 시스템의 기본적인 작동 흐름을 설명하며, 이들이 통합된 환경에서 발생할 수 있는 잠재적인 보안 위협을 사례 중심으로 분석합니다. 특히, 기존 웹에서 발생하던 SQL Injection, Remote Code Execution(RCE)과 같은 일반적인 취약점들이 LLM 통합 환경에서 어떻게 변형되고 확장될 수 있는지 살펴볼 예정입니다. 이를 위해 공개된 다양한 CVE 및 각종 보고서, 1-Day case를 통해 실제 발생했던 문제들을 공유하며, LLM 관련 프로젝트들을 대상으로 한 취약점 탐지 시도와 그 과정에서 사용한 방법론을 상세히 소개할 예정입니다. 발표의 마지막에는 취약점 탐지 결과와 그 분석을 바탕으로, LLM 통합 환경에서의 보안 위협을 효과적으로 완화할 수 있는 전략과 가이드라인 등을 제시합니다.