AI Security Primer: Red Team Perspectives on Navigating New Threats and Safeguarding the AI Frontier
김동관삼성SDS 통합보안센터Advanced Penetration Testing Group 프로삼성 전 관계사 제품 및 서비스의 보안 위협을 사전 차단하는 Red Team 업무를 수행하고 있습니다. 최근에는 AI 서비스의 보안 아키텍처와 스마트폰의 보안 솔루션에 대해 포괄적으로 연구 중입니다. 또한, 패치갭 단축, 소프트웨어 공급망 이슈 등 전반적인 DevSecOps 프로세스 개선에도 관심이 많습니다.
이 발표에서는 생성적 인공지능(Generative AI, GenAI) 기술 도입으로 인해 나타나는 다양한 보안 이슈와 위협, 그리고 이에 대한 대응 전략을 소개합니다. 사내 Red Team의 점검 경험을 바탕으로 가상의 시나리오를 기반으로 한 사례 연구를 통해, OpenAI의 ChatGPT, 구글의 Gemini와 같은 GenAI 서비스에서 나타날 수 있는 보안 위협들을 소개하고, 참석자들이 실제 상황에 적용할 수 있는 보안 지식을 습득할 기회를 제공합니다. 데이터 유출 및 프라이버시 이슈, 프롬프트 인젝션 등 AI 서비스에 특화된 새로운 취약점, AI 서비스에 대한 Red Team의 의미 및 동향, AI Safety의 기준 및 공격 대응을 위한 전략, AI Supply Chain 이슈, 구글의 AI 서비스 버그바운티 사례 등을 소개합니다. 마지막으로 GenAI 기술 도입으로 인해 나타나는 새로운 사회적 이슈에 대해서 소개합니다.
이 발표는 해결책을 제시하기보다는 최신 AI 보안 이슈와 트렌드에 대한 점검자의 경험과 시각을 공유함으로써, 참석자들에게 AI 서비스 보안에 대해 재고하는 기회를 제공하며, 참석자들이 잠재적 보안 위협에 대비하고 보다 견고한 보안 체계를 구축하기 위해 필요한 지식을 얻을 수 있도록 안내합니다.
