- 금융보안원 AI RED팀은 생성형 AI를 반복적 우회 질문과 역할 변경으로 공격해 취약점을 찾고, 실제 공격 시나리오에 맞춰 보안 검증을 고도화하고 있다.
- AI가 개인정보 유출·내부 지침 노출·미승인 정보 접근 등으로 이어질 수 있어, AI 바깥의 접근 통제·권한 분리·출력 검증을 겹겹이 두는 다층 방어가 필요하다고 강조한다.
- 금융보안원은 AI RED팀과 기존 해커팀 RED IRIS의 협업을 강화해 AI for Security와 Security for AI를 함께 발전시키며, 개발 단계부터 보안을 내재화하자고 제안한다.