메타 AI, 오픈소스 보안 프레임워크 'LlamaFirewall'을 공개

 

메타 AI는 AI 에이전트의 보안 위협에 대응하기 위해 오픈소스 보안 프레임워크 'LlamaFirewall'을 공개하였습니다. 이 도구는 프롬프트 인젝션, 에이전트 오작동, 불안전한 코드 생성을 방지하는 3중 보안 체계를 제공하며, 실제 테스트에서 공격 성공률을 최대 90%까지 낮추는 성과를 보였음. 앞으로 멀티모달 지원 등 기능 확장이 예고하였습니다.

 

[주요 논점]

1. LlamaFirewall은 프롬프트 인젝션, 에이전트 목표 불일치, 불안전 코드 생성을 막기 위한 3가지 보안 레이어(PromptGuard 2, AlignmentCheck, CodeShield)로 구성.

 

2. PromptGuard 2는 실시간 다국어 프롬프트 공격 탐지, AlignmentCheck는 에이전트의 내부 추론을 분석해 목표 일치 여부를 점검, CodeShield는 코드 취약점 정적 분석을 담당.

 

3. 실제 벤치마크(AgentDojo)에서 공격 성공률을 17.6%→1.75%로 낮추는 등 높은 보안 효과를 입증. 향후 멀티모달(이미지·음성) 지원, 효율성 개선, 위협 범위 확장 등이 추진될 예정.

 

소스코드 :

https://github.com/meta-llama/PurpleLlama/tree/main/LlamaFirewall

 

관련자료 :

 

LlamaFirewall.pdf

1.17MB