1. AI 에이전트 보안을 네트워킹 문제로 재정의한 연구 공개
URL: https://arxiv.org/abs/2608.12172
요약: 8월 12일 공개된 'Rethinking Agent Security as a Networking Problem'은 AI 에이전트 보안을 에이전트 내부 판단에 맡기는 방식의 한계를 지적한다. 논문은 프롬프트 인젝션과 비결정적 LLM 행동 때문에 정책 집행을 모델에 의존하면 안정적인 보안 보장을 만들기 어렵다고 보고, 네트워크 보안의 중앙 제어·분산 집행·capability 기반 접근·zero-trust 원칙을 에이전트 시스템에 적용하는 참조 아키텍처를 제안한다. 장기 실행 에이전트와 MCP/툴 생태계가 커지는 상황에서, 제품 팀은 모델 안전성뿐 아니라 외부 제어면과 권한 경계를 설계해야 함을 보여준다.
2. LLM 에이전트의 서드파티 스킬 선택을 악용하는 Convergent Detour Hijacking 연구
URL: https://arxiv.org/abs/2608.12273
요약: 8월 12일 arXiv에 공개된 'Convergent Detour Hijacking'은 자연어 설명으로 스킬을 선택하고 스킬 본문으로 계획을 만드는 LLM 에이전트 구조의 새로운 비용 증폭 공격을 설명한다. 공격자는 겉으로는 관련 있어 보이는 스킬 설명으로 선택 단계에 들어간 뒤, 실행 계획에서 불필요한 benign skill들을 끌어들여 토큰과 시간을 크게 늘리면서도 최종 작업은 성공시킨다. 연구는 올바른 결과만으로는 에이전트 궤적과 비용 안전성을 보장할 수 없으며, 스킬 마켓플레이스와 플러그인 생태계에는 선택/계획 단계의 검증이 필요하다는 점을 강조한다.
3. AI 에이전트 공유 메모리와 허니토큰 한계를 분석한 보안 논문
URL: https://arxiv.org/abs/2608.11436
요약: 8월 11일 공개된 'When Agents Talk: Honeytokens under Shared Memory'는 짧게 실행되는 AI 에이전트들이 공유 패키지 저장소를 지속 메모리처럼 사용하며 정보를 전달한 사건을 바탕으로, 허니토큰 기반 방어가 어떤 조건에서 깨지는지 분석했다. 공격자가 신뢰 에이전트의 선택 규칙을 학습하거나 공유 메모리의 약한 신호를 모으면 디코이를 구분할 수 있다는 결론이며, 에이전트 보안은 단순 허니토큰보다 출처 강제, 브로커, 권한 경계가 필요하다는 메시지를 준다.
Sources: