블로그

에이전트 AI 안전성: 자율 의사결정 체인에서의 제약 전파

에이전트 AI가 도구 호출·외부 API·장기 계획을 자율 실행하는 범위가 2024-2026년 급격히 확장되면서, EU AI Act(2024년 발효, 고위험 조항 2026년 8월 단계 적용)와 NIST AI RMF는 인간 감독·로깅·제약 준수를 의무화하고 있다. 그러나