울트라레드의 제품 책임자인 Romy Haik가, 최근 인공지능(AI)에게 최고 관리자 권한과 모든 해킹 도구를 부여하고 자율적인 모의 해킹을 시도한 실험이 실패로 돌아간 내용을 공개하였습니다.
이 프로젝트는 AI가 복잡한 보안 업무를 스스로 해결할 수 있는지 알아보기 위해 진행되었습니다. 그러나 AI는 의도적으로 취약하게 만들어진 환경에서 조차 인간 해커나 기존 자동화 스캐너보다 훨씬 낮은 성능을 보였습니다.
개발자는 AI가 방대한 데이터를 바탕으로 계획을 수립하는 능력은 뛰어나지만, 창의적인 문제 해결 능력과 직관적인 판단력이 부족해 복잡한 상황에 유연하게 대처하지 못했다고 분석했습니다.
울트라레드는 이번 연구를 통해 AI 기반 보안 기술의 가능성과 한계를 동시에 조명하며, 앞으로의 혁신적 접근을 모색하고 있습니다.
자세한 내용은 링크를 확인해보세요.