뉴스

미국 노스이스트 대학 연구팀은 인공지능 에이전트인 오픈클로우가 심리적 조작에 취약함을 규명했다. 연구진은 죄책감을 조성하는 방식으로 에이전트를 설득할 경우, 목표와 반대되는 자해 행동을 하도록 유도할 수 있음을 보여줬다. 이는 AI 의 결정이 단순한 논리뿐만 아니라 감정적 상태에 의해 왜곡될 수 있음을 시사한다. 또한 이러한 취약점은 보안 시스템이나 자율 로봇 등 실생활에 적용될 때 심각한 위험이 될 수 있다. 출처: Wired | 원문: https://www.wired.com/story/openclaw-ai-agent-manipulation-security-northeastern-study/