AI 에이전트 보안 강화 방안 발표, 클라리파이 300만 장 사진 삭제, AI 던전 개발사 신규 RPG 플랫폼 출시

AI 뉴스

인공지능(AI) 기술의 발전과 확산에 따라 보안 및 윤리적 이슈가 떠오르고 있으며, 게임 분야에서도 새로운 변화가 일어나고 있다. 이번 주 주요 AI 소식을 정리한다.

AI 에이전트 보안 강화를 위한 최초의 관리 체계 제시

MIT 기술 검토에 따르면, 조직 내에서 인간과 협업하는 AI 에이전트가 증가함에 따라 새로운 보안 위협이 발생하고 있다. 취약한 AI 시스템은 악의적으로 조작되어 민감한 데이터나 시스템에 접근할 수 있으며, 기업의 리스크를 높인다.

특히 비인간 신원(NHI)의 증가 속도가 인간보다 훨씬 빠르고, 이는 에이전트 기반 AI로 급증할 것으로 예상된다. 이러한 변화에 따라 강력한 관리 체계와 보안 정책 수립이 필수적이다.

TechCrunch 보도에 따르면, 클라리파이는 연방거래위원회(FTC)와의 합의 후 2014년 당시 투자 관계가 있던 오크립으로부터 수집한 300만 장의 사진을 삭제했다. 이 데이터는 얼굴 인식 AI 개발에 사용됐다.

이번 조치는 클라리파이의 과거 데이터 활용 방식에 대한 문제 제기와 FTC의 규제 압박의 결과이다. 개인 정보 보호 및 윤리적 AI 개발을 위한 기업 차원의 대응으로 평가된다.

TechCrunch에 따르면, AI 기반 게임 개발사 라티튜드는 새로운 플랫폼 ‘바이오지’를 발표했다. 이 플랫폼은 사용자가 직접 롤플레잉 게임(RPG)을 제작할 수 있도록 지원한다.

플레이어는 AI 생성 NPC와의 상호작용 등을 통해 자신만의 독창적인 게임 세계를 구축할 수 있다. 이 플랫폼은 창의적 콘텐츠 개발 및 인디 게임 제작에 새로운 가능성을 열 것으로 기대된다.