오픈AI 아동안전 청사진 발표, 가천대 AI 연구 인력 강화, IBM HuggingFace 직무 학습 기술 공개, 머스타파 수레이만 AI 발전 경로 설명, 데이터브릭스 공동창립자 AGI 존재 주장

AI 뉴스

최근 인공지능(AI) 분야에서 아동 보호 방안 마련, 연구 체계 개선, 학습 기술 진화, 미래 전망, 그리고 강력한 AI 시스템의 가능성을 다루는 다양한 소식들이 발표되고 있다.

오픈AI, 아동 성착취 대응을 위한 안전 청사진 발표

OpenAI는 급증하는 아동 성착취 문제에 대응하기 위해 새로운 Child Safety Blueprint(아동안전 청사진)를 발표했다. 이 청사진은 AI 기술 발전으로 인해 악용될 수 있는 위험성을 줄이기 위한 구체적인 방안을 담고 있다.

최근 AI 생성 콘텐츠 기술의 발달로 아동 관련 부정적 콘텐츠가 증가하는 문제에 대해 OpenAI는 보다 철저한 대응 필요성을 강조하고, 해당 안전 가이드라인을 통해 다양한 이해관계자와 협력할 계획이다.

이번 발표는 AI 기술의 긍정적 활용과 동시에 사회적 책임을 강화하려는 OpenAI의 의지를 반영한다. 아동 보호를 위한 체계적인 접근법은 향후 다른 기업들이 모범으로 삼을 수 있는 전략이 될 것으로 기대된다.

경기 가천대학교는 인공지능(AI)과 인공지능 전환(AX) 분야의 교육 및 연구 역량을 높이기 위해 세계적 수준의 연구자와 산업 현장 출신 전문가들을 잇따라 영입하고 있다.

학교는 지난해 9월 고려대학교 이원준 교수를 AI·컴퓨팅연구 분야에 영입했으며, 최근에는 신임 교수 3명을 추가로 확보하며 체계적인 연구 인프라 구축에 박차를 가하고 있다.

이번 인력 확충은 글로벌 기술 트렌드에 부응하면서도 국내 AI 교육과 연구의 경쟁력을 높일 수 있는 중요한 전환점으로 평가된다. 다양한 분야에서 경험을 쌓은 전문가들의 참여는 학내 연구와 산업 연계 혁신에도 긍정적인 영향을 미칠 것으로 보인다.

HuggingFace는 IBM 연구팀과 공동으로 ALTK-Evolve라는 새로운 기술을 소개하며 AI 에이전트가 실제 업무 환경에서 효과적으로 학습할 수 있는 방안을 제시했다.

이 기술은 AI가 단순히 데이터를 학습하는 것을 넘어, 직무 수행 과정에서 발생하는 다양한 상황에 적응하며 스스로 개선하도록 돕는다. 이는 실제 업무 환경에서 AI의 활용도를 높이는 데 큰 도움이 될 수 있다.

ALTK-Evolve는 기업과 연구소가 AI 시스템을 보다 유연하고 실용적으로 운용할 수 있도록 지원하는 핵심 기술로 주목받고 있으며, 지속적인 업데이트를 통해 다양한 산업 분야에서 활용될 전망이다.

DeepMind 공동창립자인 머스타파 수레이만(Mustafa Suleyman)은 AI의 발전이 곧 정체될 것이 아니라 지속적으로 확장될 것이라고 강조했다.

그는 인간의 직관이 선형적 세계에 적응되어 있지만, AI는 지수적인 성장 패턴을 따르기 때문에 예측할 수 없는 속도로 진화하고 있다고 설명했다. 이는 기존 인식과 달리 AI 발전이 가속화될 가능성이 크다는 점을 시사한다.

수레이만의 분석은 AI 관련 정책 및 규제 접근 방식에도 영향을 줄 수 있다. 지속적인 발전 가능성에 대비해 사회적, 기술적 준비가 필요하다는 메시지로 해석된다.

데이터브릭스(Databricks) 공동 창업자인 마테이 자하리아(Matei Zaharia)가 ACM(미국 컴퓨터학회)에서 수여하는 최고 상을 수상하며 AI 연구 분야의 혁신에 기여한 점을 인정받았다.

그는 동시에 AGI(일반 인공지능)가 이미 존재한다고 주장하며, 단순히 이해되지 않은 상태라고 설명했다. 그는 AI를 활용해 과학 연구를 가속화하고 있음을 밝혔으며, 기술 발전에 대한 낙관적인 시각을 드러냈다.

이번 수상과 주장은 AGI의 가능성에 대한 논란에 새로운 화두가 될 것으로 보이며, AI 기술의 미래 방향성에 대한 관심을 높이는 계기가 될 전망이다.