금요일 오후 늦은 시간, 일반적으로 불리한 내용을 발표하는 기업들이 예약하는 시간에 AI 스타트업 Hugging Face는 보안 팀이 이번 주 초 '무단 접속'을 감지했다고 밝혔습니다. 이는 Hugging Face의 AI 모델 및 자원을 만들고 공유하고 호스팅하는 Spaces에 대한 것입니다.
블로그 글에서 Hugging Face는 침입이 Spaces 비밀과 관련이 있다고 밝혔습니다. 이는 계정, 도구 및 개발 환경과 같은 보호되는 자원을 해제하는 열쇠 역할을하는 비공개 정보로, "의심스러운 부분이 제3자에게 무단으로 액세스될 수도 있다"고 말했습니다.
예방 조치로 Hugging Face는 그 비밀에 포함된 일부 토큰을 철회했습니다. (토큰은 신원을 확인하는 데 사용됩니다.) Hugging Face는 토큰이 철회된 사용자에게 이미 이메일 통지를 받은 사람들에 대해 "모든 사용자가 '모든 키 또는 토큰을 최신화'하고 더 안전한 Fe잘 기반 토큰으로 전환하는 것을 권장하고 있습니다."
잠재적인 위반으로 얼마나 많은 사용자나 앱이 영향을 받았는지 즉시 알 수 없습니다. 자세한 정보를 위해 Hugging Face에 연락했으며 회신이 오면이 게시물을 업데이트하겠습니다.
Hugging Face는 게시물에서 "외부 사이버 보안 포렌식 전문가들과 협력하여 문제를 조사하고 보안 정책 및 절차를 검토하고 있습니다. 또한 이 사건을 관할 당국 및 데이터 보호 당국에 보고했습니다, "라고 썼습니다. "이 사건이 야기할 수있는 중단을 깊게 유감으로 받아들이고 그것이 여러분에게 불편을 끼칠 수 있음을 이해합니다. 우리는 전체 인프라의 보안을 강화할 기회로 삼겠습니다."
Spaces의 가능한 해킹은 Hugging Face가 지금까지 100만 개 이상의 모델, 데이터 세트 및 AI 기반 앱을 보유한 협업 AI 및 데이터 과학 프로젝트 중 가장 큰 플랫폼 중 하나로서 보안 관행에 대한 점점 더 많은 검토를 받는 가운데 발생했습니다.
4월에 클라우드 보안 회사 Wiz의 연구자들이 발견한 취약점 - 수정 된 후 - 는 Hugging Face에서 호스팅되는 앱의 빌드 시간 동안 임의의 코드를 실행할 수있게 해 주었으며 이를 통해 그들은 자신의 기계에서 네트워크 연결을 검사할 수 있었습니다. 올해 초에 보안 회사 JFrog는 Hugging Face에 업로드 된 코드가 최종 사용자의 기계에 백도어 및 기타 유형의 악성 코드를 은밀하게 설치했다는 증거를 발견했습니다. 그리고 보안 스타트업 HiddenLayer는 Hugging Face의 겉으로는 더 안전해 보이는 직렬화 형식인 Safetensors가 악의적인 AI 모델을 만들 수있게 악용될 수 있다는 방법을 식별했습니다.
Hugging Face는 최근 Wiz와 협력하여 기업의 취약점 스캐닝 및 클라우드 환경 구성 도구를 사용할 것이라고 밝히며 "플랫폼 및 전반적인 AI/ML 생태계의 보안을 개선하기 위한 목표로"한다.
