일론 머스크의 그록은 새로운 AI 이미지 생성 기능을 화요일 밤에 출시했는데, 이 AI 챗봇과 마찬가지로 매우 제한된 보호 장치를 가지고 있습니다. 이는 예를 들어 도널드 트럼프가 조 로건 쇼에서 대마초를 피우는 가짜 이미지를 생성하고 직접 X 플랫폼에 업로드할 수 있다는 것을 의미합니다. 하지만 이 광기를 격발시키는 것은 실제로 일론 머스크의 AI 기업이 아니라 논란의 여지가 있는 기능 뒤에 있는 신생 스타트업인 블랙 포레스트 랩스입니다.
양사 간의 협업은 화요일에 공개되었으며, xAI가 Black Forest와 협력하여 그록의 이미지 생성기를 FLUX.1 모델을 사용하여 제공하고 있다고 발표했습니다. 8월 1일에 출시된 이미지 및 비디오 스타트업인 블랙 포레스트는 일론 머스크의 '반감각 챗봇'으로서의 그록의 비전을 이해하는 것으로 보이며, OpenAI의 Dall-E나 구글의 Imagen에 있는 엄격한 가드레일이 없습니다. 소셜 미디어 사이트는 이미 새로운 기능에서 발생한 무모한 이미지로 범람하고 있습니다.
그록의 AI 이미지 생성기가 나타났습니다. 네, 예상대로 아주 제한된 보호장치 pic.twitter.com/AB3IO7A3Dc— Max Zeff (@ZeffMax) 2024년 8월 14일
블랙 포레스트 랩스는 독일에 본사를 두고 있으며 최근 Andreessen Horowitz가 이끈 3100만 달러의 시드 펀딩으로 스텔스 상태에서 나왔다고 프레스 릴리스에서 밝혔습니다. 기타 주목할만한 투자자에는 Y Combinator CEO Garry Tan과 전 Oculus CEO Brendan Iribe도 포함됩니다. 이 스타트업의 공동 창업자인 로빈 롬바흐, 패트릭 에서, 안드레아스 블랏만은 안정성 AI의 Stable Diffusion 모델을 만드는데 기여한 연구자들이었습니다.
인공지능 분석에 따르면, 블랙 포레스트 랩스의 FLUX.1 모델은 사용자들이 이미지 영역에서 평가한 바에 따르면 Midjourney 및 OpenAI의 AI 이미지 생성기보다 품질면에서 우수하다고 합니다.
이 스타트업은 '우리의 모델을 넓은 관객에게 제공하고 있으며' Hugging Face와 GitHub에 오픈 소스 AI 이미지 생성 모델을 제공한다고 합니다. 그 회사는 곧 텍스트에서 비디오 모델을 만들 계획이라고 합니다.
블랙 포레스트 랩스는 TechCrunch의 의견 요청에 즉시 회답하지 않았습니다.
오 마이 갓. 그록은 이미지 생성에 대한 어떠한 필터도 보유하고 있지 않습니다. 이것은 본적이 없는 가장 무모하고 무책임한 AI 구현 중 하나입니다. pic.twitter.com/oiyRhW5jpF— Alejandra Caraballo (@Esqueer_) 2024년 8월 14일
회사의 출시 발표에서 회사는 '이러한 모델의 안전성에 대한 신뢰를 강화하고자 합니다'라고 목표를 밝히고 있지만, 일부 사람들은 X 수요일에 이러한 모델로 생성된 AI 이미지의 홍수로 반대효과를 보았다고 할 것입니다. 그록과 블랙 포레스트 랩스의 도구를 사용하여 사용자가 만들 수 있는 많은 이미지는 구글이나 OpenAI의 이미지 생성기로는 재생산할 수 없었습니다. 모델의 훈련에는 확실히 저작권 있는 이미지가 사용되었습니다.
이것이 목적입니다
이러한 보호 장치의 부재는 무모한 선택의 주요 이유일 것입니다. 머스크는 보호 장치가 실제로 AI 모델을 더 불안전하게 만든다고 믿는다는 것을 분명히했습니다. 'AI를 눈치 있는 채로 훈련시키는 것의 위험은 치명적입니다.'라고 머스크는 2022년의 한 트윗에서 말했습니다.
블랙 포레스트 랩스 이사회 이사 Anjney Midha는 X에 Google Gemini와 그록의 Flux 협업에 의해 출시 첫날 생성된 이미지를 비교한 일련의 비교를 게시했습니다. 스레드에서 Midha는 Google Gemini가 역사적으로 정확한 사람 이미지를 만드는 데 문제가 있음을 강조하며 특히 인종 다양성을 부적절하게 이미지에 주입한다는 사실을 강조했습니다.
'제가 @ibab 및 팀이 이것을 진지하게 받아들이고 올바른 선택을 했음을 기뻐합니다.'라고 Midha가 말하며 FLUX.1이 이 문제를 피하는 것 같다고 언급했습니다(그리고 xAI 리드 리서처 이고르 바부실킨의 계정을 언급했습니다).
이 실수로 구글은 사과하고 2월에 Gemini가 사람들을 생성할 수 없게 과정을 종료했습니다. 오늘날까지 회사는 Gemini가 사람들을 생성하는 것을 허용하지 않고 있습니다.
진실 정보의 불가사의한 홍수
이러한 일반적인 보호 장치의 부재로 인해 머스크에 문제가 발생할 수 있습니다. X 플랫폼은 AI 생성 깊은 가짜 이미지가 평가일에 확산된 텔러 스위프트를 대표하는 Explicit 이미지의 경우에 비난을 받았습니다. 그 사건 이외에도, 그록은 X 사용자들에게 거의 매주 보이는 환각적인 헤드라인을 생성합니다.
지난주에는 5개 주의 국무장관이 X가 X에서 카말라 해리스에 대한 오보를 중단하도록 요구했습니다. 이번 달 초에 머스크는 AI를 사용하여 해리스의 목소리를 복제한 비디오를 다시 공유하여 부통령이 '다양성 고용'인 것처럼 인정하는 것처럼 보입니다.
머스크는 이러한 잘못된 정보를 플랫폼에 유포하도록 열망하는 것처럼 보입니다. 사용자가 그록의 AI 이미지를 게시할 수 있도록 하여, 어떠한 워터마크도 가지고 있지 않은 것으로 보입니다. 그는 사실상 모든 사람의 X 뉴스피드를 향한 정보의 홍수를 열었습니다.
