만약 당신이 그것을 만든다면, 사람들은 그것을 부수려고 할 것입니다. 때로는 무언가를 만드는 사람들조차 그것을 부수는 사람이 될 수 있습니다. 이것이 Anthropic과 최신 연구의 경우인데, 현재의 LLM 기술에서 흥미로운 취약성을 보여주고 있습니다. 다른 말로 하면, 당신이 질문을 계속 하면, 가드레일을 부술 수 있고 큰 언어 모델이 설계상으로 말하면 안 되는 것을 알려줄 수 있습니다. 폭탄을 어떻게 만드는지와 같은 것도요.
물론 오픈소스 AI 기술의 발전을 고려하면, 자체 LLM을 로컬에서 실행시킬 수 있고 원하는 것을 물어볼 수 있습니다. 하지만 소비자용으로 더 많은 것을 다루는 것은 고려할 가치가 있는 문제입니다. 오늘날 AI의 재미난 점은 빠르게 발전하고 있는 것과 우리가 무엇을 만들고 있는지에 대해 어떻게 이해하고 있는지 입니다.
만약 허락해주신다면, Anthropic이 제시하는 LLM 및 다른 새로운 AI 모델 유형이 더 똑똑해지고 커짐에 따라 더 많은 질문과 문제가 나올 것으로 기대됩니다. 다음은 나를 따라하는 것인데, 더 일반화된 AI 지능에 가까워질수록, 그것은 사고하는 동일체가 되어야 하며, 우리가 프로그래밍할 수있는 컴퓨터가 아니라는 것이 맞는 것이 아닐까요?
그렇다면, 그 일이 다루기 불가능한 정도가 될 때 까지 극단적인 가장자리 사례를 잡아내는 것이 더 어려워질 수 있습니다. 어쨌든, Anthropic이 최근 공유한 내용에 대해 이야기해 봅시다.
