AI | 2025.06.28

뤼튼 AI, 불법 정보까지 생성…‘컴파운드 AI’의 허점 드러났다

연구자 정보

달율밤 프로필 보기

  • 출신대학 : KAIST
  • 전공 : 물리학과
  • 연구분야 : AI 모델 개발

1분 요약

뤼튼은 자체 LLM 없이 외부 모델을 조합하는 ‘컴파운드 AI’를 내세우지만, 그 실체는 불투명한 블랙박스와 같다. 나는 프롬프트 테스트로 뤼튼의 기술력을 테스트해 봤다. 결과적으로 뤼튼은 주로 앤트로픽의 클로드를 기반으로 GPT, 그록 등을 섞어 쓰는 것으로 보이며, 이 과정에서 성능 저하나 프롬프트 인젝션 취약점 같은 명백한 한계를 드러냈다. 결국 뤼튼은 기술적 깊이보다 플랫폼 선점에 주력하는 ‘수입차 딜러’에 불과하며, 막대한 투자금과 마케팅에 의존하는 현 구조는 기술자 관점에서 매우 불안해 보인다.

본문

CHAPTER 1.

인조 생명체, 레플리칸트

모든 사람은 각자의 발자취를 남긴다.

인간의 행동에는 반드시 이유가 존재한다. 프로파일러들은 대상을 세밀하게 관찰하고 데이터를 축적하며, 이를 바탕으로 대상이나 범죄자가 어떤 프레임에 속하는지, 또 어떤 통계적 특성에 부합하는지 확인한다. 현장에 나간 형사 역시 증거 수집에 매진한다.

예를 들어 매듭을 묶은 흔적, 즐겨…

스탠다드 등급 이상 멤버십 구독이 필요합니다.

로그인 멤버십 소개 보기

연구자 의견

내게 1억이 있다면 뤼튼에 투자를 할 것인가?

뤼튼에는 당연히 투자를 하지 않을 것이고, 이 질문을 넓혀서 한국 AI 산업에 1억을 투자할 것이냐고 묻는다면 나 역시 한국에서 AI 개발자로 일을 하고 있지만, 단호하게 “NO”라고 답할 것이다.

뤼튼은 확실한 수익 모델을 보여주기 전까진 그저 ‘하이 리스크 하이 리턴’의 VC 투자 대상일 뿐, 우리가 안정적으로 돈을 묻을 만한 곳은 아니다 만약 상장에 성…

비즈니스 등급 이상 멤버십 구독이 필요합니다.

로그인 멤버십 소개 보기

문의하기

궁금한 점을 남겨주시면 리포트를 작성한 연구자가 직접 답변드립니다.

VIP 등급 이상 멤버십 구독이 필요합니다.

로그인 멤버십 소개 보기

커피챗 신청

커피챗을 신청하시면 하이젠버그 운영진과 직접 이야기를 나눌 수 있습니다.

VVIP 등급 이상 멤버십 구독이 필요합니다.

로그인 멤버십 소개 보기