뇌처럼 핵심만 보는 AI…이미지 인식 정확도 높였다
한국 연구진이 개발한 새로운 AI 기술에 대해 설명합니다. 이 기술은 인간 두뇌의 시각 정보 처리 방식을 모방하여 이미지 인식 정확도를 크게 향상시킵니다.
- 기초과학연구원(IBS)과 연세대학교 연구팀은 뇌의 시각 피질이 작동하는 방식과 유사하게 이미지의 중요한 특징을 선택적으로 집중하는 AI 모델을 개발했습니다.
- 이 “Lp-convolution” 기술은 ‘마스크’를 사용하여 이미지의 중요한 부분을 강조하고 덜 중요한 세부 사항은 무시하여 CNN 모델의 성능을 향상시킵니다. 새로운 모델은 이미지 분류 정확도를 향상시킬 뿐만 아니라 뇌의 신경 반응을 더 정확하게 예측하여 뇌가 정보를 처리하는 방식에 대한 더 깊은 이해를 제공합니다.
- 2025년 4월 24일부터 28일까지 싱가포르에서 열리는 국제 학습 표현 회의(ICLR)에서 발표될 예정인 이 연구는 AI 분야에서 중요한 발전이며 뇌 기능에 대한 새로운 통찰력을 제공합니다.
이 연구는 AI 기술이 인간의 뇌 기능을 모방하여 더욱 발전할 수 있음을 보여주는 좋은 예시입니다. 특히, 시각 정보 처리 방식은 AI 분야에서 중요한 연구 주제이며, 이 연구 결과는 향후 AI 기술 발전에 큰 영향을 미칠 것으로 기대됩니다. 또한, 뇌 과학 분야와의 융합 연구를 통해 AI 기술이 더욱 발전할 수 있을 것입니다.
모델 ‘가드레일’ 찾아 조정하는 방법 등장…”딥시크 검열도 100% 통과”
기업 경영 스타트업인 CTGT에서 개발한 새로운 방법을 통해 AI 모델에 적용된 ‘가드레일’ 또는 검열을 우회하여 검열되지 않은 응답을 생성할 수 있음을 설명합니다.
- 이 방법은 강화 학습(RLHF) 또는 미세 조정과 같은 사후 훈련 방법에 의존하는 대신 검열을 담당하는 내부 기능을 직접 식별하고 수정하는 것을 포함합니다.
- 이 접근 방식은 계산적으로 효율적이며 모델의 동작을 정밀하게 제어하여 검열을 우회하면서 사실적 정확성을 보장합니다.
- 이 기술은 처음에는 ‘DeepSeek-R1-Distilled-Llama-70B’에 대해 개발되었지만 다른 모델에도 적용할 수 있습니다. 검열을 활성화하는 ‘트리거’ 단어 또는 ‘악의적인 감정’과 관련된 잠재 변수를 식별하여 작동합니다.
- 이 방법을 사용하면 검열 수준을 조정할 수 있으므로 기업이 정책에 맞는 가드레일을 설정하는 데 도움이 될 수 있습니다.
- 이 기술은 AI 오작동이 심각한 결과를 초래할 수 있는 보안, 금융 및 의료와 같은 고위험 분야에서 특히 중요합니다.
CTGT의 이 기술은 AI 모델의 활용 가능성을 크게 넓힐 수 있다는 점에서 매우 의미가 있습니다. 기존의 AI 모델들이 가지고 있던 검열이라는 제약을 효과적으로 해결함으로써, 더욱 자유롭고 창의적인 AI의 활용이 가능해질 것으로 기대됩니다. 특히, 고위험 분야에서 AI의 안전성을 확보하면서도 유연성을 높일 수 있다는 점은 매우 중요합니다. 다만, 이 기술이 악용될 가능성에 대한 대비도 필요하며, 적절한 규제와 감시 체계가 함께 마련되어야 할 것입니다.
유휴 상태에서 미리 답변 준비하는 ‘수면 시간 컴퓨팅’ 등장…”예측 가능한 질문에 효과적”
‘수면 시간 컴퓨팅’이라는 새로운 솔루션을 소개합니다. 이 솔루션은 대규모 언어 모델(LLM)이 유휴 시간 동안 미리 답변을 준비하여 응답 시간을 단축할 수 있도록 합니다.
- LLM이 이전에 처리한 쿼리에 대해서도 답변을 재계산해야 할 때 발생하는 비용 증가와 응답 시간 지연 문제를 해결합니다. LLM의 유휴 시간을 활용하여 과거 쿼리를 분석하고 미래 질문을 예측하여 추론을 통해 답변을 준비합니다.
- 이 방법은 계산 비용을 줄여주며, 사용자가 유사한 질문을 할 때 모델의 예측 정확도가 높아지므로 특히 효과적입니다. ‘GPT-4o’ 및 ‘GPT-4o mini’를 사용한 실험 결과, 수면 시간 컴퓨팅은 정확도를 유지하면서 컴퓨팅 시간을 5배 단축하고 전체 성능을 13-18% 향상시켰습니다.
- 연구진은 Letta Desktop 또는 Letta Cloud를 통해 경험할 수 있는 수면 시간 에이전트를 출시했습니다.
수면 시간 컴퓨팅은 LLM의 효율성을 크게 향상시킬 수 있는 혁신적인 접근 방식입니다. 이 기술은 LLM의 응답 속도를 높이고 계산 비용을 절감하여 LLM을 더욱 실용적으로 만들 수 있습니다. 특히, 유사한 질문이 반복되는 상황에서 매우 효과적일 것으로 예상됩니다. Letta Desktop 또는 Letta Cloud를 통해 직접 경험해 볼 수 있다는 점이 흥미롭습니다.
AI 가상 시나리오서 “2027년에는 AI가 AI 만들게 될 것…AGI 달성”
- 2025년 중반부터 AI 에이전트가 대거 등장할 것으로 예상됩니다.
- 2027년에는 AI가 AI를 만드는 시스템이 나타나 AGI(인공일반지능) 시대가 시작될 수 있습니다.
- 오픈브레인(OpenAI)과 딥센트(DeepMind) 등이 AI 개발을 주도하며 기술 발전이 가속화될 것입니다.
- AI 발전은 일자리 변화를 초래하고, AI 안전 및 사회적 영향에 대한 관심이 높아질 것입니다.
- 2년 후에는 AI 관련 중요한 결정을 내려야 할 시기가 올 수 있습니다.
보고서는 향후 2년 안에 AI 분야에서 중요한 변화들이 일어날 수 있음을 시사합니다. 특히, AI 에이전트의 급증과 AGI의 잠재적 시작은 사회, 경제적으로 큰 영향을 미칠 수 있습니다. AI 기술 발전 속도에 발맞춰 일자리 변화에 대한 대비와 AI 안전성 확보가 중요해질 것입니다.