AI 기술 데일리 리포트

LLM · 대규모 언어모델 방대한 텍스트로 학습한 언어 생성 모델.

attention · 어텐션 입력 토큰 간 관련도를 가중해 처리하는 트랜스포머 핵심 연산. 문맥이 길수록 계산량이 제곱으로 증가.

희소 어텐션 · sparse attention 전체 토큰 대신 중요한 일부에만 어텐션을 수행해 장문 처리 비용을 줄이는 방식.

확산 모델 · diffusion 잡음을 점점 걷어 내며 결과를 만드는 생성 방식.

인페인팅 · inpainting 이미지에서 비거나 지운 영역을 주변 맥락에 맞게 채워 복원하는 작업.

증류 · distillation 큰 '선생' 모델 능력을 작은 '학생' 모델로 옮기는 학습.

LoRA 적은 추가 매개변수만 학습해 모델에 스타일·기능을 덧입히는 경량 미세조정 기법.

월드모델 입력에 따라 환경 변화를 예측·시뮬레이션하는 모델.

피지컬 AI 화면 속 대화를 넘어 로봇 등 실제 물리 세계에서 동작하는 AI.

VLM · 비전 언어모델 이미지·영상과 언어를 함께 입력받아 이해·추론하는 모델.

RAG · 검색 증강 생성 외부 지식을 검색해 모델 답변에 반영하는 방식.

하이퍼네트워크 · hypernetwork 다른 신경망의 가중치를 생성하는 신경망. 맥락에 맞춰 모델을 실시간 조정하는 데 쓰임.

뉴로모픽 · neuromorphic 사람 뇌의 신경 구조와 동작을 본떠 저전력으로 정보를 처리하는 컴퓨팅.

인-센서 컴퓨팅 센서 단계에서 감지·저장·연산을 함께 수행해 데이터 이동을 줄이는 방식.

온디바이스 서버가 아니라 기기 자체에서 AI를 돌리는 것.

해석가능성 · interpretability 모델 내부 계산과 결정을 사람이 이해할 수 있게 분석하는 연구.

벤치마크 성능 측정용 표준 시험 문제 모음.

SOTA 현재 최고 성능.