LLM

현재 인공지능을 사용함에 있어 가장 첫번째로 두어야 하는 것이 '목적'임을 잊지 않아야한다.

2025년 기준으로 인공지능에 관련된 속도가 높기 때문에 간략하게 키워드 기준으로만 소개한다.

LLM 랭킹

• LMArena: 언어모델 성능의 랭크를 알려주는 사이트

모델 다운로드 및 활용

• Ollama: 참고로 2025년 기준 한국어 기준, 추론형 소형언어모델 사용은 비추천하는 바다. 현재 필자가 사용 중에 있다.
• LM Studio: 정보보안 담당자가 선호하는 도구로 GUI 형태를 지원하기 때문에 진입장벽이 낮다.

RAG Framework

• Langchain: 개발자들이 주로 사용 및 선호한다.
• LlamaIndex: 현재 필자가 사용하는 도구다.