[탄소중립 아키데미 6기] 1주차 - OT

이번 학기에도 어림없이 찾아온 탄소중립 아카데미 6기에 지원했다.

저번 학기에는 일반 주제에서 참가하였으니 이번에는 좀 더 본격적으로 참여하기 위해서

용기있게 산업체 주제에 지원했다. 내가 가장 관심 갔던 주제는 롯데 이노베이트에서 진행하는 'AI 중복 호출 제거로 비용 및 탄소를 줄이는 조식 지식 공유 시스템 개발' 주제였다. 아무래도 내가 백엔드 및 인프라 분야에 대해 공부하고 있기도 하고 취업 진로도 그 쪽 방향으로 잡았으니 당연히 관심이 갈 수 밖에 없었다. 벡터 임베딩과 캐싱으로 효율적인 시스템을 구축하는 과제는 실제로 수많은 기업들과 서비스들이 요구하는 분야이기도 하고, 내 개인적인 개발 지식과 CS 지식을 한단계 더 올려줄 수 있는 재미있는 주제이다.

 

3월 23일 월요일에 첫 멘토링을 진행하였다. 이번 주제는 흥미롭게도 멘토님뿐만이 아니라 조교님도 계셨다. 구글 밋으로 각자 팀원들과 만나서 자기소개를 하고, 조교님과 멘토님과 만나서 이번 프로젝트 주제에 대한 설명을 들었다. 이번 프로젝트를 위해서 크게 다음과 같은 기술적인 지식이 필요하다.

1. LLM & Text Embedding
언어모델 기반 질의 처리 및 의미 벡터 생성 - LLM 최적화 설계 및 파인튜닝, 고성능 텍스트 임베딩으로 의미 벡터 추출하기

2. RAG & Vector DB
질문, 답변 임베딩 저장 및 의미 기반 유사도 검색

3. Semantic Caching
의미 기반 중복 탐지 및 즉시 응답 반환 엔진 - 동일 의도 질문 탐지 및 캐싱

4. Knowledge Graph
조직 Q&A를 구조화된 지식 네트워크로 축적 및 시각화

 

이중에서도 조교님께서 강조해주신 부분은 LLM, RAG, Vector DB, Semantic Caching이었다. (사실상 다 중요하긴 함)

따라서 앞으로 키워드별로 하나씩 블로그에 정리해서 올려보도록 하겠다.

 

추가로 OT 때 논문을 작성하면 좋겠다고 하셨지만... 과연 어느 정도의 성과가 나올지 모르겠다.

일단 열심히 해보자 화이팅