카테고리 없음

79일차 [ llm 동향 특강 (김유진 멘토) ]

HyunJung_Jo 2025. 5. 15. 17:56

MCP
multi agent가 요즘 트렌드
linked in update 꼭 하기
면접 100번 보면서 채용 트렌드를 보자. 오퍼도 많이 들어오고, 카운터 오퍼도 3번 정도 치자.
쉽게 하려고 하지 말자.

파인튜닝
- 코스트 너무 많이 든다
- 모델 많이 좋아졌다.
- evaluation에도 시간이 많이 든다.
- rag로 대체하는게 낫다.

챗지피티는 어플리케이션, 모델이 아니다.
멀티에이전트 관리하려면 코드레벨이 아닌 대시보드가 필요하다.

플로우 엔지니어 
- 사용자 목표에 따라 ai가 스스로 계획, 실행 
- 도구 호출, 조건분기와 반복도 처리

가드레일

1인 개발자/solopreneur

반드시 신기술은 명확한 목적을 가지고 실험해보자. 
기술은 나만 알지 말고 문서화하여 팀에 퍼뜨리는 사람이 되자.
- 알려주는 대로 나 자신도 더 공부가 된다.
- 문서화를 잘 하면 추앙을 받는다..ㅋㅋ
데모(POC)를 계속 만들어가면서 평가,성능 개선.

Retrieval Question Answer Dataset으로 Rouge 등의 점수로 평가하기.

현재 파이널 프로젝트하는 기획에선, 남이 쓴 사업 계획서 같은거 좀 보고, 멘토에게 피드백도 많이 구해보자
자기 프로덕트에 애정이 있어야 한다.

스타트업같이 보고 체계가 없는 곳에서는 사람들이 하나둘 모이다보면 일의 진척이 안가는 경우가 있다. 애자일, 스크럼에 대한 책을 많이 읽어서 적용해보는 것이 낫다. 

에이전트 레이턴시 
- 툴을 여러번 호출하면서 생기는 레이턴시 > distillization, 가속화를 위한 하드웨어 만지기