AI 특강

• 강사: 조한삼 Linkedin
•  인공지능 언어 모델 역사
  • 트랜스포머
  • 지피티: 트랜스포머 디코더 추출하여 개발
  • Bert : 트랜스포머 인코더 추출하여 개발 / 임베딩.
  • T5 : 디코더,인코더 둘다 유지하여 개발
  • 앞으로는 로보틱스가 뜬다.
• claude (코딩에 좋음), gemini, gpt
• 예전: 라이브러리 함수 몇 개 외우느냐가 중요 / 요즘: 지피티가 다 해줌. 전체 맥락 이해가 중요. 한번 쳐보는게 좋다.
• 주요이슈: api기반 서비스/플랫폼화/보안/오픈소스/규제
• mcp, a2a (multi agent, agent간 협업)
• finetuning- peft, lora
• llm 발전방향: 멀티모달,추론(딥시크, notebooklm),장기기억,소형화,개별화
• modular rag img
• 폴더링 - 윈도 / 태깅 - 맥
• Agentic RAG
• ops
  • 데이터 ops : data engineering 
    • 교과서 section 별 ocr이 잘 안됨, upstage ai 써도 잘 안된다. > 저장이 잘 안되고 있음...
  •  ML ops
  • llm ops img
    • vector db(안정성 떨어짐)보단 elastic search(비쌈) 쓴다.
    • 키바나: 성능 체크
    • 런팟(싸게 gpu 빌려줌)

• 추천
  • 코딩: claude, gemini
  • napkin: 도해 제작
  • notebooklm -논문 요약, 말로 풀어내기.
  • perplexity: 요약, 근거를 url로 주석에 달아줌. 경쟁사 분석.

• LLM 시장 생태계
  • 한국에선 AWS, AZURE 못쓰게 해서 네이버 Clova X, Cloud 이 잘나감
  • 의료 쪽으로 엄청나게 발전중: 맞춤치료, 전자건강기록,사기탐지,챗봇,신약개발,영상
  • 추천: 넷플릭스, 유튭이 정말 잘 한다.
  • 금융업계는 챗봇으로 인건비 절감 시도하려고 한다.
  • 헬스케어: physical ai (간병인), 결국엔 비용절감을 위해 발전
  • 의사/변호사가 위험하다. 핵심 기술은 암기/기억 . 의사는 임상경험,의학지식,수술 / 변호사는 수많은 판례, 법전을 외우고 있어야 함. ai판사
  • 콴다 매스프레소: 교육 / 구글 티쳐
  • 업스테이지: 네이버 ocr 하던 분이 창업. 한국형 llm 잘 만듬
  • 코난 테크놀리지: rnn 기반 한국어 번역하시다가 llm 나오면서 조금 망함. 그러나 다시 쫓아오고 있음.

• AICC / 에듀 테크
  • 저출생/온라인 교육/교육개혁 정책/AI => 개인 맞춤형 교육 설계
  • 데이터 수집,분석을 거쳐서 의사결정에 도움을 받는다. data warehouse > bussiness intelligence
  • AICC 데이터분석가도 옛말. 이젠 지피티가 더 잘한다.
  • 챗봇 > 거시적으로 비정형데이터 통제 가능해졌다. 예전엔 콜센터 콜 몇 번, 유효콜 몇번 식으로 통제함.
  • 대한항공 : 일정 변경을 챗봇으로 하는 걸로 인건비 많이 줄임.

• 정부기관
  • NIA 니아, NIPA 나이파, AIHUB 과제 > 일자리 창출,
•  동영상에서 화자의 입 모양+외국어 변환 : whisper model, lip2wave model , claude로 vibe coding
• 실습
  • 이탈예측모델
    • 임베딩/데이터 처리/ ml (주로 xgboost 씀)
• 학습 로드맵

 

• 추천 자료
  • 홍정모 유튜브
  • 패캠 강의 
  • 카카오 기술 블로그 
  • 조대협 블로그 
- 이재명 대통령이 AI 100조 투자한다고 하니, 일자리 많아질거다. ㅎㅎㅎ (이잼 만세!)

- 10대 대학원 아니면 일단 회사 들어가서 부딪혀봐라. 그리고 성장하라.

---

주요 내용: LLM의 발전 동향, 산업별 현황, Ops (dataops,llmops),챗봇, RAG, vibe coding, data 분석가의 몰락(?)

오늘 강사님은 현업 실무자로 굉장히 공부 많이하신 것 같았다. 특히나 모든 발표 장표에서 개념적으로 정리하여 표로 보여주는 게 인상적이었다. 이 분이 llm chatbot은 교육/의료/헬스케어/금융/항공업계 등 모든 업계를 통틀어서 아직까지도 개발이 진행중이라고 하셨다. 이를 통해 내가 챗봇이 내 주요 개발경력이 된 것이 주요 강점이 될 수 있다고 봤다. 이번에 aws에 챗봇 제대로 올려서 서비스해 본 경험이 나에게 아주 큰 강점이 될 것 같다.

내 도메인인 헬스케어에서 내가 기여할 수 있는게 뭐가 있을 지 굉장히 고민된다. 챗봇+피지컬 AI 를 결합하여 간호사 로봇을 차라리 만들어버릴까... 가정도우미도 만들건데 못할것도 없지 않은가? 

데이터 분석은 이제 llm이 모두 해주는 시대가 되어, 분석가 자체 직무는 다 llm 개발로 넘어갔다고 한다. 나도 사실 지피티에게 데이터 분석을 시켜본 적이 있어서 잘 안다. 판다스로 df 불러서 보고 그래프 만드는거 귀찮았는데 사실 좋은 소식이다.