전체 글 (10) 썸네일형 리스트형 생성형 AI 용어 이해-④ Retrival Augmented Generative 와 Fine tuning RAG는 학습하지 않은 정보를 외부 소스로 부터 가져와서 질문에 적절하게 답변을 하는 것이다. 마치 대학시험에서 오픈북을 허용하여 필요한 답을 찾아서 답변을 하는 것과 흡사하다. RAG는 왜 사용하는 가학습을 하지 않더라도 가장 최신의 데이타를 기반으로 질문에 적합한 대답을 해 줄 수 있는 획기적인 방법인다. 매 시간마다 방대한 정보들이 최신으로 변하는데 이를 실시간 학습하기엔 제한이 많다. 그래서 특정 주제나 전문적인 영역의 정보들을 별도의 데이타베이스 영역에 놓고 필요할 때 꺼내서 참조하는 식이다. 우리가 검색엔진에서 새로운 정보나 지식을 찾는 것 처럼 질문의 대답을 찾고자 할때 여러 소스로 부터 검색하여 대답을 한다. 리소스 활용에 엄청난 장점이 있다. 학습의 시간과 에너지가 덜 소비되니까 어떻게 .. 생성형 AI 용어 이해-③ LoRA, 효율적 파인튜닝으로 특정 분야만 심화학습 LoRA : Low-Rank Adatation 는 적은 비용과 자원을 사용하여 LLM을 파인튜닝하는 기술이다. LLM을 파인튜닝 하지만 전체를 다시 학습 시키는 방식이 아니라서 유한한 자원을 활용해야하는 경우에 각광을 받고 있다. 기본 foundation 모델의 Parameter weight value (가중치) 는 건드리지 않고 추가 학습할 부분만 add하여 처리한다. LoRA가 왜 필요한가?현재 나온 GPT모델들은 클라우드 서비스로 제공한다. Open AI, Gemini, MS copilot 등 개인 사용자 입장에서 그냥 활용하면 되나 기업의 입장에서는 다르다. 기업에서 사용하는 기술적인 용어나 설계/개발/제조상 소통하는 내용들이 여과없이 GPT에 공유되고 학습된다면 노하우를 지킬 수 없다. 그래서.. 생성형 AI 용어 이해-② Fine Tuning 으로 전문분야 지식을 높인다. 파인 튜닝은 기본적인 LLM모델에 특정 지식을 추가 학습하여 해당 분야에 대한 보다 더 높은 지식수준을 갖추는 과정이다. 기본 LLM모델인 Meta, OpenAI, Ms, Claude 등은 아주 방대한 데이타를 바탕으로 범용적인 지식수준을 높여왔다.웬만한 단어 정의, 문장의 의미 해석은 굉장히 높은 수준이나 너무나 방대한 데이타 학습을 위하여 컴퓨팅 리소스가 천문학적으로 필요하다. 하지만 파인튜닝은 상대적으로 적은 리소스를 사용하여 특정 분야의 학습이 가능하다. 고등학교까지의 국어,수학,과학등 기초지식을 갖추고 대학의 전공분야별 특정 지식을 갖추는 과정과 유사할 듯 하다. 그렇다면 파인튜닝하는 특정분야의 지식은 기존 모델에도 영향을 줄까? 당연하지 않을까? 대학가서 배우다 보면 과거 중,고등학교에 배운.. 이전 1 2 3 4 다음