Dev/Devlog8 [spring boot/python/llama2/docker] spring boot 프로젝트에 LLM (llama2) 사용해보기 - 0 서론 AI 산업이 커지고 있음을 느낀다. 나도 한번 AI 를 사용해보고 싶어졌다. chat GPT API 말고 로컬에서 돌아가는 언어 모델로 직접 서비스를 만들어 보고 싶다. 찾아보니 Llama2 라는 오픈소스 LLM 이 있다. -> meta의 llama2 대형 언어 모델인 만큼 학습시킬때 NVIDIA A100 GPU 를 사용한다고 한다. ( 2천만원대... ) 그래도 걱정말자 노트북에서도 실행할 수 있는 방법이 많이 있는 것 같다. 바로 삽질을 시작해 보자. 구성 나는 회사에서 서비스를 spring boot 로 개발하고 싶어하기 때문에 spring boot로 WAS를 구성해볼 생각이다. 그리고 모델에게 질문/응답을 vector 형식으로 해보라고 요청을 받았다. ( 아직 vector 형식이 무엇인지 자세.. 2024. 3. 13. [Obsidian, Mac] mac 맥 옵시디언 obsidian 한글 입력 문제 Mac 에서 Obsidian 사용시 한글 입력 이슈mac 에서 옵시디언 사용중 한글 입력시 간헐적으로 입력이 안되는 문제가 있다. 완벽하게 해결하는 방법은 없고 일시적으로 해결하는 방법은 다음과 같다. 옵시디언 캐시 삭제나는 캐시폴더를 삭제하는 방법을 사용했다. rm -rf ~/Library/Application\ Support/obsidian/Cache/Cache_Data/( 옵시디언은 일렉트론 앱이라서 위 Application Support 폴더에 캐시를 만든다. ) 이것도 얼마안가서 한글 입력이 씹힌다.그냥 그러려니 하고 사용해야 할듯... 2023. 12. 6. 이전 1 2 다음