본문 바로가기

Dev45

[spring boot, swagger] 스웨거 cors 문제 해결 postman 등 으로 api 요청시에는 정상요청이 되지만 스웨거에서 테스트 했을 때 cors 에러가 나는 경우 .yml 과 같은 스웨거 설정에 요청시 요청서버 url 과 서버의 url 이 달라서 발생할 수 있다.    스웨거에서 api 를 실행하면 위 servers 에 설정된 주소에서 요청되기 때문에 만약 위 두개의 주소가 다르면 cors 에러가 발생한다. springdoc 설정에서  springdoc.servers. 설정의 url 을 확인해 주자. 2024. 10. 23.
[llama2/docker/ollama] llama2 로컬에서 docker 로 실행하기 docker의 이미지로 ollama 가 지원된다. ollama 를 사용하면 매우매우 쉽게 로컬에서 llama2 를 실행할 수 있다. (https://ollama.com/library/llama2) docker-compose 파일 만들기 다음과 같이 compose 파일을 만들자. docker-compose.yml version: '3.8' services: ollama: hostname: ollama container_name: ollama image: ollama/ollama ports: - "11434:11434" 내 로컬의 11434 포트에 ollama 를 실행시킨다. docker-compose 실행하기 cmd 를 열고 위에서 만든 docker-compose 를 실행하여 ollama 서.. 2024. 3. 13.
[m1/mac/python/llama.cpp/llama2] 로컬에서 llama2 실행해보기 ( m1 맥북 ) python 으로 llama2 모델을 실행하기 맥북이 아니거나 나는 docker 로 모델을 실행하고 싶다면 docker 에서 llama2 실행하기를 보길 바람. llama.cpp 을 사용하여 실행할 것임. 언어 모델을 다운하기 meta 의 llama git 프로젝트 받기 원하는 경로에 llama git 을 클론하자. (https://github.com/facebookresearch/llama) 다운로드 요청 링크 받기 meta 의 llama 페이지에 가서 download models 를 누르면 정보를 입력하는 페이지가 나온다. (https://llama.meta.com/) 개인정보를 입력하고 사용할 모델을 선택하여 완료버튼을 누르면 입력한 이메일로 선택한 모델의 다운로드 요청 키가 발송된다. 이메일 내용.. 2024. 3. 13.
[spring boot/python/llama2/docker] spring boot 프로젝트에 LLM (llama2) 사용해보기 - 0 서론 AI 산업이 커지고 있음을 느낀다. 나도 한번 AI 를 사용해보고 싶어졌다. chat GPT API 말고 로컬에서 돌아가는 언어 모델로 직접 서비스를 만들어 보고 싶다. 찾아보니 Llama2 라는 오픈소스 LLM 이 있다. -> meta의 llama2 대형 언어 모델인 만큼 학습시킬때 NVIDIA A100 GPU 를 사용한다고 한다. ( 2천만원대... ) 그래도 걱정말자 노트북에서도 실행할 수 있는 방법이 많이 있는 것 같다. 바로 삽질을 시작해 보자. 구성 나는 회사에서 서비스를 spring boot 로 개발하고 싶어하기 때문에 spring boot로 WAS를 구성해볼 생각이다. 그리고 모델에게 질문/응답을 vector 형식으로 해보라고 요청을 받았다. ( 아직 vector 형식이 무엇인지 자세.. 2024. 3. 13.
[airflow, docker] log 가 안나오는 이슈 Airflow 로그가 출력되지 않는 이슈docker-compose 로 airflow 를 실행하는데 로그가 안나오고 다음과 같은 에러만 발생  !!!! Please make sure that all your Airflow components (e.g. schedulers, webservers, workers and triggerer) have the same 'secret_key' configured in 'webserver' section and time is synchronized on all your machines (for example with ntpd) See more at https://airflow.apache.org/docs/apache-airflow/stable/configurations.. 2024. 3. 7.
[Airflow/python] airflow Variable Variable 등록 airflow 에서 Variable 은 airflow 전역에서 사용할 값을 미리 저장하고 DAG에서 공통적으로 사용할 변수를 말한다. 아래처럼 airflow webserver UI 에서 설정이 가능하다. JSON으로 여러개의 값을 등록할 수도 있다. Variable 사용 airflow 모듈의 Variable 을 불러와서 다음과 같이 key 값으로 value 값을 가져오면 된다. from airflow.models.variable import Variable profile = Variable.get('profile', 'local') 두번째 인자값은(local) 해당 key 값이 없을때의 기본값이다. 2024. 3. 5.

티스토리툴바