목록스파르타 내일 배움 캠프 AI 웹개발 과정/AI (1)

Lina's Toolbox

llama 이용하기

gpt는 폐쇄적이다.내 컴퓨터에 gpt 모델 자체를 다운받아서 하는게 아니라요청할 때마다 서버와 통신한다. 이때의 문제점은, 내 개인적인 정보를 프롬프트에 입력했을때입력한 개인 정보가 서버로 전송되면,gpt가 프롬프트 데이터를 학습하면서 사용하면서나의 기밀한 개인정보가 유출될 수 있다는 보안 우려가 생길 수 있다. 반면, Meta의 오픈소스 Llama 같은 모델은컴퓨터에 직접 다운로드해서 사용할 수 있다.이렇게 하면 모든 데이터 처리가 로컬에서 이루어져서 외부 서버로 정보가 전송되지 않으므로보안적으로 더 유리하다. 하지만 말 그대로 Large Language Model 이므로, 용량이 매우 크다.내 컴퓨터에 llm을 직접 다운받아야 하는데,cpu로 돌려야하는 상황이라면 매우 느리다.gpu를 사용하도록 하..
스파르타 내일 배움 캠프 AI 웹개발 과정/AI 2024. 9. 5. 21:44
이전 Prev 1 Next 다음