목적LLaMA3를 이용해 챗봇 api를 만들고 싶었습니다. Hugging Face x LangChainHugging Face x LangChain tool을 이용하여 LLaMA3 inference 합니다.pip install langchain-huggingface 다음과 같이 HuggingFacePipeline를 불러올 수 있습니다.from langchain_huggingface import HuggingFacePipelinellm = HuggingFacePipeline.from_model_id( model_id="microsoft/Phi-3-mini-4k-instruct", task="text-generation", pipeline_kwargs={ "max_new_toke..
