Amazon Bedrock을 사용한 Chatbot 구현 가이드-1부

Amazon Bedrock이란? – 2024년 10월 서울 출시

Amazon Bedrock은 다양한 파운데이션 모델(FM)을 단일 API를 통해 제공하여

생성형 AI 애플리케이션 구축을 돕습니다.

이를 통해 개발자는 여러 모델을 손쉽게 활용할 수 있습니다.

이번 시간에는 Amazon Bedrock을 사용하기 위해 보안 자격 증명을 생성하고 LLM을 사용할 때 유용한 프레임 워크인 Langchain 등 기본적인 구성에 대해 소개해드리겠습니다.

프로젝트 개요

2. LangChain과 Amazon Bedrock 연결

1-1. Amazon Bedrock을 사용하기 위해 보안 자격 증명 생성(Access Key, Secret Access Key)

이와 같이 AWS Console – IAM – 사용자 – 보안 자격 증명 – 액세스 키로 가셔서 액세스 키를 생성해주시면 됩니다.

1-2. 생성된 보안 자격 증명(Access Key, Secret Access Key)을 OS 환경에서 AWS Configure에 등록

OS에서 aws configure를 입력하신 후 생성된 Access Key와 Secret Access Key를 입력해주시고

저는 버지니아 북부 리전에서 사용할 예정이기에 Default region name은 버지니아 북부 리전인 us-east-1를 입력해 주도록 하겠습니다.

저는 Default output format 따로 지정하지 않았습니다.

1-3. Amazon Bedrock에서 모델 엑세스

이와 같이 AWS Console – Amazon Bedrock – 모델 액세스로 가셔서 모델 액세스 권한 수정을 눌러주시고 – Claude 3.5 Sonnet 모델 권한을 액세스 해주시면 됩니다.

모델 권한이 액세스 되었다면

선택하신 모델의 Model ID를 확인해주시면 됩니다.

2. LangChain과 Amazon Bedrock 연결

LangChain의 ChatBedrock 모듈을 사용하여 Amazon Bedrock과 쉽게 연동할 수 있습니다.

해당 코드를 실행하면 다음과 같이 LangChain과 Amazon Bedrock이 잘 연결된 것을 확인할 수 있습니다.

다음 시간에는 이를 기반으로 챗봇을 구현하고 streamlit을 사용하여 웹서버에 올리는 방법에 대해 알아보겠습니다.