๋ณธ๋ฌธ์œผ๋กœ ๊ฑด๋„ˆ๋›ฐ๊ธฐ

๐Ÿ“– Amazon Bedrock์œผ๋กœ ์‹œ์ž‘ํ•˜๋Š” ์‹ค์ „ ์ƒ์„ฑํ˜• AI ๊ฐœ๋ฐœ

Chanho Lee
๋‹ค์–‘ํ•œ ๋ถ„์•ผ๋ฅผ ๊ณต๋ถ€ํ•˜๊ณ  ์žˆ๋Š” ํ•™์ƒ

Book Infoโ€‹

ํŒ

์ฑ… ์ด๋ฏธ์ง€๋ฅผ ํด๋ฆญํ•˜๋ฉด ๊ต๋ณด๋ฌธ๊ณ  ์‚ฌ์ดํŠธ๋กœ ์ด๋™ํ•ฉ๋‹ˆ๋‹ค!

์ฑ…โ€‹

  • ์ œ๋ชฉ: Amazon Bedrock์œผ๋กœ ์‹œ์ž‘ํ•˜๋Š” ์‹ค์ „ ์ƒ์„ฑํ˜• AI ๊ฐœ๋ฐœ
  • ์ €์ž: ์ž„์ง€ํ›ˆ, ์ตœ์„ฑ์šฐ
  • ์ถœํŒ์‚ฌ: ๋””์ง€ํ„ธ๋ถ์Šค
  • ์ถœ๊ฐ„: 2025-01-10

Introโ€‹

์ตœ๊ทผ์— ํšŒ์‚ฌ์—์„œ AWS Bedrock์„ ์‚ฌ์šฉํ•ด์•ผ ํ•˜๋Š” ์ผ์ด ์žˆ์–ด ๊ณต์‹ ๋ฌธ์„œ๋ฅผ ๋ณด๊ณ  ๊ณต๋ถ€๋ฅผ ํ•˜๊ณ  ์žˆ์—ˆ๋Š”๋ฐ ๋งํฌ๋“œ์ธ์„ ๋ณด๋‹ค ์ด ์ฑ…์ด ๋‚˜์˜จ ๊ฒƒ์„ ์•Œ๊ฒŒ ๋˜์–ด ๊ตฌ๋งคํ•˜๊ณ  ์ฝ์–ด๋ดค๋‹ค. ๋งˆ์ดํฌ๋กœ์†Œํ”„ํŠธ, ๊ตฌ๊ธ€์ด ์ƒ์„ฑํ˜• AI์— ์—„์ฒญ๋‚œ ๊ฐ•์„ธ๋ฅผ ๋ณด์ด๊ณ  ์žˆ๋Š”๋ฐ ์•„๋งˆ์กด๋„ ์ตœ๊ทผ Nova๋ผ๋Š” ๋ชจ๋ธ์„ ๊ณต๊ฐœํ–ˆ๊ณ , Bedrock์„ ํ†ตํ•ด ๋” ๋งŽ์€ ํž˜์„ ์“ฐ๋ ค๊ณ  ํ•˜๋Š” ๋Š๋‚Œ์ด๋‹ค. ์กฐ๊ธˆ ๋Šฆ๊ธด ํ–ˆ์œผ๋‚˜ ์ข‹์€ ํ–‰๋ณด๋ผ๊ณ  ์ƒ๊ฐํ•œ๋‹ค. AWS Bedrock์€ ์ƒ์„ฑํ˜• AI ๋ชจ๋ธ๋“ค์„ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋Š” ํ”Œ๋žซํผ์ด๋ผ๊ณ  ๋งํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ, ์ด ์ฑ…์„ ํ†ตํ•ด ์‹ค์ „์—์„œ ์–ด๋–ป๊ฒŒ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋Š”์ง€ ์•Œ๊ณ  ์‹ถ์—ˆ๋‹ค.

## Book Reviewโ€‹

Bedrockโ€‹

Bedrock์€ AWS์—์„œ ์ œ๊ณตํ•˜๋Š” ์™„์ „ ๊ด€๋ฆฌํ˜• ์ƒ์„ฑํ˜• AI ํ”Œ๋žซํผ์ด๋‹ค. A121 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI ๋“ฑ ๋‹ค์–‘ํ•œ ํŒŒํŠธ๋„ˆ์‚ฌ์™€ ํ˜‘๋ ฅํ•˜์—ฌ ๋ชจ๋ธ๋“ค์„ ์ œ๊ณตํ•˜๊ณ  ์žˆ๋‹ค. ์•„์‰ฝ์ง€๋งŒ OpenAI๋Š” ์—†๋‹ค. ์ด ์ฑ…์—์„œ๋Š” Bedrock์„ ์›น ์‚ฌ์ดํŠธ์—์„œ ์‚ฌ์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•๋ถ€ํ„ฐ, ์ƒ์„ฑํ˜• AI ๋ชจ๋ธ์„ ์ฝ”๋“œ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์‘์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•, Bedrock์—์„œ ์ œ๊ณตํ•˜๋Š” ๊ธฐ๋Šฅ ๋“ฑ์„ ๋‹ค๋ฃฌ๋‹ค.

์ „๋ฐ˜์ ์ธ ์ฑ… ๋ฆฌ๋ทฐโ€‹

์ฑ…์€ 9๊ฐœ์˜ ๋ชฉ์ฐจ๋กœ ์ด๋ฃจ์–ด์ ธ ์žˆ๋‹ค. ๋จผ์ € ํŠน์ดํ•˜๊ฒŒ 0์žฅ์ด ์žˆ๋‹ค. ๋ถ€๋ก์ด ์•„๋‹Œ 0์žฅ์„ ์˜ค๋žœ๋งŒ์— ๋ด์„œ ์žฌ๋ฐŒ์—ˆ๊ณ , ์—ญ์‹œ ๊ฐœ๋ฐœ์ž๋“ค์ด๋ผ๋Š” ์ƒ๊ฐ์ด ๋จผ์ € ๋– ์˜ฌ๋ž๋‹ค. 0์žฅ์—์„œ๋Š” AWS ๊ฐ€์ž…, ๊ทธ๋ฆฌ๊ณ  AWS๋ฅผ ์ฒ˜์Œ ์‚ฌ์šฉํ•˜๋ฉด ์–ด๋ ค์šธ ์ˆ˜ ์žˆ๋Š” IAM, ์ดํ›„ ์ฝ”๋”ฉ์„ ํ•˜๊ธฐ ์œ„ํ•œ AWS CLI ์„ธํŒ…๊นŒ์ง€ ์นœ์ ˆํ•˜๊ฒŒ ์•Œ๋ ค์ค€๋‹ค. AWS๋ฅผ ์‚ฌ์šฉํ•ด๋ณด์ง€ ์•Š์€ ์‚ฌ๋žŒ๋„ ์ด ์ฑ…์„ ์‰ฝ๊ฒŒ ์ฝ์„ ์ˆ˜ ์žˆ์„ ๊ฑฐ๋ผ ์ƒ๊ฐํ•œ๋‹ค.

1์žฅ์—์„œ๋Š” ๊ฐ„๋‹จํ•˜๊ฒŒ ์ƒ์„ฑํ˜• AI๊ฐ€ ๋ฌด์—‡์ธ์ง€, ๊ทธ๋ฆฌ๊ณ  AWS์— Bedrock๊ณผ SageMaker์™€์˜ ์ฐจ์ด์ ์ด ๋ฌด์—‡์ธ์ง€ ์•Œ๋ ค์ค€๋‹ค. 2์žฅ์—์„œ๋Š” Bedrock ์›น ์‚ฌ์ดํŠธ์—์„œ ๊ฐ์ข… ๋ชจ๋ธ๋“ค์„ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋Š” ํ”Œ๋ ˆ์ด๊ทธ๋ผ์šด๋“œ, ๋‹ค์–‘ํ•œ ๋ชจ๋ธ ์†Œ๊ฐœ, ๊ฐ„๋‹จํ•œ ์ฝ”๋”ฉ ์‹ค์Šต ๋“ฑ์ด ์žˆ๋‹ค. 3์žฅ์—์„œ๋Š” ํ”„๋กฌํ”„ํŠธ ์—”์ง€๋‹ˆ์–ด๋ง์— ๋Œ€ํ•ด ์•Œ๋ ค์ฃผ๊ณ , 4์žฅ์—์„œ๋Š” Bedrock์œผ๋กœ RAG(Retrieval-Augmented Generation)์„ ๊ตฌํ˜„ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์•Œ๋ ค์ค€๋‹ค. ์—ฌ๊ธฐ์„œ Bedrock์˜ ๊ธฐ๋Šฅ ์ค‘ ํ•˜๋‚˜์ธ Knowledge Bases๊ฐ€ ๋‚˜์˜จ๋‹ค. ์ด ๋ถ€๋ถ„์—์„œ ๊ฐ์ข… AWS ์„œ๋น„์Šค๋ฅผ ์ถ”๊ฐ€์ ์œผ๋กœ ๋” ์‚ฌ์šฉํ•ด๋ณผ ์ˆ˜๋„ ์žˆ๋‹ค.

5์žฅ์—์„œ๋Š” Bedrock์œผ๋กœ Agent๋ฅผ ๊ตฌํ˜„ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์„ค๋ช…ํ•˜๊ณ  6์žฅ์—์„œ๋Š” Bedrock์—์„œ ๋ชจ๋ธ์„ ํ•™์Šตํ•  ์ˆ˜ ์žˆ๋Š” ๋ฐฉ๋ฒ•์— ๋Œ€ํ•ด ์„ค๋ช…ํ•œ๋‹ค. Bedrock์—์„œ Fine-Tuning(๋ฏธ์„ธ์กฐ์ •), Continued Pre-Training(์ง€์†์ ์ธ ์‚ฌ์ „ ํ•™์Šต)์ด ๋œ๋‹ค๋Š” ๊ฒŒ ์ธ์ƒ์ ์ด์—ˆ๋‹ค. ์˜ˆ์ „์— SageMaker๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ํ–ˆ๋˜ ๊ธฐ์–ต์ด ์žˆ๋Š”๋ฐ ์ด์ œ๋Š” ๊ทธ๋Ÿด ํ•„์š”๊ฐ€ ์—†๊ฒŒ ๋œ ๊ฒƒ์ด๋‹ค. ์™ธ๋ถ€ ๋ชจ๋ธ์„ ๊ฐ€์ ธ์™€์„œ ํ•™์Šตํ•˜๋Š” ๊ณผ์ •๋„ ์„ค๋ช…ํ•ด์ค€๋‹ค.

7์žฅ์—์„œ๋Š” Bedrock ์šด์˜๊ณผ ๊ด€๋ จ๋œ ๊ธฐ๋Šฅ๋“ค์„ ์„ค๋ช…ํ•ด์ค€๋‹ค. ์ด ๋ถ€๋ถ„์—์„œ๋Š” Bedrock์˜ ๊ธฐ๋Šฅ ์ค‘ ํ•˜๋‚˜์ธ Guardrails๋กœ ํ™˜๊ฐ ํ˜„์ƒ ํƒ์ง€๋ฅผ ํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ๊ฒŒ ๋„ˆ๋ฌด ์‹ ๊ธฐํ–ˆ๋‹ค. ๋ชจ๋ธ ํ‰๊ฐ€ ๊ธฐ๋Šฅ๋„ ์žˆ๊ณ , ์ž˜ ๋งŒ๋“  ์„œ๋น„์Šค๋ผ ์ƒ๊ฐ์ด ๋“ค์—ˆ๋‹ค. ๋งˆ์ง€๋ง‰ 8์žฅ์—์„œ๋Š” Bedrock์˜ ์ตœ์‹  ๊ธฐ๋Šฅ์„ ๊ฐ„๋‹จํ•˜๊ฒŒ ์†Œ๊ฐœํ•œ๋‹ค.

๋Œ€์ƒ ๋…์žโ€‹

RAG๋„ ๊ทธ๋ ‡๊ณ , Agent๋„ ๊ทธ๋ ‡๊ณ  ์ „๋ฐ˜์ ์œผ๋กœ ์ƒ์„ฑํ˜• AI์— ๊ด€์‹ฌ์ด ๋งŽ๊ณ , ์–ด๋–ค ๋ฐฉ๋ฒ•์œผ๋กœ ์‚ฌ์šฉํ•˜๋ฉด ์ข‹์„์ง€์— ๋Œ€ํ•ด ๊ด€์‹ฌ์ด ๋งŽ๋‹ค๋ฉด ์ฝ์–ด๋ณด๋Š” ๊ฑธ ์ถ”์ฒœํ•œ๋‹ค. AWS๋ฅผ ์‚ฌ์šฉํ•ด๋ณธ ์ ์ด ์—†์–ด๋„ ์ด ์ฑ…์„ ํ†ตํ•ด ์‰ฝ๊ฒŒ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์„ ๊ฒƒ์ด๋‹ค. ์ƒ์„ฑํ˜• AI๋Š” ์ž์‹ ์ด ์‚ฌ์šฉ๋Ÿ‰์— ๋”ฐ๋ผ ๋น„์šฉ์„ ๋ถ€๊ณผํ•˜๋ฉฐ ํฐ ๋ˆ์ด ๋“ค์ง€๋„ ์•Š์œผ๋‹ˆ ๋‹ค์–‘ํ•œ ๋ชจ๋ธ๋“ค์„ ์จ๋ณด๊ณ  ์‹ถ๋‹ค๋ฉด ์ด ์ฑ…์„ ์ฝ์–ด๋ณด๋ฉด์„œ ์‚ฌ์šฉํ•ด๋ณด๋Š” ๊ฒƒ๋„ ์ข‹์„ ๊ฒƒ ๊ฐ™๋‹ค.