Amazon AI 서비스 활용법
1. 아마존 배드락 솔루션에 관한 데모영상을 기반으로 어떻게 사용할 모델을 정립하는지의 과정을 보여주었다.
api를 통해서 파운데이션 모델에 접근 할 수있다.
해당 솔루션의 장점은 사용하지 않으면 비용을 지불하지 않아도된다.
해당 내용은 하이퍼 파라미터 조절을 통해서 사용자에게 가장 적합한 모델을 선택
파운데이션 모델을 커스터마이징하여 다양한 외부데이터를 통해서 reg 를 구성할 수 있다.
또한 회사의 외부데이터는 파운데이션 모델과 공유되지 않기때문에 보안에 취약하지 않다
타이탄 임베딩 모델을 사용 / 레그 데이터 (배드락에 대한 사용자 메뉴얼) -> 토큰 단위로 나누어서 데이터를 사용
벡터데이터를 만들어서 이걸 기준으로 모델 결과를 확인한다
1-2. 생성형 ai를 사용 어플리케이션 구축에서 중요한 부분
컨텍스트 기반의 데이터를 내보내기 때문에 환각 현상을 방지할 수 있음
목적에 맞는 디자인 설정
생성형 ai의 차별화 맞춤형 비즈니스 어플리케이션 핵심은 기반이 되는 데이터이다.
*AWS 파운데이션 모델은 Amazon Web Services(AWS)에서 개발한 대규모 기계 학습 모델들을 의미합니다.
추가자료
Amazon SageMaker 워크샵에서 생성형 AI
이 워크샵에서는 SageMaker에서 제공하는 기능을 활용하여 안정적인 stable diffusion과 같은 model을 효율적으로 파인튜닝하고 오픈소스 model을 사용자 지정하는 방법을 배우게 됩니다.
Amazon Bedrock 워크샵
텍스트와 이미지를 생성하는 기술을 살펴봅니다. Amazon Bedrock API, SDK 및 오픈 소스 소프트웨어(예: LangChain)를 사용하여 실습 경험을 쌓게 됩니다.
Amazon Q Developer 워크샵
Amazon Q Developer를 사용하여 더 빠르고 안전하게 애플리케이션을 구축할 수 있습니다. 이 실습에는 Python Java, React, SOL, Shell 등의 예제와 Amazon SageMaker의 예제가 포함되어 있습니다.
개발자를 위한 새로운 AWS Gen AI 도구
aws 생성형 ai 트랜드
aws 생성형 ai 베이스 설명
생성형 ai를 통해서 개발에대한 라이프 사이클을 어떻게 개선 할 수 있는지 조직 내 지출비용과 수입에 대해서 생성형 ai를 도입했을때 어떤 효과를 주었는지에 대한 내용
물류체인에 대한 효율성 향상에 도움을 준 통계가 있었다.
생성형 ai를 통해 조직의 개발자에게 많은 도움을 줄 수 있었다. 개발을 하는 프로세스에 불필요한 작업들을 생성형 ai를 통해서 효과적으로 시간을 단축시킬 수 있다.
파티락을 사용해서 간단한 애플리케이션 개발이 가능하다
아마존 Q-developer 는 생산성있는 코드 생성 및 테스트 코드 생성이 가능하다.
아마존 코드 리뷰어 같은경우에는 코드 기반으로 점검이 가능한 솔루션이다.
아마존 시큐리티는 소스코드가 보안적으로 취약점이 있는지 점검이 가능한 솔루션이다.
생성형 ai 도입 과정
생성형 ai llm 모델이 어떻게 자연어와 코드를 학습하고 어떻게 작용하는지 판단해야한다. llm 모델에 대한 이해가 선행되어야한다
llm 모델을 사용할때 보안규정에 맞는지와 새로운 위험이 발생하지 않는지 검토가 필요하다
다른 llm 모델과 비교하여 최적화 되어있는 모델인지 확인한다.
고객 맞춤형으로 튜닝을 해야한다 llm 모델에 요구사항을 적용하여 커스터마이징을 한다
어디에 사용할지에 대한 결정을 해야한다.
llm 모델을 사용할때 보안규정에 맞는지와 새로운 위험이 발생하지 않는지 검토가 필요하다
다른 llm 모델과 비교하여 최적화 되어있는 모델인지 확인한다.
기대결과
생산성 향상 / 코드개발 문서작성 코드테스트 이러한 분야에 사용해서 개발 주기가 단축된다.
더 나은 개발자 경험을 보장해준다
소프트웨어의 품질이 향상된다. 휴먼에러를 감소시킴으로 운영중인 소프트웨어의 결함감소와 안정성 향상이 보장된다.
빠르게 발전하는 ai 시대에서 기업의 민첩형 상승을 이끌어 낼 수 있다.
프로젝트 생명주기에 따라서 생성형 ai 도입의 작용
요구사항 / 고객의 요구사항을 더 상세히 분석하고 그 것을 넘어서는 제공이 가능하다
설계요청 / 요구사항 기반으로 설계 요청을 하면 아키텍쳐 뿐만 아닌 관련 문서까지 생성을 해 줄 수 있다.
개발 / 개발자들이 설계에 기반한 llm 모델을 가지고 상황에 맞는 적절한 코드 및 코드에 관련한 문서 생성할 때도 도움을 받을 수 있다.
검토 / 개발한 코드 및 생성형 ai가 생성한 코드를 재검토 등 보안 취약점을 점검 할 수 있다.
테스트 / 다양한 테스트 커버리지 범위를 보장받을 수 있다.
느낀점
생성형 AI에 관한 세션들이 많았다.
주요 관심 서비스
머신러닝 기반 코드 리뷰 서비스: 코드 품질 향상 및 개발 속도 단축에 도움
리소스 및 성능 파악 가이드 서비스: 시스템 최적화 및 효율성 증대에 기여
AI 서비스 적용 사례 (준비 과정 , 사용 사례, 주의점 등), 보안 문제 (무단 액세스 및 유출 방지) 등을 자세히 설명해주어 좋았다.
개발 라이프 사이클 단축 등 생산성을 위해서AI 서비스 도입은 필수적인 트렌드로 자리 잡을 것으로 예상된다.
총평
다양한 AI 서비스 및 활용 사례를 이해하는 데 도움이 되었으며, 특히 생산성 향상을 위한 AI 도입의 중요성을 다시 한번 확인할 수 있었습니다.
