AWS Bedrock의 Converse API에서 Sonnet 3.7 Reasoning 사용하기

Claude 3.7 SonnetClaude 3.7 Sonnet의 발표가 있었습니다. Claude 3.7 Sonnet and Claude CodeToday, we’re announcing Claude 3.7 Sonnet, our most intelligent model to date and the first hybrid reasoning model generally available on the market.www.anthropic.com 이번 업데이트 중에 extended thinking mode가 생겼는데요.이는 AI 모델이 대답하기전에 스스로 생각을 하는 일종의 추론 모델입니다.AWS에서도 해당 내용이 바로 블로그에 올라왔고 Claude 3.7 Sonnet의 사용과 reasoning mode(exte..

ChatGPT를 사용하면 브라우징 기술이 있습니다.브라우징 기술을 이용하면 페이지에 대한 요약, 분석이나 검색을 이용한 결과를 손쉽게 가져올 수 있습니다.물론 때때로 의도와 다른 답변이나 정확하지 않는 답변을 가져오기도 합니다.하지만 이 기능은 사용자가 LLM 어플리케이션을 쓰는데 강력한 기능입니다. Amazon Bedrock & Web BrowsingAmazon Bedrock을 쓰게되면 Cluade와 같은 대형 모델을 쉽게 사용할 수 있습니다.하지만 Bedrock 뿐만 아니라 모든 LLM 모델은 브라우징 기능을 제공하지 않습니다.그건 OpenAI도 마찬가지입니다.Playground에서 위와 같은 프롬프트를 쓰면 답변을 가져오지 않습니다.결국 웹브라우징은 고유한 LLM의 기능이 아니라 다른 툴을 사용하는..

다음은 amazon bedrock의 claude3을 이용해서 코드를 lambda stream모드로 올리고 값을 가져오는 예제입니다.우선 handler.js에 claude3 sonnet을 이용하는 코드를 작성합니다.대부분의 코드는 Amazon Bedrock에서 Anthropic Claude 3을 호출하여 텍스트 생성을 참고하여 작성했습니다."use strict";const {BedrockRuntimeClient, InvokeModelWithResponseStreamCommand} = require("@aws-sdk/client-bedrock-runtime");exports.hello = async (event) => { const client = new BedrockRuntimeClient({ ..

2020년 11월 AWS 블로그에는 Lightsail에 컨테이너 기반 워크로드를 배포할 수 있는 기능이 추가되었다고 글이 올라왔습니다. - Amazon Lightsail Container 출시 – 클라우드에서 컨테이너를 손쉽게 실행하는 방법 그래서 이 기능을 통해 라라벨을 올려보기로 했습니다. 새로운 라라벨 프로젝트 생성 Installation Via Composer 링크에 나와있는데로 실행하면 손쉽게 라라벨 실행이 가능합니다. 진짜 편해졌습니다. composer create-project laravel/laravel idiotlabs-playten cd idiotlabs-playten php artisan serve artisan serve 실행 후 localhost:8000 에 접속하면 라라벨 화면을..

Elastic Beanstalk에 Docker로 돌리는 Go를 올리는 실습을 진행해보았습니다. Go 작성하기 작업 위치는 $GOPATH/src 로 했습니다. 원하는 프로젝트를 만들고 (저는 go-note-you로 만들었습니다.) echo framework의 quick start에 나오는 기본을 생성했습니다. 그리고 go mod를 실행하고 잘 돌아가는지 테스트를 해봅니다. go mod init ./go-note-you Hello, World! 가 잘 뜨는걸 확인할 수 있습니다. Docker로 실행하기 도커를 실행하기 위해 Dockerfile를 생성합니다. FROM golang:1.12.1-stretch WORKDIR /src COPY . /src RUN go build -o go-note-you EXPOS..

AWS의 Elastic Beanstalk를 이용해서 라라벨 프로젝트를 올려보도록 하겠습니다. 먼저 Elastic Beanstalk에 접속해서 어플리케이션을 새로 생성합니다. 첫 화면에서 이름을 적고 플랫폼, 애플리케이션 코드를 선택합니다.플랫폼은 라라벨을 올릴 것이기 때문에 PHP로 하고 코드는 일단 샘플로 하고 생성을 합니다. 생성을 하면 아래와 같이 화면이 뜹니다.화면 바로 위에 환경 ID와 URL이 나타나게 되고, 이 URL로 접속을 해볼 수 있습니다. 접속 화면 대시보드에 있는 '업로드 및 배포' 를 이용해서 배포를 할 수 있지만 그러기 위해서는 zip 파일이 필요합니다.그리고 매번 zip파일을 통해 배포를 하기는 많이 귀찮습니다. 저는 더 편하게 배포하기 위해 cli를 이용하려고 합니다.EB C..