Go 바이너리를 호스팅하는 모든 서비스를 사용하여 Genkit 플로우를 웹 서비스로 배포할 수 있습니다. 예를 들어 이 페이지에서는 기본 샘플 플로우를 배포하는 일반적인 프로세스를 안내하며 제공업체별 작업을 수행해야 하는 부분을 알려줍니다.
Genkit 샘플 프로젝트용 디렉터리를 만듭니다.
mkdir -p ~/tmp/genkit-cloud-project
cd ~/tmp/genkit-cloud-project
IDE를 사용할 경우 이 디렉터리로 열어 둡니다.
프로젝트 디렉터리에서 Go 모듈을 초기화합니다.
go mod init example/cloudrun
go get github.com/firebase/genkit/go
Genkit를 사용하여 샘플 앱을 만듭니다.
package main import ( "context" "fmt" "log" "net/http" "os" "github.com/firebase/genkit/go/ai" "github.com/firebase/genkit/go/genkit" "github.com/firebase/genkit/go/plugins/googlegenai" "github.com/firebase/genkit/go/plugins/server" ) func main() { ctx := context.Background() // Initialize Genkit with the Google AI plugin and Gemini 2.0 Flash. // Alternatively, use &googlegenai.VertexAI{} and "vertexai/gemini-2.0-flash" // to use Vertex AI as the provider instead. g, err := genkit.Init(ctx, genkit.WithPlugins(&googlegenai.GoogleAI{}), genkit.WithDefaultModel("googleai/gemini-2.0-flash"), ) if err != nil { log.Fatalf("failed to initialize Genkit: %w", err) } flow := genkit.DefineFlow(g, "jokesFlow", func(ctx context.Context, topic string) (string, error) { resp, err := genkit.Generate(ctx, g, ai.WithPrompt(`Tell a short joke about %s. Be creative!`, topic), ) if err != nil { return "", fmt.Errorf("failed to generate joke: %w", err) } return resp.Text(), nil }) mux := http.NewServeMux() mux.HandleFunc("POST /jokesFlow", genkit.Handler(flow)) log.Fatal(server.Start(ctx, "127.0.0.1:"+os.Getenv("PORT"), mux)) }
배포하려는 흐름에 대한 액세스를 제한하기 위한 몇 가지 형태의 인증 및 승인을 구현합니다.
대부분의 생성형 AI 서비스는 측정되므로 이를 호출하는 모든 엔드포인트에 대한 개방형 액세스를 허용하지 않는 것이 좋습니다. 일부 호스팅 서비스는 호스팅 서비스 배포된 앱에 인증 레이어를 프런트엔드로 제공하여 이 용도로 사용할 수 있습니다.
배포된 함수에 API 사용자 인증 정보를 제공합니다. 선택한 모델 공급업체에 따라 다음 작업 중 하나를 수행합니다.
Gemini(Google AI)
Google AI를 해당 리전에서 사용할 수 있는지 확인합니다.
Google AI Studio를 사용하는 Gemini API의 API 키를 생성합니다.
배포된 환경에서 API 키를 사용할 수 있도록 설정합니다.
대부분의 앱 호스트는 API 키와 같은 보안 비밀을 안전하게 처리하기 위한 시스템을 제공합니다. 이러한 보안 비밀은 일반적으로 환경 변수의 형태로 앱에서 사용할 수 있습니다. API 키를
GEMINI_API_KEY
변수에 할당할 수 있으면 Genkit에서 자동으로 사용합니다. 그렇지 않으면googlegenai.GoogleAI
플러그인 구조체를 수정하여 키를 명시적으로 설정해야 합니다. (키를 코드에 직접 삽입하지 마세요. 호스팅 업체에서 제공하는 보안 비밀 관리 시설을 이용합니다.)Gemini(Vertex AI)
Cloud 콘솔에서 프로젝트에 대해 Vertex AI API를 사용 설정합니다.
IAM 페이지에서 서비스 계정이 아직 없다면 Vertex AI API에 액세스할 서비스 계정을 만듭니다.
계정에 Vertex AI 사용자 역할을 부여합니다.
호스팅 환경에서 애플리케이션 기본 사용자 인증 정보를 설정합니다.
Google Cloud 프로젝트 ID와 사용하려는 Vertex AI API 위치로 플러그인을 구성합니다. 이렇게 하려면 호스팅 환경 또는
googlegenai.VertexAI{}
생성자에서GOOGLE_CLOUD_PROJECT
및GOOGLE_CLOUD_LOCATION
환경 변수를 설정합니다.이 튜토리얼에서 설정해야 하는 유일한 보안 비밀은 모델 제공업체이지만, 일반적으로 플로우에서 사용하는 각 서비스에 대해 유사한 작업을 수행해야 합니다.
선택사항: 개발자 UI에서 흐름을 사용해 봅니다.
선택한 모델 제공업체의 로컬 환경을 설정합니다.
Gemini(Google AI)
export GEMINI_API_KEY=<your API key>
Gemini(Vertex AI)
export GOOGLE_CLOUD_PROJECT=<your project ID>
export GOOGLE_CLOUD_LOCATION=us-central1
gcloud auth application-default login
UI를 시작합니다.
genkit start -- go run .
개발자 UI(http://localhost:4000/)에서 흐름을 실행합니다.
jokesFlow를 클릭합니다.
JSON 입력 탭에서 모델의 주체를 입력합니다.
"bananas"
실행을 클릭합니다.
지금까지 모든 것이 예상한 대로 작동한다면 제공업체 도구를 사용하여 흐름을 빌드하고 배포할 수 있습니다.