使用 AWS SageMaker 部署 HuggingFace 模型

這段 Python 程式碼示範如何將 Hugging Face 的預訓練 DistilBERT 模型部署到 AWS SageMaker，用於文本分類任務。以下是主要步驟的簡要說明：

1. 匯入必要的函式庫：

boto3：用於與 AWS 服務互動。

sagemaker：AWS SageMaker 的 SDK。

SageMaker.huggingface：專門用於在 SageMaker 上部署 Hugging Face 模型的模組。

2. 初始化 SageMaker 會話：

使用你的 AWS 憑證和地區來創建一個 SageMaker 會話。

3. 定義執行角色：

指定 SageMaker 將用來訪問你的 AWS 資源的 IAM 角色。

4. 定義 Hugging Face 模型詳情：

提供 Hugging Face 模型 ID（distilbert/distilbert-base-uncased-finetuned-sst-2-english）和任務（文本分類）。

5. 初始化 Hugging Face 模型：

創建一個 HuggingFaceModel 物件，指定 transformers 版本、PyTorch 版本、Python 版本、IAM 角色和環境詳情。

6. 將模型部署到端點：

使用 deploy 方法將模型部署到端點。

initial_instance_count：服務端點的初始實例數量。

instance_type：要使用的實例類型（例如，ml.t2.medium 用於 CPU，ml.p3.2xlarge 用於 GPU）。

endpoint_name：端點的自定義名稱。