NVIDIA 开发者社区第十一届Sky Hackathon训练营实验手册---AWS Sagemaker AI部分

NVIDIA 开发者社区第十一届Sky Hackathon训练营实验手册

第一部分 Sagemaker实验手册

在这部分实验中，我们将利用AWS Sagemaker下载并部署NIM。
以下是实验步骤：

1. 登录实验平台

利用浏览器，访问下面的地址，打开AWS的控制台网站：

https://aws.amazon.com/cn/console/

点击右上角的登录控制台：

点击Sign in using root user email按钮

输入您的账户和密码，参加黑客松的朋友，我们已经将账号密码发给各个队伍。如果旁听的朋友也想实验，请自行创建AWS账户，并按照后续步骤执行。

2. 进入Sagemaker AI 平台

登录进控制台之后，请在左上角的搜索栏中输入Sagemaker AI， 并点击搜索结果中Sagemaker AI，进入Sagemaker AI平台

在进入Sagemaker AI平台后，点击左边管理员配置栏目下的域，然后点击右边的创建域按钮

选择针对单个用户设置，并点击设置按钮

点击完后，这里可能需要等待几分钟来完成设置

过几分钟之后，刷新页面，就可以看到已经创建好了域，状态是InService。接下来我们进入我们已经创建好的域，只需点击名称栏目中链接即可

在应用程序配置中，打开Docker，保证您在后面的操作中能够使用Docker。

注意：当打开了之后，按钮右边的字会变成“在此域上禁用Docker”，证明您已经打开了。您需要让您的界面和截图一样就好

完成上述操作之后，点击左边Applications and IDEs栏目下的Studio，然后通过右边的打开Studio按钮进入操作平台

进入Sagemaker Studio之后，点击左上角的JupyterLab按钮，进行配置

点击右上角的Create JupyterLab space按钮，命名空间，并点击Create space按钮创建工作空间

创建好之后，将Storage改成100，以便您的工作空间有足够多的存储来运行后续代码。然后点击Run sapce按钮来打开JupyterLab页面。

点击运行按钮之后，等待1分钟，点击Open JupyterLab按钮，进入JupyterLab工作空间。

在打开的Jupyter Lab页面中点击Terminal打开命令行终端。

此时我们就已经准备好了实验平台。

3.下载NIM镜像

进入https://build.nvidia.com/explore/discover注册，并登录。

进入https://build.nvidia.com/meta/llama-3_1-8b-instruct页面，点击Get API Key按钮，生成密钥，并复制保存好密钥。

回到刚才Sagemaker studio中的JupyterLab页面

在刚才打开的终端输入命令，来登录

docker login nvcr.io

在Username：后面输入

$oauthtoken

在Password：后面粘贴上您刚才保存好的密钥

注意：在粘贴密钥时为了保密，所以即使您粘贴（ctrl+v或command+v）上去了他在终端中也是不会显示的，所以不用担心。粘贴完按回车（enter）键即可

在登录成功之后，输入下面的命令下载我们选择好的llama3.1 8b容器。注意，此步骤可能需要5分钟左右。

docker pull nvcr.io/nim/meta/llama-3.1-8b-instruct:latest

如果出现如下结果，就意味着您已经下载好了容器

最后将Jupyter脚本拖进环境中执行即可

脚本地址

https://gitcode.com/kunhe0512/11th_sky_hackathon_nim_sagemaker/blob/main/nvidia-nim-sagemaker2025.ipynb