docker-harbor
目录
一、registry
二、harbor
1.部署 harbor
1.1部署Docker-Compose
1.2部署 Harbor 服务
1.3在其他客户端上传镜像
三、维护管理Harbor
1. 创建 Harbor 用户
2.添加项目成员
3. 在客户端上使用普通账户操作镜像
4. 查看日志
5. 修改 Harbor.cfg 配置文件
6. 移除 Harbor 服务容器同时保留镜像数据/数据库，并进行迁移
7. 如需重新部署，需要移除 Harbor 服务容器全部数据
四、Harbor高可用部署
五、总结
1.harbor特性
2.harbor核心组件
3.harbor私有仓库的过程
4.添加私有仓库地址方式
一、registry
首先企业docker仓库是非公开、私有的，仅供本地机器上传和下载。使用私有仓库，可以节省带宽，提高镜像资源的利用率。
而Registry就是Docker的镜像仓库，用于存放Docker镜像。Docker官方提供了一个搭建私有仓库的镜像registry，只需下载镜像，运行容器并暴露5000端口即可。
以下是搭建过程
（1）首先下载 registry 镜像
docker pull registry
（2）在daemon.json 文件中添加私有镜像仓库地址
vim /etc/docker/daemon.json
{
"insecure-registries": ["192.168.126.7:5000"], #添加，注意用逗号结尾
#"registry-mirrors": ["https://ae3f5qei.mirror.aliyuncs.com"]
"registry-mirrors": [ "https://e4254a0ec0a9429ca9b331cbc8513f67.mirror.swr.myhuaweicloud.com" ]
}
#阿里加速器，更换华为,华为云官网容器产品
systemctl restart docker.service
（3）运行 registry 容器
docker run -itd -v /data/registry:/var/lib/registry -p 5000:5000 --restart=always --name registry registry:latest
（4）测试
1.拉取centos7镜像
docker pull centos:7
2. 为镜像打标签
docker tag centos:7 192.168.126.7:5000/centos:t1
(3)上传到私有仓库
docker push 192.168.126.7:5000/centos:t1
(4)列出私有仓库的所有镜像
curl http://192.168.126.7:5000/v2/_catalog
(5)出私有仓库的 centos 镜像有哪些tag
curl http://192.168.126.7:5000/v2/centos/tags/list
(6)先删除原有的 centos 的镜像，再测试私有仓库下载
docker rmi -f eeb6ee3f44bd
docker pull 192.168.126.7:5000/centos:t1
可以看到虽然删除了源镜像，但依旧可通过本地私有仓库下载。也衍生出问题，第一个仓库只能本地私人使用；第二缺乏图形界面，Registry没有提供图形管理界面，所有操作都需要通过命令行完成，并不清晰。
二、harbor
为解决registry的问题，harbor添加了许多企业级特性；如分层传输机制、WEB界面、水平扩展集群支持、良好的安全机制、基于角色的访问控制以及审计日志等。
Harbor 在架构上主要有 Proxy、Registry、Core services、Database（Harbor-db）、Log collector（Harbor-log）、Job services 六个组件。
Harbor 的每个组件都是以 Docker 容器的形式构建的，使用 docker-compose 来对它进行部署。用于部署 Harbor 的 docker-compose 模板位于 harbor/docker-compose.yml。
1.部署 harbor
| Harbor服务器 | 192.168.126.7 | docker-ce、docker-compose、harbor-offline-v1.2.0 |
| client服务器 | 192.168.126.6 | docker-ce |
1.1部署Docker-Compose
（1）下载或者上传 Docker-Compose
curl -L https://github.com/docker/compose/releases/download/1.21.1/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
#从github获取，需要翻墙
chmod +x /usr/local/bin/docker-compose
（2）查看版本
docker-compose --version
1.2部署 Harbor 服务
（1）下载或上传 Harbor 安装程序
wget http://harbor.orientsoft.cn/harbor-1.2.2/harbor-offline-installer-v1.2.2.tgz
#需要翻墙
tar zxvf harbor-offline-installer-v1.2.0.tgz -C /usr/local/
（2）修改harbor安装的配置文件
vim /usr/local/harbor/harbor.cfg
-5行-修改，设置为Harbor服务器的IP地址或者域名
hostname = 192.168.126.7
-59行-指定管理员的初始密码，默认的用户名/密码是admin/Harbor12345
harbor_admin_password = Harbor12345
快照还原要重启。有缓存
（3）启动 Harbor
cd /usr/local/harbor/
./prepare #为 harbor 启动的容器生成一些必要的文件（环境）
再执行命令 ./install.sh 以 pull 镜像并启动容器
故障排查：docker-compose版本不能低于1.22
（4）查看 Harbor 启动镜像
cd /usr/local/harbor/
docker-compose ps
（5）创建新项目
1.浏览器访问：http://192.168.126.7 登录 Harbor WEB UI 界面，默认的管理员用户名和密码是 admin/Harbor12345
2.输入用户名和密码登录界面后可以创建一个新项目。点击“+项目”按钮
3.填写项目名称为 myproject-test ，点击“确定”按钮，创建新项目
#单击“+项目”，填写项目名称，项目级别若设置为"私有"，则不勾选。如果设置为公共仓库，则所有人对此项目下的镜像拥有读权限，命令行中不需要执行"Docker login"即可下载镜像，镜像操作与 Docker Hub 一致。
4.此时可使用 Docker 命令在本地通过 127.0.0.1 来登录和推送镜像。默认情况下，Registry 服务器在端口 80 上侦听。
#登录 Harbor
docker login -u admin -p Harbor12345 http://127.0.0.1
5.下载镜像进行测试
docker pull nginx
6.将镜像打标签
格式：docker tag 镜像:标签 仓库IP/项目名称/镜像名:标签
docker tag nginx:latest 127.0.0.1/myproject-test/nginx:v1
7.上传镜像到 Harbor
docker push 127.0.0.1/myproject-test/nginx:v1
8.在 Harbor 界面 myproject-test 目录下可看见此镜像及相关信息
1.3在其他客户端上传镜像
以上操作都是在 Harbor 服务器本地操作。如果其他客户端登录到 Harbor，就会报如下错误。
出现这问题的原因为Docker Registry 交互默认使用的是 HTTPS，但是搭建私有镜像默认使用的是 HTTP 服务，所以与私有镜像交互时出现以上错误。
（1）在 Docker 客户端配置操作
#解决办法是：在 Docker server 启动的时候，增加启动参数，默认使用 HTTP 访问。
vim /usr/lib/systemd/system/docker.service
--13行--修改
ExecStart=/usr/bin/dockerd -H fd:// --insecure-registry 192.168.10.23 --containerd=/run/containerd/containerd.sock
或
ExecStart=/usr/bin/dockerd --insecure-registry 192.168.10.23
（2）重启 Docker，再次登录
systemctl daemon-reload
systemctl restart docker
（3）再次登录 Harbor
docker login -u admin -p Harbor12345 http://192.168.10.23
#将自动保存凭据到/root/.docker/config.json，下次登录时可直接使用凭据登录Harbor
（4）下载镜像进行测试
docker pull 192.168.126.7/myproject-test/nginx:v1
速度很快
（5）上传镜像进行测试
docker pull redis
docker tag redis:latest 192.168.126.7/myproject-test/redis:v2
docker push 192.168.126.7/myproject-test/redis:v2
查看网页
在日志中可以看到操作日志
三、维护管理Harbor
1. 创建 Harbor 用户
（1）创建用户并分配权限
在 Web 管理界面中单击系统管理 -> 用户管理 -> +用户，
填写用户名为“testuser”，邮箱为“test@testc.om”，全名为“zhangsan”，密码为“Gg123123123”，注释为“管理员”（可省略）。
附：用户创建成功后，单击左侧“...”按钮可将上述创建的用户设置为管理员角色或进行删除操作，本例不作任何设置。
2.添加项目成员
单击项目 -> myproject-test-> 成员 -> + 成员，填写上述创建的用户 gg 并分配角色为“开发人员”。
附：此时单击左侧“...”按钮仍然可对成员角色进行变更或者删除操作
3. 在客户端上使用普通账户操作镜像
（1）删除上述打标签的本地镜像
docker rmi 192.168.126.7/myproject-test/redis:v2
（2）先退出当前用户，然后使用上述创建的账户 testuser 登录
docker logout 192.168.126.7
docker login 192.168.126.7
或
docker login -u testuser -p Gg123123123 http://192.168.126.7
//下载和上传镜像进行测试
docker pull 192.168.126.7/myproject-test/redis:v2
docker tag redis:latest 192.168.126.7/myproject-test/redis:v3
docker push 192.168.126.7/myproject-test/redis:v3
4. 查看日志
Web 界面日志，操作日志按时间顺序记录用户相关操作
5. 修改 Harbor.cfg 配置文件
要更改 Harbor的配置文件中的可选参数时，请先停止现有的 Harbor实例并更新 Harbor.cfg；然后运行 prepare 脚本来填充配置； 最后重新创建并启动 Harbor 的实例。
使用 docker-compose 管理 Harbor 时，必须在与 docker-compose.yml 相同的目录中运行。
cd /usr/local/harbor
docker-compose down -v
vim harbor.cfg #只能修改可选参数
./prepare
docker-compose up -d
//如果有以下报错，需要开启防火墙 firewalld 服务解决
Creating network "harbor_harbor" with the default driver
ERROR: Failed to Setup IP tables: Unable to enable SKIP DNAT rule: (iptables failed: iptables --wait -t nat -I DOCKER -i br-b53c314f45e8 -j RETURN: iptables: No chain/target/match by that name.
(exit status 1))
systemctl restart firewalld.service
docker-compose up -d
6. 移除 Harbor 服务容器同时保留镜像数据/数据库，并进行迁移
#在Harbor服务器上操作
（1）移除 Harbor 服务容器
cd /usr/local/harbor
docker-compose down -v
（2）把项目中的镜像数据进行打包
//持久数据，如镜像，数据库等在宿主机的/data/目录下，日志在宿主机的/var/log/Harbor/目录下
ls /data/registry/docker/registry/v2/repositories/myproject-test
cd /data/registry/docker/registry/v2/repositories/myproject- test
tar zcvf test-registry.tar.gz ./*
7. 如需重新部署，需要移除 Harbor 服务容器全部数据
cd /usr/local/harbor
docker-compose down -v
rm -r /data/database
rm -r /data/registry
四、Harbor高可用部署
1.基于共享存储
或基于镜像同步
五、总结
1.harbor特性
（1）基于角色控制：用户和仓库都是基于项目进行组织的，而用户在项目中可以拥有不同的权限。
（2）基于镜像的复制策略：镜像可以在多个Harbor实例之间进行复制（同步）。
（3）支持 LDAP/AD：Harbor 可以集成企业内部已有的 AD/LDAP（类似数据库的一张表），用于对已经存在的用户认证和管理。
（4）镜像删除和垃圾回收：镜像可以被删除，也可以回收镜像占用的空间。
（5）图形化用户界面：用户可以通过浏览器来浏览，搜索镜像仓库以及对项目进行管理。
（6）审计管理：所有针对镜 像仓库的操作都可以被记录追溯，用于审计管理。
（7）支持 RESTful API：RESTful API 提供给管理员对于 Harbor 更多的操控, 使得与其它管理软件集成变得更容易。
（8）Harbor和docker registry的关系：Harbor实质上是对docker registry做了封装，扩展了自己的业务模板。
2.harbor核心组件
Harbor 在架构上主要有
Proxy：是一个 nginx 的前端代理，该代理将来自浏览器、docker clients 的请求转发到后端不同的服务上。（Harbor 的 Registry、UI、Token 服务等组件，都处在 nginx 反向代理后边）
Registry：负责储存 Docker 镜像，并处理 Docker push/pull 命令。
Core services：核心功能
1.UI:图形化界面，帮助用户管理 Registry 上的镜像, 并对用户进行授权。
2.WebHook：为了及时获取Registry上image 状态变化的情况，在Registry 上配置 Webhook，把状态变化传递给 UI 模块。
3.Token 服务：令牌，认证方式
Database：为core services提供数据库服务，负责储存用户权限、审计日志、Docker 镜像分组信息等数据。
Log collector：负责收集其他组件的日志到一个地方。
Job services：主要用于镜像复制，本地镜像可以被同步到远程 Harbor 实例上。
3.harbor私有仓库的过程
客户端docker-client信息提交给proxy，经过nginx反向代理请求后端转发给core（核心服务）UI界面，身份进行认证（token），当Registry上image 状态变化会由触发器传递给UI。然后通过认证进入Registry自动保存凭证；后期反向代理即可直接转发到Registry。期间所有业务数据、分组信息等会保存到Database。同时core、Registry都会通过Job services复制同步镜像到远程 Harbor 实例上。以上组件操作记录日志会被收集在Log collector中。
4.添加私有仓库地址方式
（1）/etc/docker/daemon.json
（2）/usr/lib/systemd/system/docker.service