内容纲要
概要描述
本文主要介绍 Sophon 以及sophon deps组件2.x以及3.x版本的角色端口以及作用说明。
小版本之间角色有些许差别, 以2.7和3.1为主介绍
详细说明
架构图
Sophon Deps组件角色及其说明
sophon_deps服务是sophon组件必须依赖的组件, 主要为一些辅助角色
2.x | 3.x | 说明 | 端口 |
---|---|---|---|
Sophon ETCD | Sophon ETCD | 高可靠的分布式key-value存储服务,目前Sophon Base平台基于此实现微服务体系的服务信息注册发现 | 2479、2480 |
PostgreSQL | – | 用来存储kong的数据的数据库 | 5432 |
Kong | – | API网关服务 | 8744、8444、8445、8743 |
Sophon python repo | Sophon python repo | 提供Python包仓库功能 | 8716 |
Sophon R Repo | Sophon R Repo | 提供R包仓库功能 | 8717 |
Sophon-Redis | Sophon-Redis | 提供集中式缓存服务,存储系统中需要短时缓存的数据,同时提升响应性能,包括实验运行的中间结果数据等 | 6379、6380、6381 |
Sophon Clickhouse | Sophon Clickhouse | 高性能分析型数据库,目前平台apimanager使用的审计信息、MLOps服务调用数据等通过ck存储,基于其优良的性能提供相关信息的统计分析能力 | 8123、9004、9000 |
Sophon nfs | Sophon nfs | 网络文件系统,用于支持在多个服务、POD间共享文件路径,给用户提供基本的文件系统支持 | 2409、32767、32765 |
Sophon nfs backup | Sophon nfs backup | NFS文件系统的实时备份,一般与NFS在不同节点分别部署,如果NFS文件磁盘出现故障,可通过该服务恢复数据 | |
Sophon nsqlookupd | 4161、4160 | ||
Sophon nsqd | 轻量级消息队列组件,用于审批和mlops批量预测功能 | 4151、4150 | |
Sophon nsqadmin | 4151 |
Sophon 组件角色及其说明
2.x | 3.x | 说明 | 端口 |
---|---|---|---|
Sophon Approval | Sophon Approval | 审批服务,提供支持申请与审批操作的基础功能,如果管理员开启相关功能的审批开关,部分操作如API发布上线,需要先发起上线申请,管理员审批通过后方可实际上线 | 8712 |
Sophon Api Manager | Sophon Api Manager | 负责构建可用于发布上线的模型服务api镜像,包括基于拖拽实验流程的镜像与基于notebook脚本代码的api镜像 | 8711 |
Sophon Audit | Sophon Audit | 审计服务,提供平台的操作记录与审计能力。管理员可在管理中心查看用户对平台的使用情况与相关统计信息。 | 8713 |
Sophon Share | Sophon Share | 资源共享微服务,Sophon Base基于该服务提供不同用户、用户组之间的资源共享,包括数据集、模型等。 | 8714 |
Sophon Job Manager | Sophon Job Manager | 工作流调度微服务,提供工作流创建、管理、部署、定时调度运行、任务状态及历史运行记录查看的功能。目前支持定时调度可视化建模实验流程、Notebook代码脚本等。 | 8725 |
Sophon resource | Sophon Resource | 资源管理微服务,负责Sophon各种资源、文件系统的统一管理,包括网络文件系统、HDFS文件系统、Python/R包管理、2.x包含数据集/数据连接等 | 8718 |
Sophon Session | Sophon Session | Spark集群资源池会话管理服务,负责所有的Spark会话资源的启停与统一管理,支持用户在具备相关权限的情况下切换不同的会话资源。Sophon拖拽实验的运行任务会先发送给该模块,然后提交Spark集群执行。 | 8733 |
Sophon Notification | Sophon Notification | 消息通知微服务,部分需要对前端实时消息推送的功能,由该服务与前端页面建立websocket连接,完成消息实时推送,如vlab实验运行状态推送等。 | 8719、8720 |
Sophon User | Sophon User | 用户管理微服务,对接星环Guardian用户&权限管理模块,提供内部的认证与权限管理功能 | 8710 |
Sophon Gateway | Sophon Gateway | 微服务API网关,主要基于Spring Cloud Gateway搭建,通过etcd实现后端服务的注册与发现,Sophon Base基于该服务实现后端服务的API路由转发和负载均衡 | 8700 |
Sophon Retrieve | 数据召回的作用,后面废弃了 | ||
Sophon UI | Sophon Portal | Sophon前端门户,为各个Sophon平台子模块(产品)提供统一的前端入口 | 8066 |
Sophon base | 3.x拆分成了data+vlab等 | ||
Sophon UC | Sophon用户中心,提供用户相关基本信息的展示与个人设置 | 8073 | |
Sophon Settings | Sophon管理中心,具有管理员权限的用户可访问该模块,主要包含系统管理与设置、权限配置等功能 | 8072 | |
Sophon Discover | 数据探索模块:提供数据集管理和数据探索功能,支持接种类型的数据源,并提供统一的管理视图,提供数据探索与数据集统计分析功能。 | 8708 | |
Sophon notebook | Sophon Discover Frontend | discover前端微服务 | 8065 |
Sophon VLab | 数据探索模块:提供数据集管理和数据探索功能,支持接种类型的数据源,并提供统一的管理视图,提供数据探索与数据集统计分析功能。 | 8703 | |
Sophon Visual Lab Frontend | vlab对应前端微服务 | 8063 | |
Sophon Data | 数据源的前端 | ||
Sophon Data Frontend | 数据探索模块:提供数据集管理和数据探索功能,支持接种类型的数据源,并提供统一的管理视图,提供数据探索与数据集统计分析功能。 | 8064 | |
Sophon KG | 待补充 | ||