数据管理

数据管理版块是因子平台的重要功能,旨在帮助管理员和用户高效地管理和操作数据。在此板块:

  • 用户可以直观地查看自己可访问的数据及其对应的库表结构。
  • 部门管理员和拥有数据导入权限的用户可以对自己管理的库表进行权限的管理和监控。
  • admin 可以管理和设置用户和部门能够创建的数据库的前缀,为数据的有序管理提供支持。
  • 拥有数据导入权限的用户可以在此进行数据的导入操作。

库表一览

库表一览分为可访问库表,我管理的库表,库表创建管理三个子页面。

可访问库表

页面展示了当前用户可访问的库表,如图 7-1 所示。

1. 图7-1 可访问库表


点击图 7-1 中某一具体的数据库,页面右侧会展示当前用户对该库的库级权限,如图 7-2 所示。

2. 图 7-2 库级权限


点击图 7-2 中某一具体的分布式表,页面右侧会展示当前用户对该表的表级权限以及表格信息,包括列名、数据类型、备注等,如图 7-3 所示。

3. 图 7-3 表级权限和表格信息


我管理的库表

此页面仅具有 DB_OWNER 和 DB_MANAGE 权限的用户以表格形式展示出我管理的库表的相关信息,包括具有该库表相关权限的用户,以及 UPDATE, READ, INSERT, DELETE, DBOBJ_CREATE, DBOBJ_DELETE, DB_MANAGE 等权限。

在库表这一列,点击某一数据库前的”+”,即可具体展示具有与该库相关权限的用户列表、这些用户对应的其库级权限,以及该库包含的分布式表,如图 7-4 所示。

4. 图7-4 库级权限


点击某一分布式表前的“+”,即可具体展示具有与该表相关权限的用户列表、这些用户对应的其表级权限,如图 7-5 所示。

5. 图7-5 表级权限


当光标悬浮在库表这一列的某一行时,对应数据库或分布式表的后面会出现设置按钮(齿轮图标),点击即可对此库或表进行权限管理,如下图 7-6 所示。

6. 图7-6 库表权限管理


管理该数据库或分布式表权限的步骤如图 7-7 所示:

7. 图7-7 权限管理步骤


  1. 选择权限操作为 ALLOW, DENY 或 REVOKE。
  2. 选择对象类型为用户或部门。
  3. 指定赋权对象。
  4. 指定要赋予的权限。
  5. 点击预添加,检查下方权限列表中的操作是否符合预期。
  6. 确认无误后,点击确定。
  7. 页面右上方会弹出操作状态,用户可通过查看详情获取具体信息,如图 7-8 所示。
    8. 图 7-8 赋权结果


历史的赋权操作记录可通过页面右上角的“赋权记录”查看。

库表创建管理

仅 admin 有权访问该页面。该页面以列表的形式展示了当前系统中用户是否具有数据导入权限以及可创建库名的前缀。

9. 图7-9 库表创建管理


编辑:管理用户或部门可创建的库表前缀,步骤如图 7-10所示:

10. 图7-10 库表创建编辑


  1. 选择权限操作为 ALLOW, DENY 或 REVOKE。

  2. 选择对象类型为用户或部门。

  3. 指定赋权对象。

  4. 指定一个或多个库表前缀,前缀必须以 * 结尾。

  5. 点击预添加,检查下方权限列表中的权限、对象和库表前缀是否符合预期。

  6. 确认无误后,点击确定。

  7. 页面右上方会弹出操作状态,用户可通过查看详情获取具体信息,如图 7-11 所示。

    11. 图 7-11 赋权结果


数据导入模板

用户创建数据导入模板,可用于后续复用,确保数据导入的便捷性和准确性。

该页面仅拥有数据导入权限的用户有权访问,所有数据导入模板向所有拥有该权限的用户公开。数据导入权限可联系系统管理员 admin 赋予。

该页面以表格形式展示了当前集群中所有的导入模板,包括导入模板名称、标签、运行记录、创建人、创建时间、更新时间、备注、操作等信息。因子平台内置了 loadCSV、TLentrust、TLtrade、TLsnapshot、kMinSimu、kDaySimu、BacktestDaySimu 等数据导入模板,帮助用户导入 CSV 数据、导入通联逐笔委托、逐笔成交、快照数据、模拟分钟频和日频 OHLC 数据、模拟股票日频回测数据。界面如图 7-12 所示。

12. 图7-12 数据导入模板


创建:用户可创建新数据导入模板,步骤如下:

  1. 指定新数据导入模板的名称,不可与现有模板名称重复。
  2. 填写标签、备注等可选信息,后续可用于①进行过滤筛选。
  3. 点击确定。
  4. 在模板代码编辑页面编写具体的数据导入模板:
    1. 该模板中包含一个自定义函数,函数名须与模板名一致,该函数包括了数据导入的具体操作。
    2. 推荐该函数包含名称为 ”dbName“ 和 “tbName” 的参数,以便于平台在任务详情处展示该库表。
    3. 模板中包含 submitJob 或 submitJobEx 提交批处理作业的操作时,推荐 return 这些作业的 ID(即submitJob 和 submitJobEx 的返回值),便于平台监控这些任务的执行状态:如果全部成功,则任务状态为成功;如果全部失败,则任务状态为失败;如果部分成功部分失败,则任务状态为部分失败。
  5. 点击保存代码,则数据导入模板创建成功。

运行:用户可以进行数据导入,步骤如下:

  1. 如果此前保存过预设,可以在使用预设处选择使用此前保存的参数,无需手动填写。
  2. 填写个参数的数据类型和数据值:
    1. 如果是平台内置的数据导入模板,则已经固定数据类型,用户只需填写数据值即可。
    2. 如果是用户定义的数据导入模板,则需先填写数据类型,再填写数据值。
  3. 如果需要保存当前参数便于下次使用,可通过④保存预设。
  4. 点击确定,开始运行数据导入。

查看代码:用户可查看当前模板的代码。所有模板的代码均向所有具有数据导入权限的用户开放。

模板名称:对于当前用户自己创建的模板,可以在此对现有代码进行编辑。内置模板和其他用户创建的模板不可编辑。

删除:删除当前模板。仅该模板的创建者,系统管理员 admin 和具有系统审核权限的用户才可删除。