《虚拟天文台数据访问客户端设计与实现》由会员分享,可在线阅读,更多相关《虚拟天文台数据访问客户端设计与实现(55页珍藏版)》请在金锄头文库上搜索。
1、虚拟天文台数据访问客户端设计与实现杨阳指导老师:赵永恒研究员、崔辰州副研究员 主要内容u 论文研究的背景u 论文研究的主要内容GUI客户端命令行客户端系统应用:科学应用范例系统集成与部署u总结与展望2024/8/122硕士论文答辩主要内容u 论文研究的背景u 论文研究的主要内容GUI客户端命令行客户端系统应用:科学应用范例系统集成与部署u总结与展望2024/8/123硕士论文答辩论文研究的背景虚拟天文台 -天文观测技术和计算机技术发展的产物 - 通过先进的信息技术将全球范围内的研究资源 无缝透明连接在一起形成的数据密集型网络化 天文研究与科普教育平台。 - 特征:整合天文服务资源 联合不同的天
2、文数据 提供各种天文服务 资源共享促进天文学的研究和普及2002年6月成立国际虚拟天文台联盟(IVOA)2024/8/124硕士论文答辩论文研究的背景中国虚拟天文台(China - VO) - 2002年诞生,同年10月加入IVOA - 发展:VO-enable LAMOST e-science - 天文应用工具:SkyMouse:桌面天文信息搜索 FitHAS:FITS文件头入库 VO-DAS:异地异构海量数据访问2024/8/125硕士论文答辩论文研究的背景VODAS(Virtual Observatory Data Access Service) - 天文数据:分布性、异构性和海量的数据
3、访问 - 2006年5月提出设计VO-DAS - 在虚拟天文台环境下 、在网格中间件 OGSA-DAI的基础 上设计开发一套符合国际虚拟天文台联盟标准的数据访 问系统 - 目的:实现异地异构海量数据资源的访问 - 功能:交叉证认和联合查询 星表、图像、光谱 一次访问上百万条记录 多种数据存储格式:CSV、ASCII、VOTable2024/8/126硕士论文答辩论文研究的背景-VO-DAS的服务发布接口 四大类接口: RMI:资源元数据接口 DQI:数据查询接口 DAI:数据存取接口 MI:管理接口接口仅供程序使用,一般用户难 以直接访问VO-DAS体系结构1)VO-DAS必须要有与之相适应的
4、客户端供用户访问异地异构海量数据资源2024/8/127硕士论文答辩论文研究的背景VO-DAS客户端 - 数据访问客户端的现状 美国Open SkyQuery:只提供Web客户端、同步查询 一次访问最多5000条记录 SDSS的casjob服务:只提供异步查询,分配给用户的空 间有限,非异地查询功能 查询方式 访问数据量 数据资源 用户群2)基于VO-DAS的客户端要解决目前存在 的这些问题2024/8/128硕士论文答辩论文研究的背景- VODAS的三种客户端: GUI:图形界面,易学易用,适合初级用户 命令行客户端:命令行方式,适合高级用户 Web客户端:不需安装客户端即可使用 扩大了VO
5、-DAS的用户群,发挥了VO-DAS的能力 2024/8/129硕士论文答辩主要内容u 论文研究的背景u 论文研究的主要内容- GUI客户端-命令行客户端- 系统应用:科学应用范例- 系统集成与部署u 总结与展望2024/8/1210硕士论文答辩GUI客户端特点: 所有的操作以图形界面的方式与用户交互 适合低频率的数据访问 适合小数据量的查询 可与其它VO工具交互协同操作 2024/8/1211硕士论文答辩GUI客户端-总体结构 GUI客户端设计图2024/8/1212硕士论文答辩GUI客户端-设计工作流程:异步方式、同步方式 - 异步方式 客户端请求连接获取元数据提交异步查询读取系统信息监控
6、处理任务完成,下载数据写磁盘操作退出异步方式工作流程2024/8/1213硕士论文答辩GUI客户端-设计- 同步方式 客户端请求连接获取元数据提交同步查询读取系统信息等待数据返回与其它VO工具交互数据分析处理同步方式工作流程2024/8/1214硕士论文答辩GUI客户端-设计- 两种方式异同 同:查询任务描述(ADQL) 数据存储格式(ASCII、VOTabl、FITS、 GZIP) 异:查询请求方式 结果数据处理 异步 直接保存 同步 保存/互操作2024/8/1215硕士论文答辩GUI客户端-设计结果数据处理(同步) - PLASTIC(Platform for Astronomy Too
7、l InterConnection) 天文桌面应用工具之间的通讯协议 解决VO工具之间的互操作问题 PLASTIC HUB PLASTIC MESSAGE2024/8/1216硕士论文答辩GUI客户端-设计 - 结果数据处理时序VO-DAS与TOPCAT交互操作示意图2024/8/1217硕士论文答辩GUI客户端-设计 监控模块 - 实时监控服务器的作业,从而对客户端信息进行处理 - 流程监控流程控制图2024/8/1218硕士论文答辩GUI客户端-设计 获取元数据 - 元数据是描述数据的数据 - 给用户编辑查询任务提供参考 - 过程 请求数据资源(GetAllResource) 解析返回的资
8、源XML字符串 请求表信息(GetMetaTable) 解析返回表的XML字符串 请求表列信息(GetMetaColumn) 解析表列的XML字符串 - 树形结点方式显示2024/8/1219硕士论文答辩GUI客户端-实现主界面ADQL编辑区元数据显示监控GUI客户端主界面2024/8/1220硕士论文答辩GUI客户端-小结GUI客户端是VODAS客户端的一种形式设计遵循初级用户简单易用的原则以图形界面的方式实现: 元数据获取、同步/异步查询 结果数据处理(同步)、监控处理(异步)2024/8/1221硕士论文答辩主要内容u 论文背景和意义u 论文的主要内容GUI客户端命令行客户端系统集成与部
9、署系统应用:科学应用范例u总结与展望2024/8/1222硕士论文答辩命令行客户端特点: 所有的操作以命令的方式与用户交互 可以嵌入用户自己的程序中 适合高频率批量的数据访问 2024/8/1223硕士论文答辩命令行客户端-设计总体结构: Linux或Windows环境下的shell或bat命令 后台调用服务器接口的java程序2024/8/1224硕士论文答辩命令行客户端-设计命令行客户端设计图2024/8/1225硕士论文答辩命令行客户端-设计工作流程 - 异步方式 发起异步请求连接服务器获取任务状态提交任务获取结果数据地址下载数据异步方式工作流程2024/8/1226硕士论文答辩命令行客
10、户端-设计- 同步方式发起同步请求连接服务器等待结果数据提交任务返回结果数据同步方式工作流程2024/8/1227硕士论文答辩命令行客户端-设计命令部分 - 与用户直接交互的部分 - 分别用Shell脚本和批处理环境实现一套操作命令 - 实现流程:命令实现流程2024/8/1228硕士论文答辩命令行客户端-设计后台部分 - 接收前台提交的数据,按照服务器接口标准予以转换, 并调用服务器接口。 与GUI客户端的异同: 同:对服务器接口的操作必须经由连接生成Session 异:命令行用户每请求一次,连接一次;GUI用户则 只连接一次 命令行服务器地址等配置信息存放于文件;GUI 则不是。 命令行以
11、XML文本显示元数据信息;GUI以树形结 构显示2024/8/1229硕士论文答辩命令行客户端-实现后台程序实现 实现一组支持客户端的请求操作类名说明Class Commands_main主类,所有命令的入口Class Connect连接服务器Class MetaData获取并格式化元数据Class SynQ同步查询Class AsynQ异步查询Class Help帮助2024/8/1230硕士论文答辩命令行客户端-实现命令接口 命令名说明md获取元数据Syn提交同步查询任务Asyn提交异步查询任务Jobstatus得到任务的状态Dataurl获取异步提交任务执行结果保存地址destory销毁
12、服务器上任务2024/8/1231硕士论文答辩命令行客户端-实现应用: asyn.sh f adqlSample 0 ftp:/vodas:vodas159.226.169.222/test/vodas.dat Session2024/8/1232硕士论文答辩命令行客户端2024/8/1233硕士论文答辩命令行客户端-小结以命令的方式提交用户请求适合高级用户海量数据的查询要求实现包含两部分:前台命令、后台程序GUI命令行工作方式Pushpull开发者复杂简单用户简单复杂GUI与命令行比较2024/8/1234硕士论文答辩主要内容u 论文背景和意义u 论文的主要内容GUI客户端命令行客户端系统应
13、用:科学应用范例系统集成与部署u 总结与展望2024/8/1235硕士论文答辩科学应用范例目的: 用星流的运动轨迹研究银河系的引力势 在星流的运动轨道上,我们选取一类距离最容易确定的恒星即BHB星(蓝水平分支星)来估算引力势。 确定包含BHB星所在的A型星区域。由于A型星中的BHB星会受到BS星(蓝离散星)的干扰,然后就需要分离出BS星来得到BHB星。将这些BHB星用工具将其可视化即可估算出BHB星的运动轨迹,从而可以进一步分析出银河系的引力势。2024/8/1236硕士论文答辩科学应用范例应用步骤: )构造ADQL表达式,在GUI客户端查找包含BHB星所在A 型星 2)确保TOPCAT运行并
14、启动内置PLASTIC 3)将查询返回结果直接发送到TOPCAT 4)在TOPCAT中构建表达式从A型星中筛选出BHB型 5)求出BHB星的距离,进行坐标转换 6)可视化3D图,估算运动轨迹。 从而进一步求出银河系的引力势2024/8/1237硕士论文答辩科学范例GUI客户端同步查询结果 2024/8/1238硕士论文答辩科学应用范例科学范例3D可视化2024/8/1239硕士论文答辩主要内容u 论文背景和意义u 论文的主要内容GUI客户端命令行客户端系统应用:科学应用范例系统集成与部署u 总结与展望2024/8/1240硕士论文答辩系统集成与部署- 数据结点配置工具- VO-DAS系统的集成
15、2024/8/1241硕士论文答辩数据结点配置工具传统的数据资源共享方式专业性强而繁杂数据结点配置工具解决数据资源的共享问题2024/8/1242硕士论文答辩数据结点配置工具总体结构数据结点配置工具模块图2024/8/1243硕士论文答辩数据结点配置工具工作流程 初始化资源部署访问数据库元数据显示配置元数据生成文件2024/8/1244硕士论文答辩数据结点配置工具OGSA-DAI资源部署 - ANT:Java工程自动化构建、部署工具 - OGSA-DAI使用ANT实现资源部署 命令行 图形界面 - java编程调用ANT实现OGSA-DAI图形界面的资源部署过程2024/8/1245硕士论文答
16、辩数据结点配置工具数据库访问 - JDBC:Java数据库连接应用程序接口简称,提供一套 数据库编程API - 实现访问已部署资源的数据库的元数据客户端/服务器的应用2024/8/1246硕士论文答辩数据结点配置工具元数据配置元数据文件2024/8/1247硕士论文答辩数据结点配置工具主界面数据结点配置工具主界面资源部署元数据显示元数据配置2024/8/1248硕士论文答辩VO-DAS系统的集成VO-DAS系统的组成VO-DAS Data NodeVO Registry Storage ServerClientVO-DAS系统关联图2024/8/1249硕士论文答辩VO-DAS系统的集成部署步
17、骤 1)VO-DAS Server:部署VO-DAS的gar包及其配置文件 2)Data Node:运行数据结点配置工具的jar包,经资源 配置并最终生成么metadata.xml文件 3)VO Registry:将metadata.xml文件的URL注册到VO Registry 4) Storage Server :支持AstroGrid提供的VOSpace,允许 指定FTP或GridFTP 5)Client:GUI,设置java_home并运行jar包 命令行,设置java_home和命令存放目录 Web客户端2024/8/1250硕士论文答辩VO-DAS系统的集成与部署-小结数据结点配置
18、工具:实现了便捷的数据共享方式VO-DAS系统集成:用户访问VO-DAS系统必不可少 的工作2024/8/1251硕士论文答辩主要内容u 论文背景和意义u 论文的主要内容GUI客户端命令行客户端系统集成与部署系统应用:科学应用范例u 总结与展望2024/8/1252硕士论文答辩总结与展望总结 - 客户端 GUI:适用初级用户低频率的数据查询 命令行客户端:适合高级用户高频率的数据访问 - 科学应用范例 - VO-DAS系统的集成与部署 数据结点配置工具:生成数据结点,实现数据共享 VO-DAS系统的集成展望 - Web 客户端的设计 - 1.0版本的发布以及后续版本中功能和性能的完善2024/8/1253硕士论文答辩发表文章VO数据访问服务客户端系统的设计与实现. 杨阳, 刘超, 田海俊, 崔辰州, 赵永恒. 天文研究与技术, in press, 2008. 异地异构天文数据资源的统一访问. 刘超, 田海俊, 高丹, 杨阳, 路勇, 崔辰州, 赵永恒. 天文研究与技术,in press, 2008. 2024/8/1254硕士论文答辩 谢 谢!2024/8/1255硕士论文答辩