宇宙链 宇宙链
Ctrl+D收藏宇宙链

又是一年开源之夏,八大课题项目奖金等你来拿!

作者:

时间:1900/1/1 0:00:00

又是一年季。今年,ApacheDolphinScheduler同样参与到了活动中来,希望有更多学生群体关注到ApacheDolphinScheduler,并踊跃参与项目共建拿奖金!

No.1活动介绍

开源之夏是由“开源软件供应链点亮计划”发起并长期支持的一项暑期开源活动,由中国科学院软件研究所与openEuler社区共同举办,旨在鼓励在校学生积极参与开源软件的开发维护,促进优秀开源软件社区的蓬勃发展,培养和发掘更多优秀的开发者。

学生可自主选择感兴趣的项目进行申请,并在中选后获得社区导师亲自指导。根据项目的难易程度和完成情况,参与者还将获取开源之夏活动奖金和结项证书。

开源之夏活动官网:https://summer.iscas.ac.cn/

No.2活动日程

No.3项目介绍

ApacheDolphinScheduler是一个云原生易扩展的可视化DAG工作流任务调度系统。致力于解决数据处理流程中复杂的任务依赖关系,使各种任务类型(Spark/Flink/MR/Shell/Python/SQL等)在工作流编排中开箱即用。

No.4奖金设置

进阶:奖金人民币12000元

优化类的任务,例如提高性能,降低资源占有

基础:奖金人民币8000元

功能类的任务,例如为本社区开源项目增加一个或若干个重要特性等

No.5八大课题

本次活动,ApacheDolphinScheduler开源社区共设有8个项目课题具体如下,欢迎参与:

01为DolphinSchedulerPythonAPI添加资源文件

SBF律师在即将举行的欺诈案审判中对检察官的证据提出抗辩:金色财经报道,FTX创始人SBF的律师于9月1日提交法庭文件,反对联邦检察官在即将对他进行的欺诈和共谋指控审判中采纳特定证据的几项动议。

SBF的律师辩称,不应允许检察官提出与先前撤销或从该案中分离出来的指控有关的证据。其中包括涉嫌违反《反海外腐败法》的贿赂巴哈马官员、非法竞选资金捐赠以及与FTX美国附属公司业务相关的银行欺诈行为。[2023/9/4 13:16:49]

222290294

进阶/Advanced

Python

目前,DolphinSchedulerPythonAPI只能传递字符串格式传递任务的参数,例如我们的tutorial

dolphinscheduler/dolphinscheduler-python/pydolphinscheduler/src/pydolphinscheduler/examples/tutorial.py

我们只将一个字符串传递给shell任务类型。但通常来说,用户希望具体的执行代码储存在其他系统中,例如将具体文件存储在本地文件系统、GitHub、GitLab、AmazonS3、阿里云OSS等。也许我们可以添加语法糖让用户更加简单的操作外部文件

任务task_parent将从URLhttps://github.com/apache/dolphinscheduler/blob/dev/script/install.sh加载文件内容并将其传递给参数command,它使我们的DAG文件更容易和可维护

实现Resource的插件化

实现具体的插件Resource包括但不限于本地文件系统,GitHub,GitLab,AmazonS3,阿里云OSS

PythonAPI的通过测试覆盖率,当前阈值为90%

文档,包括开发和使用

熟悉python,包括decorator、io、network、unittest、document

Kraken已正式启动NFT市场:金色财经报道,加密货币交易所Kraken已正式启动 NFT市场,支持以太坊、Solana 和 Polygon 链上的250多种NFT,Kraken NFT市场表示不会向在平台上买卖 NFT 的客户收取gas费,但向内、外转移NFT和其他加密资产时会产生gas费。[2023/6/9 21:24:46]

https://github.com/apache/dolphinscheduler

https://github.com/apache/dolphinscheduler-website

钟嘉杰

联系方式:zhongjiajie955@gmail.com

02资源中心优化

222290456

进阶/Advanced

Java、Shell

重构Dolphinscheduler资源中心的读写逻辑

目前资源中心读写HDFS/S3/本地目录通过在数据库表中t_ds_resources记录文件/文件夹目录来实现文件记录,但是在用户初始化DS或者用户在DS的外部修改了第三方存储的内容的时候DS无法进行实时同步,希望能够与第三方存储的内容保证实时同步

DS不存储资源中心中文件的路径,对于资源中心的读写全都通过调用第三方API实现,只保存任务实例依赖到的内容路径于数据库用于文件删除校验。

实现现有的资源中心的所有功能,其中包括文件/文件夹增删改查,任务实例调用资源中心

后端API文档

了解Linux系统,对Linux文件管理有一定的熟悉

了解HDFS/S3组件,能够较快速的根据官方文档学习API的使用

熟悉Java语言

https://github.com/apache/dolphinscheduler

https://github.com/apache/dolphinscheduler-website

昨日约3.5亿美元BTC从交易所撤出,创2023年迄今第三高记录:金色财经报道,据区块链分析公司Glassnode最新数据显示,随着美联储加息25个基点,以及美联储主席释放信号,导致比特币等风险资产走低,昨天(3月22日)有价值3.5亿美元从交易所撤出,是今年年内单日交易所流出量的第三高记录。[2023/3/24 13:22:52]

向梓豪

联系方式:zihaoxiang@apache.org

03master/worker/api模块日志优化

222290457

进阶/Advanced

Java

由于DS日志不方便真实定位问题,需要将打印日志进行规范及优化

整理出DS打印日志规范指导文档,并提交到文档库

将master/worker/api模块按照规范文档进行落地并提交到开发分支

熟悉Java语言

https://github.com/apache/dolphinscheduler

https://github.com/apache/dolphinscheduler-website

进勇

联系方式:jiny.li@foxmail.com

04自动收集、保存作业提交的Yarn作业的applicationid

222290458

进阶/Advanced

Java

DolphinScheduler支持各种各样的作业,比如Python、Shell等,其中一个很基础的功能就是收集这些作业创建的YarnJob的applicationid。现在的实现方式是用一个正则表达式从作业的日志中解析,但这并不是一个完美的实现方式,本课题的任务就是用一种新的方式去自动收集、报错YarnJob的applicationid信息,当然了,必须对用户透明,即对用户创建的作业无侵入。

BlockFi:债权人现可提交索赔证明,将于4月1日截止:2月14日消息,已申请破产的加密借贷公司BlockFi今日发推文称:“从今天开始,BlockFi客户将通过邮件和/或电子邮件从BlockFi的索赔代理Kroll收到有关索赔流程证明的重要信息。提交索赔证明的截止日期为EST时间2023年3月31日17:00(北京时间4月1日06:00)。”

目前债务人已经建立了一个提出索赔的门户网站,债权人可通过该门户网站提交索赔证明,也可通过平邮或快递的形式提交索赔证明,但不接受电子邮件投递。

金色财经此前报道,BlockFi向美国破产法院申请允许客户从钱包账户中提款。[2023/2/14 12:05:31]

自动收集、报错YarnJob的applicationid信息

必须对用户透明,即对用户创建的作业无侵入

熟悉Java,Yarn,Hive,SparkSQL,AOP

https://github.com/apache/dolphinscheduler

https://github.com/apache/dolphinscheduler-website

gabrywu

联系方式:gabrywu@apache.org

05为DolphinScheduler添加服务初始化的工作流demo

222290459

进阶/Advanced

Java、Shell

用户在启动DolphinScheduler服务后,可以使用demo-tool程序预置工作流demo,包括但不限于简单的shell任务、逻辑组件任务、参数传递等功能,引导用户更方便地使用DolphinScheduler。

预置工作流demo的tool程序

服务启动脚本添加init模式

工作流demo包括但不限于shell任务、逻辑组件任务、参数传递等

熟悉Java、Shell

O'Leary Ventures主席 Kevin O'Leary的推特账号已被攻击:金色财经消息,据CertiK监测,O'Leary Ventures主席 Kevin O'Leary的推特账号(@kevinolearytv)已被攻击。请用户在账号修复之前不要点击其发布的任何链接。[2022/12/30 22:16:19]

https://github.com/apache/dolphinscheduler

https://github.com/apache/dolphinscheduler-website

蔡顺峰

联系方式:caishunfeng2021@gmail.com

06为DolphinScheduler添加Java任务类型

222290460

进阶/Advanced

Java、Shell、Vue、TypeScript

提供Java类型的调度任务,包括Jar和自定义Java代码两种方式,通过WEBUI定义Java运行时所需要的Resources、Libs资源文件和JVM参数,覆盖定时任务调用Java程序场景并提升用户方便配置。

可执行的Java类型任务插件

Java类型插件支持Jar方式,提供Resources、Libs资源文件和JVM参数的动态参数输入

Java类型插件支持WebUI自定义Java代码方式,提供Java类即时编译,执行

熟悉Shell、Java、SPI、Javacompiler、VUE3、TypeScript

https://github.com/apache/dolphinscheduler

https://github.com/apache/dolphinscheduler-website

Kerwin

联系方式:zhuangchong6@163.com

07支持测试任务

222290461

进阶/Advanced

Java、Vue

目前新增/修改的工作流在上线前很难验证工作流配置是否正确,只能通过在线上环境执行来验证,所以有必要支持测试环境执行任务。

数据源中心支持配置测试环境源,线上环境源可绑定一个测试环境源。任务执行及工作流执行支持“是否测试”选项,选择测试时,Worker节点在任务执行前,自动替换线上环境源为绑定的测试环境源,再配合Worker分组实现线上、测试环境的隔离,最终达到支持测试任务的目标。

数据源配置页面增加线上、测试选项,支持绑定测试源

工作流执行页面、任务执行页面新增线上、测试选项

Master节点、Worker节点解析执行环境标识,替换数据源为测试数据源

工作流实例、任务实例页面增加执行环境标识

熟悉Java、Spring、VUE3

https://github.com/apache/dolphinscheduler

https://github.com/apache/dolphinscheduler-website

温合民

联系方式:whm_777@163.com

08为DolphinScheduler的项目和资源中心增加读写权限的授权管理

222290462

基础/Basic

Java、Vue、TypeScript

当前DolphinScheduler对于权限的管控相对比较简单,希望在进行项目和资源中心授权时增加操作权限管控来进行读写权限的分离。

针对单个项目的全部内容进行读写权限区分,对单个用户针对单个项目授权只读或者读写权限

针对资源中心的全部内容进行读写权限区分,基于当前资源中心的授权内容区分出只读或者读写权限

进行授权时前端页面增加只读和读写的授权操作

熟悉Java、Spring、Vue3、TypeScript

https://github.com/apache/dolphinscheduler

https://github.com/apache/dolphinscheduler-website

孙朝和

联系方式:sunzhaohe0825@gmail.com

No.6申请参与项目

01申请资格

本活动面向年满18周岁在校学生。

暑期即将毕业的学生,只要在申请时学生证处在有效期内,就可以提交申请。

海外学生可提供录取通知书/学生卡/在读证明证明学生身份。

02参与流程

03申请建议

欢迎主动向导师发送邮件进行沟通,附上自己的方案和简历,更加了解你~

认真了解社区项目文档,与导师充分沟通。

欢迎加入交流群交流

参与贡献

随着国内开源的迅猛崛起,ApacheDolphinScheduler社区迎来蓬勃发展,为了做更好用、易用的调度,真诚欢迎热爱开源的伙伴加入到开源社区中来,为中国开源崛起献上一份自己的力量,让本土开源走向全球。

参与DolphinScheduler社区有非常多的参与贡献的方式,包括:

贡献第一个PR(文档、代码)我们也希望是简单的,第一个PR用于熟悉提交的流程和社区协作以及感受社区的友好度。

社区汇总了以下适合新手的问题列表:https://github.com/apache/dolphinscheduler/issues/5689

非新手问题列表:https://github.com/apache/dolphinscheduler/issues?q=is%3Aopen+is%3Aissue+label%3A%22volunteer+wanted%22

如何参与贡献链接:https://dolphinscheduler.apache.org/zh-cn/docs/development/contribute.html

来吧,DolphinScheduler开源社区需要您的参与,为中国开源崛起添砖加瓦吧,哪怕只是小小的一块瓦,汇聚起来的力量也是巨大的。

参与开源可以近距离与各路高手切磋,迅速提升自己的技能,如果您想参与贡献,我们有个贡献者种子孵化群,可以添加社区小助手微信(Leonard-ds),手把手教会您(贡献者不分水平高低,有问必答,关键是有一颗愿意贡献的心)。

添加小助手微信时请说明想参与贡献。

来吧,开源社区非常期待您的参与。

活动推荐

当数据资源成为生产发展乃至于生存过程中必不可少的要素,企业该如何通过数据集成帮助企业数据服务全生命周期落地呢?5月14日,数据集成框架ApacheSeaTunnel(Incubating)将邀请一站式数据集成平台ApacheInLong(Incubating)的技术专家与开源贡献者们,一同来到直播间,与大家畅谈使用ApacheSeaTunnel(Incubating)与ApacheInLong(Incubating)后的实践经历与心得体会。

直播链接:https://www.slidestalk.com/m/777

标签:APIDAGHDFSAPI价格API币DAG价格DAG币HDFS币是什么币

pepe最新价格热门资讯
一汽奔腾首届618腾粉购车节火爆来袭

记者:张永森 满足国民美好出行需求,让品质生活触手可及。6月18日,一汽奔腾首届“618腾粉购车节”火爆来袭.

1900/1/1 0:00:00
币圈:究竟是诸神的黄昏 还是破而后立,超越巅峰?

从四月份起,这个大盘真的跟个鬼一样,饼子哥从四万六直接扎穿三万大关,以太弟也是不甘示弱,也从三千五百多一猛子扎到两千二。真的是好兄弟,有路一起走.

1900/1/1 0:00:00
应该取缔公务员、事业单位考试培训机构

公招考试,分数越高越“优秀”。公招考试,根本目的是选拔出治国理政、教书育人、医疗卫生、科学研究等方面的优秀人才.

1900/1/1 0:00:00
大疆「上车」,国货之光不配?

头图来源|大疆官方 微型车主不在意智能驾驶。大疆“上车”,或许很快就要落地了。一位熟悉大疆与宝骏合作项目的内部人士向未来汽车日报确认,宝骏与大疆车载合作的首款车型宝骏KiWiEV大疆联名款即将迎.

1900/1/1 0:00:00
自动驾驶L4前装量产进入“万元时代”?

自动驾驶正快速步入“前装量产”时代,如何以更合理的成本满足海量的车型适配和场景应用需求,成为各自动驾驶公司的极力破局之点.

1900/1/1 0:00:00
“90万变700元”,“币圈茅台”崩盘!这个“炒币大国”众多投资者血本无归,赶紧加强巡逻

本文转自:每日经济新闻 在币圈,什么奇迹都可能出现。有人能一夜暴富,也有人会一夜暴负!近日在币圈引起轩然大波,被誉为虚拟币圈“茅台”的LUNA币,截至5月16日价格已经跌到了0.0001972美.

1900/1/1 0:00:00