【Linkis v0.10.0】分布式服务框架+金融级多租户隔离资源管控权限隔离等企业级特性
本站所有源码亲测可搭建!仅提供源代码学习参考!如需代安装代配置请联系网站客服获取报价!
源码简介与安装说明:
Linkis是一个打通了多个计算存储引擎如:Spark、TiSpark、Hive、Python和HBase等,对外提供统一REST/WebSocket/JDBC接口,提交执行SQL、Pyspark、HiveQL、Scala等脚本的计算中间件。
Linkis基于微服务架构,提供了金融级多租户隔离、资源管控、权限隔离等企业级特性,支持统一变量、UDF、函数、用户资源文件管理,具备高并发、高性能、高可用的大数据作业/请求全生命周期管理能力。
核心特点:
1、统一作业执行服务:一个分布式的REST/WebSocket服务,用于接收用户提交的各种脚本请求。
目前支持的计算引擎有:Spark、Python、TiSpark、Hive和Shell等。
支持的脚本语言有:SparkSQL、Spark Scala、Pyspark、R、Python、HQL和Shell等;
2、资源管理服务: 支持实时管控每个系统和用户的资源使用情况,限制系统和用户的资源使用量和并发数,并提供实时的资源动态图表,方便查看和管理系统和用户的资源;
目前已支持的资源类型:Yarn队列资源、服务器(CPU和内存)、用户并发个数等。
3、应用管理服务:管理所有系统的所有用户应用,包括离线批量应用、交互式查询应用和实时流式应用,为离线和交互式应用提供强大的复用能力,并提供应用全生命周期管理,自动释放用户多余的空闲应用;
4、统一存储服务:通用的IO架构,能快速对接各种存储系统,提供统一调用入口,支持所有常用格式数据,集成度高,简单易用;
5、统一上下文服务:统一用户和系统资源文件(JAR、ZIP、Properties等),用户、系统、计算引擎的参数和变量统一管理,一处设置,处处自动引用;
6、物料库:系统和用户级物料管理,可分享和流转,支持全生命周期自动管理;
7、元数据服务:实时的库表结构和分区情况展示。
RoadMap
1. Linkis管理台
用户可以查看和管理自己的Job
用户可以查看和管理自己的引擎
用户可以查看Yarn的资源使用情况和用户资源使用排名
用户可以配置引擎的启动参数
用户可以设置变量
2. 支持标签功能
支持给EngineManager打标签
启动引擎时,支持为引擎打标签
支持通过标签访问目标引擎
3. AppGovernance应用治理实现
系统级、用户级应用全生命周期管理,包括离线批量、交互式查询和实时流式应用
为离线和交互式应用提供复用能力和智能切换能力
智能限流、应用智能保护
4. 支持Flink和Spark Structured Streaming
胖猫测试截图:
1.本站资源都是白菜价出售,同样的东西,我们不卖几百,也不卖几十,甚至才卖几块钱,一个永久会员能下载全站100%源码了,所以单独购买也好,普通会员也好均不提供相关技术服务。只有终身会员有远程搭建指导。
2.如果源码下载地址失效请 联系站长QQ进行补发。
3.本站所有资源仅用于学习及研究使用,请必须在24小时内删除所下载资源,切勿用于商业用途,否则由此引发的法律纠纷及连带责任本站和发布者概不承担。资源除标明原创外均来自网络整理,版权归原作者或本站特约原创作者所有,如侵犯到您权益请联系本站删除!
4.本站站内提供的所有可下载资源(软件等等)本站保证未做任何负面改动(不包含修复bug和完善功能等正面优化或二次开发);但本网站不能保证资源的准确性、安全性和完整性,用户下载后自行斟酌,我们以交流学习为目的,并不是所有的源码都100%无错或无bug;同时本站用户必须明白,【胖猫资源】对提供下载的软件等不拥有任何权利(本站原创和特约原创作者除外),其版权归该资源的合法拥有者所有。
5.请您认真阅读上述内容,购买即以为着您同意上述内容。