注意
对此 Databricks Runtime 版本的支持已结束。 有关终止支持日期,请参阅终止支持历史记录。 有关所有受支持的 Databricks Runtime 版本,请参阅 Databricks Runtime 发行说明版本和兼容性。
Databricks 于 2019 年 1 月发布此版本。
以下发行说明提供了由 Apache Spark 支持的 Databricks Runtime 5.2 的相关信息。
新增功能
Databricks 顾问
Databricks 顾问会自动分析命令,并显示建议通知来帮助你提高性能。
请参阅 Databricks 顾问。
Delta Lake 功能
此 Databricks Runtime 版本添加了以下新的 Delta Lake 功能:
快速 Parquet 导入允许将 Parquet 文件导入到 Delta 表中,而无需复制数据。 此功能可以更轻松地转换现有的 Parquet 表以及将管道迁移到 Delta。
按时间顺序查看添加了使用时间戳字符串或版本、使用 SQL 语法以及时间戳表达式的 DataFrameReader 选项来查询表快照的功能。 这是一个很好的工具,适用于:
- 重新创建分析、报表或输出(例如,机器学习模型的输出),这对调试或审核非常有用,尤其是在受管制的领域中。
- 编写复杂的时态查询。
- 修复数据中的错误。
- 为针对快速变化表的一组查询提供快照隔离。
重要
此功能为试验性的。
作用域为笔记本的库
库实用工具 (dbutils.library)(旧版) 现在支持 Azure 文件系统 URI 方案 adl、abfss 和 wasbs。 借助 Databricks 实用工具库 API,你可以使用库实用工具将 Python 库(包括 Eggs、Wheels 和 PyPI)安装到 Python 笔记本。
改进
- Delta Lake
- 现在,表历史记录会显示快照版本读取,并且会显示写入到 Delta 表时使用的隔离级别。
- 增加了对
ALTER TABLE SET LOCATION的支持。 - 添加了对
UPDATEDelta 表的MERGE INTO子句中的嵌套字段(例如MERGE INTO table ON ... WHEN MATCHED THEN UPDATE SET topLevel.nestedField = ...)的支持。
- 改进了
approx_count_distinct聚合函数的性能。 - 已将 Java 从 1.8.0_181 升级到 1.8.0_191。
- 已将 Janino Java 编译器从 3.0.9 升级到 3.0.10。
- 删除了 Java 库
com.mchange.c3p0和com.mchange.mchange-commons-java。 - 已将 Python 中的 setuptools 从 40.6.2 升级到了 40.6.3。
- 升级了多个已安装的 R 库。 请参阅已安装的 R 库。
Bug 修复
- 使笔记本
display()遵守 Apache Spark 会话时区配置。
Apache Spark
Databricks Runtime 5.2 包括 Apache Spark 2.4.0。 此版本包括 Databricks Runtime 5.1 (EoS) 中包含的所有修复和改进,以及对 Spark 进行的以下其他缺陷修复和改进:
- [SPARK-26586][SS] 修复导致流以意外配置运行的争用条件
- [SPARK-26267][SS] 检测到 Kafka 的错误偏移时重试 (dbr-branch-5.x)
- [SPARK-26383][CORE] 使用具有错误 URL 的 DataFrameReader.jdbc 时的 NPE
- [SPARK-26019][PYSPARK] 允许不安全的 py4j 网关
- [SPARK-26098][WEBUI] 在“作业”页中显示关联的 SQL 查询
- [SPARK-26402] 在不区分大小写的模式下,访问具有不同大小写的嵌套字段
- [SPARK-26444][WEBUI] 阶段颜色不随着其状态的变化而改变
- [SPARK-26426][SQL] 修复 Windows 操作系统中的 ExpresionInfo 断言错误。
- [SPARK-26352][SQL] 联接重新排序不应更改输出属性的顺序
- [SPARK-26422][R] 支持在 SparkR 中禁用 Hive 支持,即使使用的是 Hive 分支不支持的 Hadoop 版本
- [SPARK-24687][CORE] 生成任务二进制文件导致致命错误时,避免作业挂起
- [SPARK-26366][SQL] ReplaceExceptWithFilter 应将 NULL 视为 False
- [SPARK-26394][CORE] 为 Utils.timeStringAsMs 修复注释错误
- [SPARK-26382][CORE] 前缀比较运算符应当处理 -0.0
- [SPARK-26352][SQL] 修复 branch-2.4 中缺少的 sameOutput
- [SPARK-26352][SQL] 联接重新排序不应更改输出属性的顺序
- [SPARK-26316][SPARK-21052] 恢复导致性能降低的哈希联接指标
- [SPARK-26315][PYSPARK] 在 BucketedRandomProjectionLSHModel 的 approxSimilarityJoin 中,自动将阈值从整数强制转换为浮点数
- [SPARK-26265][CORE] 将 freePage 置于 finally 块中
- [SPARK-26370][SQL] 为同一标识符修复高阶函数的解。
- [SPARK-21809]更改阶段页面,以使用数据表来支持列排序和搜索
- [SPARK-26355][PYSPARK] 为 PyArrow 0.11 添加解决方法。
- [SPARK-26265][CORE] 修复同时锁定 BytesToBytesMap.MapIterator 和 TaskMemoryManager 时 BytesToBytesMap.MapIterator 中出现的死锁
- [SPARK-26327][SQL] 针对 FileSourceScanExec 指标更新的 bug 修复
- [SPARK-26307][SQL] 修复使用 Hive serde 来 INSERT 分区表时的 CTAS
- [SPARK-26233][SQL] 对十进制值进行编码时 CheckOverflow
- [SPARK-26119][CORE][WEBUI] 任务摘要表应当仅包含成功任务的指标
- [SPARK-24423][SQL] 修复错误示例
- [SPARK-25860][SQL] 尽可能将 Literal(null, _) 替换为 FalseLiteral
- [SPARK-26219][CORE] 应在历史记录服务器 UI 中为失败作业更新执行程序摘要
- [SPARK-26226][SQL] 更新查询跟踪器以报告各个阶段的时间线
- [SPARK-26181][SQL] ColumnStatsMap 的 hasMinMaxStats 方法不正确
- [SPARK-26198][SQL] 修复元数据序列化 null 值引发 NPE
- [SPARK-26080][PYTHON] 在 Python 辅助角色中跳过 Windows 上的 Python 资源限制
- [SPARK-26241][SQL] 将 queryId 添加到 IncrementalExecution(向后移植)
- [SPARK-26201] 通过加密修复 python 广播
- [SPARK-26188][SQL] FileIndex:如果用户指定了架构,则不推断分区列的数据类型
- [SPARK-26186][SPARK-26184][CORE] 没有为正在进行的应用程序更新上次更新时间
- [SPARK-24341][SQL] 仅支持每行具有相同项数的 IN 子查询
- [SPARK-26137][CORE] 改用 Java 系统属性“file.separator”…
- [SPARK-26114][CORE] ExternalSorter 的 readingIterator 字段泄漏
- [SPARK-25451][SPARK-26100][CORE] 聚合指标表不显示正确的任务总数
- [SPARK-25786][CORE] 如果 ByteBuffer.hasArray 为 false,则它将引发 Kryo 的 UnsupportedOperationException
- [SPARK-24553][UI] 修复不必要的 UI 重定向
- [SPARK-26109][WEBUI] 持续时间在任务摘要指标表和任务表中不同
- [SPARK-26084][SQL] 修复未解决的 AggregateExpression.references 异常
- [SPARK-25947][SQL][BACKPORT-5.X] 通过仅选择排序列减少 ShuffleExchangeExec 中的内存使用量
- [SPARK-26118][WEB UI] 引入了用于设置 HTTP requestHeaderSize 的 spark.ui.requestHeaderSize
- [SPARK-26079][SQL] 确保 StreamingQueryListenersConfSuite 中的侦听器事件传送。
- [SPARK-26092][SS] 使用 CheckpointFileManager 写入流式处理元数据文件
- [SPARK-25883][SQL] 替代 from_avro/ 中的方法 prettyName
维护更新
请参阅 Databricks Runtime 5.2 维护更新。
系统环境
- 操作系统:Ubuntu 16.04.5 LTS
- Java:1.8.0_191
- Scala:2.11.8
- Python:2.7.12 适用于 Python 2 群集,3.5.2 适用于 Python 3 群集。
- R:R 版本 3.4.4 (2018-03-15)
-
GPU 群集:安装了以下 NVIDIA GPU 库:
- Tesla 驱动程序 375.66
- CUDA 9.0
- cuDNN 7.0
注意
尽管 Apache Spark 2.4 支持 Scala 2.12,但 Databricks Runtime 5.2 不支持它。
已安装的 Python 库
| 库 | 版本 | 库 | 版本 | 库 | 版本 |
|---|---|---|---|---|---|
| ansi2html | 1.1.1 | argparse | 1.2.1 | backports-abc | 0.5 |
| 博托 | 2.42.0 | boto3 | 1.4.1 | botocore | 1.4.70 |
| brewer2mpl | 1.4.1 | certifi | 2016.2.28 | cffi | 1.7.0 |
| chardet | 2.3.0 | colorama | 0.3.7 | configobj | 5.0.6 |
| 加密 | 1.5 | 骑行者 | 0.10.0 | Cython | 0.24.1 |
| 修饰器 | 4.0.10 | docutils | 0.14 | enum34 | 1.1.6 |
| ET-XML文件 | 1.0.1 | freetype-py | 1.0.2 | funcsigs | 1.0.2 |
| fusepy | 2.0.4 | Future | 3.2.0 | ggplot | 0.6.8 |
| html5lib | 0.999 | IDNA | 2.1 | IP地址 | 1.0.16 |
| ipython | 2.2.0 | ipython-genutils(IPython通用工具) | 0.1.0 | jdcal | 1.2 |
| Jinja2 | 2.8 | jmespath | 0.9.0 | LLVMlite | 0.13.0 |
| lxml | 3.6.4 | MarkupSafe | 0.23 | matplotlib | 1.5.3 |
| mpld3 | 0.2 | msgpack-python | 0.4.7 | ndg-httpsclient | 0.3.3 |
| 麻木 | 0.28.1 | numpy | 1.11.1 | openpyxl | 2.3.2 |
| 熊猫 | 0.19.2 | pathlib2 | 2.1.0 | 替罪羊 | 0.4.1 |
| pexpect | 4.0.1 | pickleshare | 0.7.4 | 枕头 | 3.3.1 |
| 果仁 | 18.1 | 层数 | 3.9 | prompt-toolkit | 1.0.7 |
| psycopg2 | 2.6.2 | ptyprocess | 0.5.1 | py4j | 0.10.3 |
| pyarrow | 0.8.0 | pyasn1 | 0.1.9 | Python代码解析器 | 2.14 |
| Pygments | 2.1.3 | PyGObject | 3.20.0 | pyOpenSSL | 16.0.0 |
| pyparsing | 2.2.0 | pypng | 0.0.18 | Python | 2.7.12 |
| python-dateutil | 2.5.3 | python-geohash (Python的地理哈希库) | 0.8.5 | pytz | 2016年6月1日 |
| 请求 | 2.11.1 | s3transfer | 0.1.9 | scikit-learn | 0.18.1 |
| scipy | 0.18.1 | 搜寻 | 0.32 | seaborn | 0.7.1 |
| setuptools | 40.6.3 | simplejson | 3.8.2 | simples3 | 1.0 |
| singledispatch(单一派发) | 3.4.0.3 | 6 | 1.10.0 | statsmodels | 0.6.1 |
| 龙卷风 | 5.1.1 | Traitlets | 4.3.0 | urllib3 | 1.19.1 |
| virtualenv | 16.1.0 | wcwidth | 0.1.7 | wheel | 0.32.3 |
| wsgiref | 0.1.2 |
已安装的 R 库
| 库 | 版本 | 库 | 版本 | 库 | 版本 |
|---|---|---|---|---|---|
| abind | 1.4-5 | assertthat | 0.2.0 | 回移补丁 | 1.1.3 |
| 基础映像 | 3.4.4 | BH | 1.66.0-1 | bindr | 0.1.1 |
| bindrcpp | 0.2.2 | 位 | 1.1-14 | bit64 | 0.9-7 |
| bitops | 1.0-6 | blob | 1.1.1 | 靴子 | 1.3-20 |
| 酿造/冲泡 | 1.0-6 | 调用方 | 3.1.1 | 汽车 | 3.0-2 |
| 汽车数据 | 3.0-2 | 插入符号 | 6.0-81 | cellranger (细胞测序工具) | 1.1.0 |
| chron | 2.3-53 | 类 | 7.3-14 | cli | 1.0.1 |
| 剪辑器 | 0.4.1 | clisymbols | 1.2.0 | 群集 | 2.0.7-1 |
| codetools | 0.2-15 | 色彩空间 | 1.3-2 | commonmark | 1.7 |
| 编译器 | 3.4.4 | 蜡笔 | 1.3.4 | 卷曲 | 3.2 |
| 数据表 (data.table) | 1.11.8 | 数据集 | 3.4.4 | DBI | 1.0.0 |
| desc | 1.2.0 | devtools | 2.0.1 | 摘要 | 0.6.18 |
| doMC | 1.3.5 | dplyr | 0.7.8 | fansi | 0.4.0 |
| forcats | 0.3.0 | foreach | 1.4.4 | 外国 | 0.8-70 |
| 文件系统 (if fs stands for "file system") | 1.2.6 | gbm | 2.1.4 | 泛型 | 0.0.2 |
| ggplot2 | 3.1.0 | gh | 1.0.1 | git2r | 0.23.0 |
| glmnet | 2.0-16 | 胶水 | 1.3.0 | gower | 0.1.2 |
| 图形 | 3.4.4 | grDevices | 3.4.4 | 网格 | 3.4.4 |
| gridExtra | 2.3 | gsubfn | 0.7 | gtable | 0.2.0 |
| H₂O | 3.20.0.8 | 避风港 | 2.0.0 | 赫姆斯 | 0.4.2 |
| httr | 1.4.0 | hwriter | 1.3.2 | hwriterPlus | 1.0-3 |
| ini | 0.3.1 | ipred | 0.9-8 | 迭代器 | 1.0.10 |
| jsonlite | 1.6 | KernSmooth | 2.23-15 | 标记 | 0.3 |
| 格子 | 0.20-38 | 熔岩 | 1.6.4 | lazyeval | 0.2.1 |
| 更小 | 0.3.5 | lme4 | 1.1-19 | lubridate | 1.7.4 |
| magrittr | 1.5 | mapproj | 1.2.6 | 地图 | 3.3.0 |
| maptools | 0.9-4 | 质量 | 7.3-50 | 矩阵 | 1.2-14 |
| MatrixModels | 0.4-1 | 缓存 | 1.1.0 | 方法 | 3.4.4 |
| mgcv | 1.8-25 | 默剧 | 0.6 | 明卡 | 1.2.4 |
| ModelMetrics | 1.2.2 | 蒙塞尔 | 0.5.0 | mvtnorm | 1.0-8 |
| nlme | 3.1-137 | nloptr | 1.2.1 | nnet | 7.3-12 |
| numDeriv | 2016.8-1 | openssl(开放SSL) | 1.1 | openxlsx | 4.1.0 |
| 平行 | 3.4.4 | pbkrtest | 0.4-7 | 柱子 | 1.3.1 |
| pkgbuild (软件包构建工具) | 1.0.2 | pkgconfig | 2.0.2 | pkgKitten | 0.1.4 |
| pkgload | 1.0.2 | 普洛格 | 0.2.0 | 普莱尔 | 1.8.4 |
| 赞美 | 1.0.0 | prettyunits | 1.0.2 | pROC | 1.13.0 |
| processx | 3.2.1 | prodlim | 2018.04.18 | 进度 | 1.2.0 |
| 原型 (proto) | 1.0.0 | 附注 (ps) | 1.3.0 | purrr | 0.2.5 |
| quantreg | 5.38 | R.methodsS3 | 1.7.1 | R.oo | 1.22.0 |
| R.utils | 2.7.0 | R6 | 2.3.0 | 随机森林 (randomForest) | 4.6-14 |
| rcmdcheck | 1.3.2 | RColorBrewer | 1.1-2 | Rcpp | 1.0.0 |
| RcppEigen | 0.3.3.5.0 | RcppRoll | 0.3.0 | RCurl | 1.95-4.11 |
| readr(阅读器) | 1.3.1 | readxl | 1.2.0 | 食谱 | 0.1.4 |
| 重赛 | 1.0.1 | 遥控器 | 2.0.2 | reshape2 | 1.4.3 |
| 里约 | 0.5.16 | rlang | 0.3.0.1 | RODBC | 1.3-15 |
| roxygen2 | 6.1.1 | rpart | 4.1-13 | rprojroot | 1.3-2 |
| Rserve | 1.7-3 | RSQLite | 2.1.1 | rstudioapi | 0.8 |
| 磅秤 | 1.0.0 | 会话信息 | 1.1.1 | sp | 1.3-1 |
| SparkR | 2.4.0 | 稀疏M | 1.77 | 空间 | 7.3-11 |
| 样 条 | 3.4.4 | sqldf(R环境中的数据库操作软件包) | 0.4-11 | SQUAREM | 2017年10月-1日 |
| statmod | 1.4.30 | 统计数据 | 3.4.4 | 统计数据4 | 3.4.4 |
| 字符串 | 1.2.4 | stringr | 1.3.1 | 生存 | 2.43-3 |
| tcltk | 3.4.4 | 教学演示 | 2.10 | testthat | 2.0.1 |
| tibble | 1.4.2 | tidyr | 0.8.2 | tidyselect | 0.2.5 |
| 时间日期 | 3043.102 | 工具 | 3.4.4 | usethis | 1.4.0 |
| utf8 | 1.1.4 | 实用工具 | 3.4.4 | viridisLite | 0.3.0 |
| 晶 须 | 0.3-2 | 无改动(具体含义和背景需要更多信息) | 2.1.2 | xml2 | 1.2.0 |
| xopen | 1.0.0 | 压缩包 | 1.0.0 |
已安装的 Java 库和 Scala 库(Scala 2.11 群集版本)
| 组 ID | 项目 ID | 版本 |
|---|---|---|
| antlr | antlr | 2.7.7 |
| com.amazonaws | Amazon Kinesis 客户端 | 1.8.10 |
| com.amazonaws | AWS Java SDK 自动扩展 | 1.11.313 |
| com.amazonaws | aws-java-sdk-cloudformation | 1.11.313 |
| com.amazonaws | AWS Java SDK CloudFront | 1.11.313 |
| com.amazonaws | AWS-Java-SDK-云HSM | 1.11.313 |
| com.amazonaws | AWS Java SDK 云搜索 | 1.11.313 |
| com.amazonaws | aws-java-sdk-cloudtrail | 1.11.313 |
| com.amazonaws | aws-java-sdk-cloudwatch | 1.11.313 |
| com.amazonaws | aws-java-sdk-cloudwatchmetrics | 1.11.313 |
| com.amazonaws | AWS Java SDK CodeDeploy(AWS Java 软件开发工具包 CodeDeploy) | 1.11.313 |
| com.amazonaws | aws-java-sdk-cognitoidentity | 1.11.313 |
| com.amazonaws | aws-java-sdk-cognitosync | 1.11.313 |
| com.amazonaws | aws-java-sdk-config(AWS Java SDK 配置) | 1.11.313 |
| com.amazonaws | aws-java-sdk-core (AWS Java软件开发工具包核心) | 1.11.313 |
| com.amazonaws | aws-java-sdk-datapipeline | 1.11.313 |
| com.amazonaws | AWS Java SDK Direct Connect(直连) | 1.11.313 |
| com.amazonaws | aws-java-sdk-directory | 1.11.313 |
| com.amazonaws | aws-java-sdk-dynamodb | 1.11.313 |
| com.amazonaws | aws-java-sdk-ec2 | 1.11.313 |
| com.amazonaws | aws-java-sdk-ecs | 1.11.313 |
| com.amazonaws | aws-java-sdk-efs | 1.11.313 |
| com.amazonaws | aws-java-sdk-elasticache | 1.11.313 |
| com.amazonaws | aws-java-sdk-elasticbeanstalk(AWS Java 开发工具包 - Elastic Beanstalk) | 1.11.313 |
| com.amazonaws | aws-java-sdk-弹性负载均衡 | 1.11.313 |
| com.amazonaws | aws-java-sdk-elastictranscoder(AWS Java SDK弹性转码器) | 1.11.313 |
| com.amazonaws | aws-java-sdk-emr | 1.11.313 |
| com.amazonaws | AWS Java SDK Glacier | 1.11.313 |
| com.amazonaws | aws-java-sdk-iam | 1.11.313 |
| com.amazonaws | AWS Java SDK 导入导出 (aws-java-sdk-importexport) | 1.11.313 |
| com.amazonaws | aws-java-sdk-kinesis | 1.11.313 |
| com.amazonaws | AWS Java 软件开发工具包 - KMS | 1.11.313 |
| com.amazonaws | aws-java-sdk-lambda | 1.11.313 |
| com.amazonaws | aws-java-sdk-logs(AWS Java开发包日志) | 1.11.313 |
| com.amazonaws | AWS-Java-SDK-机器学习 | 1.11.313 |
| com.amazonaws | aws-java-sdk-opsworks | 1.11.313 |
| com.amazonaws | aws-java-sdk-rds | 1.11.313 |
| com.amazonaws | aws-java-sdk-redshift | 1.11.313 |
| com.amazonaws | aws-java-sdk-route53 | 1.11.313 |
| com.amazonaws | aws-java-sdk-s3 | 1.11.313 |
| com.amazonaws | aws-java-sdk-ses | 1.11.313 |
| com.amazonaws | aws-java-sdk-simpledb | 1.11.313 |
| com.amazonaws | aws-java-sdk-simpleworkflow | 1.11.313 |
| com.amazonaws | aws-java-sdk-sns | 1.11.313 |
| com.amazonaws | aws-java-sdk-sqs | 1.11.313 |
| com.amazonaws | aws-java-sdk-ssm | 1.11.313 |
| com.amazonaws | AWS Java SDK 存储网关 | 1.11.313 |
| com.amazonaws | aws-java-sdk-sts | 1.11.313 |
| com.amazonaws | AWS Java SDK支持 | 1.11.313 |
| com.amazonaws | AWS-Java-SDK-SWF-库 | 1.11.22 |
| com.amazonaws | aws-java-sdk-workspaces | 1.11.313 |
| com.amazonaws | jmespath-java | 1.11.313 |
| com.carrotsearch | hppc | 0.7.2 |
| com.chuusai | shapeless_2.11 | 2.3.2 |
| com.clearspring.analytics | 数据流 | 2.7.0 |
| com.databricks | Rserve | 1.8-3 |
| com.databricks | dbml-local_2.11 | 0.5.0-db8-spark2.4 |
| com.databricks | dbml-local_2.11-tests | 0.5.0-db8-spark2.4 |
| com.databricks | jets3t | 0.7.1-0 |
| com.databricks.scalapb | compilerplugin_2.11 | 0.4.15-9 |
| com.databricks.scalapb | scalapb-runtime_2.11 | 0.4.15-9 |
| com.esotericsoftware | kryo-shaded | 4.0.2 |
| com.esotericsoftware | minlog | 1.3.0 |
| com.fasterxml | 同学 | 1.0.0 |
| com.fasterxml.jackson.core | Jackson注解 | 2.6.7 |
| com.fasterxml.jackson.core | jackson-core | 2.6.7 |
| com.fasterxml.jackson.core | jackson-databind | 2.6.7.1 |
| com.fasterxml.jackson.dataformat | jackson-dataformat-cbor(Jackson的CBOR数据格式) | 2.6.7 |
| com.fasterxml.jackson.datatype | jackson-datatype-joda(杰克逊数据类型-Joda) | 2.6.7 |
| com.fasterxml.jackson.module | jackson-module-paranamer | 2.6.7 |
| com.fasterxml.jackson.module | jackson-module-scala_2.11 | 2.6.7.1 |
| com.github.fommil | jniloader | 1.1 |
| com.github.fommil.netlib | 核心 | 1.1.2 |
| com.github.fommil.netlib | native_ref-java | 1.1 |
| com.github.fommil.netlib | native_ref-java-natives | 1.1 |
| com.github.fommil.netlib | 原生系统-Java | 1.1 |
| com.github.fommil.netlib | native_system-Java原生代码 | 1.1 |
| com.github.fommil.netlib | netlib-native_ref-linux-x86_64-natives | 1.1 |
| com.github.fommil.netlib | netlib-native_system-linux-x86_64-natives | 1.1 |
| com.github.luben | zstd-jni | 1.3.2-2 |
| com.github.rwl | jtransforms | 2.4.0 |
| com.google.code.findbugs | jsr305 | 2.0.1 |
| com.google.code.gson | gson | 2.2.4 |
| com.google.guava | 番石榴 | 15.0 |
| com.google.protobuf | protobuf-java | 2.6.1 |
| com.googlecode.javaewah | JavaEWAH | 0.3.2 |
| com.h2database | h2 | 1.3.174 |
| com.jcraft | jsch | 0.1.50 |
| com.jolbox | bonecp | 0.8.0.RELEASE |
| com.microsoft.azure | Azure 数据湖存储 SDK | 2.2.8 |
| com.microsoft.sqlserver | mssql-jdbc | 6.2.2.jre8 |
| com.ning | compress-lzf | 1.0.3 |
| com.sun.mail | javax.mail | 1.5.2 |
| com.thoughtworks.paranamer | paranamer | 2.8 |
| com.trueaccord.lenses | 镜片_2.11 | 0.3 |
| com.twitter | chill-java | 0.9.3 |
| com.twitter | chill_2.11 | 0.9.3 |
| com.twitter | Parquet-Hadoop数据包 | 1.6.0 |
| com.twitter | util-app_2.11 | 6.23.0 |
| com.twitter | util-core_2.11 | 6.23.0 |
| com.twitter | util-jvm_2.11 | 6.23.0 |
| com.typesafe | 配置 | 1.2.1 |
| com.typesafe.scala-logging | scala-logging-api_2.11(Scala日志库) | 2.1.2 |
| com.typesafe.scala-logging | scala-logging-slf4j_2.11 | 2.1.2 |
| com.univocity | univocity-parsers解析器 | 2.7.3 |
| com.vlkan | FlatBuffers | 1.2.0-3f79e055 |
| com.zaxxer | HikariCP | 3.1.0 |
| commons-beanutils | commons-beanutils | 1.7.0 |
| commons-beanutils | commons-beanutils-core | 1.8.0 |
| commons-cli | commons-cli | 1.2 |
| commons-codec(公共编解码器) | commons-codec(公共编解码器) | 1.10 |
| commons-collections (通用集合库) | commons-collections (通用集合库) | 3.2.2 |
| commons-configuration | commons-configuration | 1.6 |
| commons-dbcp | commons-dbcp | 1.4 |
| commons-digester | commons-digester | 1.8 |
| commons-httpclient | commons-httpclient | 3.1 |
| commons-io | commons-io | 2.4 |
| commons-lang | commons-lang | 2.6 |
| commons-logging(日志库) | commons-logging(日志库) | 1.1.3 |
| commons-net | commons-net | 3.1 |
| commons-pool | commons-pool | 1.5.4 |
| info.ganglia.gmetric4j | gmetric4j | 1.0.7 |
| io.airlift | 空气压缩机 | 0.10 |
| io.dropwizard.metrics | metrics-core | 3.1.5 |
| io.dropwizard.metrics | metrics-ganglia | 3.1.5 |
| io.dropwizard.metrics | metrics-graphite | 3.1.5 |
| io.dropwizard.metrics | 指标-健康检查 | 3.1.5 |
| io.dropwizard.metrics | metrics-jetty9 | 3.1.5 |
| io.dropwizard.metrics | metrics-json | 3.1.5 |
| io.dropwizard.metrics | 指标-JVM | 3.1.5 |
| io.dropwizard.metrics | metrics-log4j | 3.1.5 |
| io.dropwizard.metrics | 指标-Servlets | 3.1.5 |
| io.netty | netty | 3.9.9.Final |
| io.netty | netty-all | 4.1.17.Final |
| io.prometheus | simpleclient | 0.0.16 |
| io.prometheus | 简单客户端通用 | 0.0.16 |
| io.prometheus | simpleclient_dropwizard | 0.0.16 |
| io.prometheus | simpleclient_servlet | 0.0.16 |
| io.prometheus.jmx | 收集器 | 0.7 |
| javax.activation | 激活 | 1.1.1 |
| javax.annotation | javax.annotation-api (Java中的注解API) | 1.2 |
| javax.el | javax.el-api | 2.2.4 |
| javax.jdo | jdo-api | 3.0.1 |
| javax.servlet | javax.servlet-api | 3.1.0 |
| javax.servlet.jsp | jsp-api | 2.1 |
| javax.transaction | jta | 1.1 |
| javax.validation | validation-api | 1.1.0.Final |
| javax.ws.rs | javax.ws.rs-api | 2.0.1 |
| javax.xml.bind | jaxb-api | 2.2.2 |
| javax.xml.stream | stax-api | 1.0-2 |
| javolution | javolution | 5.5.1 |
| jline | jline | 2.11 |
| joda-time | joda-time | 2.9.3 |
| log4j | apache-log4j-extras | 1.2.17 |
| log4j | log4j | 1.2.17 |
| net.hydromatic | eigenbase-属性 | 1.1.5 |
| net.razorvine | 辉岩 | 4.13 |
| net.sf.jpam | 杰潘 | 1.1 |
| net.sf.opencsv | opencsv | 2.3 |
| net.sf.supercsv | super-csv | 2.2.0 |
| net.snowflake | snowflake-ingest-sdk | 0.9.5 |
| net.snowflake | snowflake-jdbc | 3.6.15 |
| net.snowflake | spark-snowflake_2.11 | 2.4.10-spark_2.4 |
| net.sourceforge.f2j | arpack_combined_all | 0.1 |
| org.acplt | oncrpc | 1.0.7 |
| org.antlr | ST4 | 4.0.4 |
| org.antlr | antlr-runtime | 3.4 |
| org.antlr | antlr4-runtime | 4.7 |
| org.antlr | stringtemplate (字符串模板) | 3.2.1 |
| org.apache.ant | 蚂蚁 | 1.9.2 |
| org.apache.ant | ant-jsch(Java的SSH库) | 1.9.2 |
| org.apache.ant | ant-launcher | 1.9.2 |
| org.apache.arrow | arrow-format | 0.10.0 |
| org.apache.arrow | 箭头内存 | 0.10.0 |
| org.apache.arrow | 箭头向量 | 0.10.0 |
| org.apache.avro | avro | 1.8.2 |
| org.apache.avro | avro-ipc | 1.8.2 |
| org.apache.avro | avro-mapred-hadoop2 | 1.8.2 |
| org.apache.calcite | calcite-avatica | 1.2.0(孵化中) |
| org.apache.calcite | 如果没有标准的中文翻译且是专有名称,“calcite-core”可以保持不变。根据具体情况和语境决定是否需要翻译该术语。 | 1.2.0(孵化中) |
| org.apache.calcite | calcite-linq4j | 1.2.0(孵化中) |
| org.apache.commons | commons-compress | 1.8.1 |
| org.apache.commons | commons-crypto | 1.0.0 |
| org.apache.commons | commons-lang3 | 3.5 |
| org.apache.commons | commons-math3 | 3.4.1 |
| org.apache.curator | 策展人与客户 | 2.7.1 |
| org.apache.curator | curator-framework | 2.7.1 |
| org.apache.curator | 策展人食谱 | 2.7.1 |
| org.apache.derby | 德比 | 10.12.1.1 |
| org.apache.directory.api | api-asn1-api | 1.0.0-M20 |
| org.apache.directory.api | api-util | 1.0.0-M20 |
| org.apache.directory.server | apacheds-i18n | 2.0.0-M15 |
| org.apache.directory.server | apacheds-kerberos-codec | 2.0.0-M15 |
| org.apache.hadoop | hadoop-annotations | 2.7.3 |
| org.apache.hadoop | hadoop-auth | 2.7.3 |
| org.apache.hadoop | Hadoop客户端 | 2.7.3 |
| org.apache.hadoop | hadoop-common | 2.7.3 |
| org.apache.hadoop | Hadoop 分布式文件系统 (Hadoop-HDFS) | 2.7.3 |
| org.apache.hadoop | Hadoop MapReduce 客户端应用 | 2.7.3 |
| org.apache.hadoop | hadoop-mapreduce-客户端-通用 | 2.7.3 |
| org.apache.hadoop | Hadoop-MapReduce-客户端-核心 | 2.7.3 |
| org.apache.hadoop | hadoop-mapreduce-client-jobclient | 2.7.3 |
| org.apache.hadoop | hadoop-mapreduce-client-shuffle | 2.7.3 |
| org.apache.hadoop | hadoop-yarn-api | 2.7.3 |
| org.apache.hadoop | Hadoop-YARN客户端 | 2.7.3 |
| org.apache.hadoop | hadoop-yarn-common | 2.7.3 |
| org.apache.hadoop | hadoop-yarn-server-common | 2.7.3 |
| org.apache.htrace | htrace-core | 3.1.0 孵化 |
| org.apache.httpcomponents | httpclient | 4.5.4 |
| org.apache.httpcomponents | httpcore | 4.4.8 |
| org.apache.ivy | 常春藤 | 2.4.0 |
| \ org.apache.orc | orc-core-nohive | 1.5.2 |
| \ org.apache.orc | orc-mapreduce-nohive | 1.5.2 |
| \ org.apache.orc | orc-shims | 1.5.2 |
| org.apache.parquet | parquet-column | 1.10.1-databricks3 |
| org.apache.parquet | parquet-common | 1.10.1-databricks3 |
| org.apache.parquet | Parquet 编码 | 1.10.1-databricks3 |
| org.apache.parquet | Parquet格式 | 2.4.0 |
| org.apache.parquet | parquet-hadoop | 1.10.1-databricks3 |
| org.apache.parquet | parquet-jackson | 1.10.1-databricks3 |
| org.apache.thrift | libfb303 | 0.9.3 |
| org.apache.thrift | libthrift | 0.9.3 |
| org.apache.xbean | xbean-asm6-shaded | 4.8 |
| org.apache.zookeeper | 动物园管理员 | 3.4.6 |
| org.codehaus.jackson | jackson-core-asl (Jackson核心库 - ASL) | 1.9.13 |
| org.codehaus.jackson | jackson-jaxrs | 1.9.13 |
| org.codehaus.jackson | 杰克逊映射器-ASL | 1.9.13 |
| org.codehaus.jackson | jackson-xc | 1.9.13 |
| org.codehaus.janino | commons-compiler(通用编译器) | 3.0.10 |
| org.codehaus.janino | 雅尼诺 | 3.0.10 |
| org.datanucleus | datanucleus-api-jdo | 3.2.6 |
| org.datanucleus | datanucleus-core | 3.2.10 |
| org.datanucleus | datanucleus-rdbms | 3.2.9 |
| org.eclipse.jetty | jetty-client | 9.3.20.v20170531 |
| org.eclipse.jetty | jetty-continuation | 9.3.20.v20170531 |
| org.eclipse.jetty | Jetty-HTTP | 9.3.20.v20170531 |
| org.eclipse.jetty | jetty-io | 9.3.20.v20170531 |
| org.eclipse.jetty | jetty-jndi | 9.3.20.v20170531 |
| org.eclipse.jetty | jetty-plus | 9.3.20.v20170531 |
| org.eclipse.jetty | jetty-proxy | 9.3.20.v20170531 |
| org.eclipse.jetty | 码头安全 | 9.3.20.v20170531 |
| org.eclipse.jetty | jetty-server(Jetty服务器) | 9.3.20.v20170531 |
| org.eclipse.jetty | jetty-servlet | 9.3.20.v20170531 |
| org.eclipse.jetty | jetty-servlets | 9.3.20.v20170531 |
| org.eclipse.jetty | jetty-util(Jetty工具库) | 9.3.20.v20170531 |
| org.eclipse.jetty | Jetty 网页应用 | 9.3.20.v20170531 |
| org.eclipse.jetty | jetty-xml | 9.3.20.v20170531 |
| org.fusesource.leveldbjni | leveldbjni-all | 1.8 |
| org.glassfish.hk2 | hk2-api | 2.4.0-b34 |
| org.glassfish.hk2 | hk2-定位器 | 2.4.0-b34 |
| org.glassfish.hk2 | hk2-utils | 2.4.0-b34 |
| org.glassfish.hk2 | osgi-resource-locator (OSGi 资源定位器) | 1.0.1 |
| org.glassfish.hk2.external | aopalliance-repackaged | 2.4.0-b34 |
| org.glassfish.hk2.external | javax.inject | 2.4.0-b34 |
| org.glassfish.jersey.bundles.repackaged | jersey-guava | 2.22.2 |
| org.glassfish.jersey.containers | jersey-container-servlet | 2.22.2 |
| org.glassfish.jersey.containers | Jersey容器Servlet核心 | 2.22.2 |
| org.glassfish.jersey.core | jersey-client | 2.22.2 |
| org.glassfish.jersey.core | jersey-common | 2.22.2 |
| org.glassfish.jersey.core | jersey-server | 2.22.2 |
| org.glassfish.jersey.media | jersey-media-jaxb (Jersey 媒体库 - JAXB) | 2.22.2 |
| org.hibernate | Hibernate验证器 | 5.1.1.Final |
| org.iq80.snappy | 活泼 | 0.2 |
| org.javassist | javassist | 3.18.1-GA |
| org.jboss.logging | jboss 日志 | 3.1.3.GA |
| org.jdbi | jdbi | 2.63.1 |
| org.joda | joda-convert | 1.7 |
| org.jodd | jodd-core | 3.5.2 |
| org.json4s | json4s-ast_2.11 | 3.5.3 |
| org.json4s | json4s-core_2.11 | 3.5.3 |
| org.json4s | json4s-jackson_2.11 | 3.5.3 |
| org.json4s | json4s-scalap_2.11 | 3.5.3 |
| org.lz4 | lz4-java | 1.4.0 |
| org.mariadb.jdbc | mariadb-java-client | 2.1.2 |
| org.mockito | mockito-all | 1.9.5 |
| org.objenesis | objenesis | 2.5.1 |
| org.postgresql | postgresql | 42.1.4 |
| org.roaringbitmap | RoaringBitmap | 0.5.11 |
| .rocksdb | rocksdbjni | 5.2.1 |
| org.rosuda.REngine | REngine | 2.1.0 |
| org.scala-lang | scala-compiler_2.11 | 2.11.8 |
| org.scala-lang | scala-library_2.11 | 2.11.8 |
| org.scala-lang | scala-reflect_2.11 | 2.11.8 |
| org.scala-lang.modules | scala-parser-combinators_2.11 | 1.0.2 |
| org.scala-lang.modules | scala-xml_2.11 | 1.0.5 |
| org.scala-sbt | 测试界面 | 1.0 |
| org.scalacheck | scalacheck_2.11 | 1.12.5 |
| org.scalactic | scalactic_2.11 | 3.0.3 |
| org.scalanlp | breeze-macros_2.11 | 0.13.2 |
| org.scalanlp | breeze_2.11 | 0.13.2 |
| org.scalatest | scalatest_2.11 | 3.0.3 |
| org.slf4j | jcl-over-slf4j | 1.7.16 |
| org.slf4j | jul-to-slf4j | 1.7.16 |
| org.slf4j | slf4j-api | 1.7.16 |
| org.slf4j | slf4j-log4j12 | 1.7.16 |
| org.spark-project.hive | hive-beeline | 1.2.1.spark2 |
| org.spark-project.hive | hive-cli | 1.2.1.spark2 |
| org.spark-project.hive | hive-exec | 1.2.1.spark2 |
| org.spark-project.hive | hive-jdbc | 1.2.1.spark2 |
| org.spark-project.hive | Hive 元数据存储器 | 1.2.1.spark2 |
| org.spark-project.spark | 未使用 | 1.0.0 |
| org.spire-math | spire-macros_2.11 | 0.13.0 |
| org.spire-math | spire_2.11 | 0.13.0 |
| org.springframework | spring-core (Spring核心模块) | 4.1.4.RELEASE |
| org.springframework | 春季测试 | 4.1.4.RELEASE |
| org.tukaani | xz | 1.5 |
| org.typelevel | 机械师_2.11 | 0.6.1 |
| org.typelevel | macro-compat_2.11 | 1.1.1 |
| org.xerial | sqlite-jdbc | 3.8.11.2 |
| org.xerial.snappy | snappy-java | 1.1.7.1 |
| org.yaml | snakeyaml | 1.16 |
| oro | oro | 2.0.8 |
| software.amazon.ion | ion-java | 1.0.2 |
| 斯塔克斯 | stax-api | 1.0.1 |
| xmlenc | xmlenc | 0.52 |