다음을 통해 공유


Databricks Runtime 5.3(EoS)

참고

이 Databricks Runtime 버전에 대한 지원이 종료되었습니다. 지원 종료 날짜는 지원 종료 기록을 참조하세요. 지원되는 모든 Databricks Runtime 버전은 Databricks Runtime 릴리스 정보 버전 및 호환성을 참조하세요.

Databricks는 2019년 4월에 이 버전을 릴리스했습니다.

다음 릴리스 정보는 Apache Spark에서 제공하는 Databricks Runtime 5.3에 대한 정보를 제공합니다.

새로운 기능

Databricks Delta

시간 여행 GA

델타 시간 이동이 일반 사용 가능으로 전환되었습니다. 타임스탬프 문자열 또는 버전을 사용하여 테이블의 스냅샷을 쿼리할 수 있는 기능을 추가하며, 이는 타임스탬프 표현식을 위한 DataFrameReader 옵션과 함께 SQL 구문을 사용합니다.

SELECT count(*) FROM events TIMESTAMP AS OF timestamp_expression
SELECT count(*) FROM events VERSION AS OF version

시간 이동에는 다음과 같은 여러 사용 사례가 있습니다.

  • 분석, 보고서 또는 출력(예: 기계 학습 모델의 출력)을 다시 만듭니다. 이는 규제가 적용되는 업계에서 디버깅 또는 감사를 진행하는 데 유용합니다.
  • 복잡한 임시 쿼리를 작성합니다.
  • 데이터의 실수를 수정합니다.
  • 데이터가 빠르게 변경되는 테이블의 쿼리 집합에 스냅샷 격리를 제공합니다.

Delta 시간 여행

Delta Lake 테이블 기록 작업을 참조하세요.

델타 공개 미리 보기로 MySQL 테이블 복제

Spark 분석 또는 데이터 과학 워크플로의 다운스트림 사용을 위해 MySQL 테이블에서 델타로 직접 데이터를 스트리밍합니다. MySQL이 다른 인스턴스에 복제하는 데 사용하는 것과 동일한 전략을 사용하여, binlog가 이후 다음과 같이 Databricks로 처리되고 스트리밍되는 업데이트를 식별하는 데 사용됩니다.

  • 데이터베이스 로그에서 변경 이벤트를 읽습니다.
  • Databricks에 이벤트를 스트리밍합니다.
  • 델타 테이블에 동일한 순서로 씁니다.
  • 원본에서 연결이 끊어져도 상태를 유지합니다.

프라이빗 미리 보기 기능

이 릴리스에는 Delta Lake에 대한 다음과 같은 프라이빗 미리 보기 기능이 포함되어 있습니다.

  • Presto가 델타 테이블을 직접 쿼리할 수 있도록 해 주는 실험적 명령이 추가되었습니다.
  • 자동 최적화는 델타 테이블에 대한 개별적인 쓰는 중에 파일 레이아웃을 최적화하고 작은 파일이 델타 테이블에 누적되는 것을 방지하여 빠른 쿼리 성능을 유지합니다. 이에 더해, 분할된 델타 테이블에 대한 쓰기 및 upsert는 쓰기에 도입된 적응형 섞기 덕분에 속도가 향상될 수 있습니다.

미리 보기에 참여하려면 Databricks 계정 팀에 문의하세요.

딥 러닝 워크로드에 최적화된 DBFS FUSE 폴더

이제 Azure Databricks가 최적화된 FUSE 탑재를 제공합니다. init 스크립트를 적용하지 않고도 학습 및 유추 중에 고성능으로 데이터에 액세스할 수 있습니다. dbfs:/ml에 저장되고 file:/dbfs/ml에서 로컬로 액세스할 수 있는 데이터는 이제 이 최적화된 FUSE 마운트에 의해 지원됩니다. 기계 학습 및 딥 러닝을 위한 데이터 로드를 참조하세요.

향상된 기능

  • 노트북 전용 라이브러리
    • 에서 dbutils.library.installPyPI 지원.
    • Azure 파일 시스템에 있는 wasbs, adls, abfss를 포함한 라이브러리에 대한 노트북 범위 라이브러리 설치 지원.
    • 지원되지 않는 대상에서 Notebook 범위 라이브러리에 대한 오류 메시지 개선. 예: “기계 학습용 Databricks Runtime에서는 라이브러리 유틸리티를 사용할 수 없습니다.”
  • 서비스 주체에 계정 차원의 "Storage Blob 데이터 기여자" RBAC 역할을 부여하지 않고도 Azure ADLS(Data Lake Storage)에 연결합니다.
  • Databricks Advisor 쿼리 성능을 개선하기 위한 추가 힌트가 있습니다.
    • 파티션당 작은 파일이 많은 경우 -> 테이블을 델타로 변환하고 OPTIMIZE를 실행하세요.
    • 고도로 선택적인 필터가 있는 경우 -> 델타로 변환하고 ZORDER BY를 사용하세요.
    • Hive에서의 메타데이터 페치가 병목 상태가 되는 경우 -> 테이블을 델타로 변환하세요.
  • Ubuntu가 16.04.5 LTS에서 16.04.6 LTS로 업그레이드되었습니다.
  • Scala 2.11이 2.11.8에서 2.11.12로 업그레이드되었습니다.
  • 설치된 일부 Python 라이브러리를 업그레이드했습니다.
    • pip: 18.1에서 19.0.3으로
    • setuptools: 40.6.3에서 40.8.0으로
    • wheel: 0.32.3에서 0.33.1로
  • R이 3.4.4에서 3.5.2로 업그레이드되었습니다.
  • 설치된 여러 R 라이브러리를 업그레이드했습니다. 설치된 R 라이브러리를 참조하세요.

사용 중단 권장

  • 구조적 스트리밍용 Apache Kafka 0.8 커넥터가 더 이상 지원되지 않습니다. Databricks Runtime 5.3에는 포함되어 있지만 향후 Databricks Runtime 릴리스에서 제거됩니다.
  • Databricks ML 모델 내보내기는 더 이상 사용되지 않으며 Databricks Runtime 6.0에서 제거됩니다. 대신 MLeap을 사용하여 모델을 가져오거나 내보내세요.
  • 구성 옵션에서 spark.databricks.pyspark.enableExecutorFsPerms가 제거되었습니다.

버그 수정

  • 테이블 ACL이 활성화된 클러스터에 대해 클러스터 전체에 Python Egg 라이브러리 설치가 수정되었습니다.
  • 명령이 실행되기 전에 취소가 호출되는 경우를 수정하여 Python 명령 취소를 개선했습니다.
  • 테이블 ACL에서 버그가 수정되었습니다. 이제 데이터베이스 또는 카탈로그에서 개체를 나열하면 볼 수 있는 권한이 있는 개체만 표시됩니다.

Apache Spark

Databricks Runtime 5.3은 Apache Spark 2.4.0을 포함합니다. 이 릴리스에는 Databricks Runtime 5.2(EoS)포함된 모든 Spark 수정 및 개선 사항뿐만 아니라 Spark에 대한 다음과 같은 추가 버그 수정 및 개선 사항이 포함되어 있습니다.

  • [SPARK-27134][SQL] array_distinct 함수가 배열로 구성된 배열을 포함하는 열에서 올바르게 작동하지 않음
  • [SPARK-24669][SQL] DROP DATABASE CASCADE의 경우 테이블 무효화
  • [SPARK-26572][SQL] 집계 코드 생성 결과 평가 수정
  • [SPARK-27046][DSTREAMS] 설명서에서 SPARK-19185 관련 참조 제거
  • [SPARK-26449][PYTHON] DataFrame API에 변환 메서드 추가
  • [SPARK-26740][SQL] Spark 3.0에 의해 작성된 타임스탬프/날짜 열 통계 읽기
  • [SPARK-26909][SQL] HashAggregate에서 unsafeRow.hashCode()를 해시 값으로 사용
  • [SPARK-26990][SQL] FileIndex: 가능한 경우 사용자가 지정한 필드 이름 사용
  • [SPARK-26851][SQL] CachedRDDBuilder에서 이중 검사 잠금 수정
  • [SPARK-26864][SQL] Python UDF가 왼쪽 세미 조인 조건으로 사용된 경우 쿼리가 올바르지 않은 결과를 반환할 수 있음
  • [SPARK-26887][SQL][PYTHON] 중간 데이터로 datetime64를 만드는 대신 datetime.date 직접 생성
  • [SPARK-26859][SQL] 벡터화되지 않은 ORC 역직렬 변환기에서 필드 작성기 인덱스 버그 수정
  • [SPARK-26864][SQL] Python UDF가 조인 조건으로 사용되고 udf가 왼쪽 세미 조인의 양쪽 다리의 특성을 모두 사용하는 경우 쿼리가 올바르지 않은 결과를 반환할 수 있음
  • [SPARK-24360][SPARK-26091][BACKPORT][SQL] Hive 3.1 메타스토어 지원
  • [SPARK-26873][SQL] 일관된 타임스탬프를 사용하여 Hadoop 작업 ID 빌드
  • [SPARK-26734][STREAMING] 큰 블록 큐를 갖는 StackOverflowError 수정
  • [SPARK-26758][CORE] spark.dynamiAllocation.executorIdleTimeout 값 이후에 유휴 실행기가 종료되지 않음
  • [SPARK-26751][SQL] 문이 백그라운드에서 실행되고 HiveSQLException이 아닌 예외를 throw하는 경우의 메모리 누수 수정
  • [SPARK-26806][SS] EventTimeStats.merge가 0을 올바르게 처리해야 함
  • [SPARK-26745][SPARK-24959][SQL] JSON 데이터 원본에서 개수 최적화 되돌리기
  • [SPARK-26757][GRAPHX] 빈 가장자리/꼭짓점 RDD의 count에 대해 0 반환
  • [SPARK-26726] 브로드캐스트 변수가 사용하는 메모리의 양을 UI 디스플레이에 동기화
  • [SPARK-26718][SS] Apache Kafka의 rate limit 계산에서 정수형 오버플로 수정
  • [SPARK-26708][SQL] SQL 캐시의 캐시된 RDD와 실제 계획 간의 불일치로 인한 잘못된 결과
  • [SPARK-26735][SQL] 특수 식의 계획 무결성 확인
  • [SPARK-26619][SQL] SerializeFromObject에서 사용되지 않는 직렬 변환기 정리
  • [SPARK-26379][SS] 더미 TimeZoneId를 사용하여 CurrentBatchTimestamp의 UnresolvedException 방지
  • [SPARK-26495][SQL] SelectedField 추출기 간소화
  • [SPARK-26379][SS] 스트리밍 쿼리에 current_timestamp/current_date를 추가할 때 발생하는 문제 수정
  • [SPARK-26709][SQL] OptimizeMetadataOnlyQuery가 빈 레코드를 올바르게 처리하지 않음
  • [SPARK-26680][SQL] 조건이 적절한 경우 적극적으로 inputVars 생성
  • [SPARK-26682][SQL] Hadoop에 대해 attemptNumber 대신 taskAttemptID 사용
  • [SPARK-26706][SQL] ByteType의 illegalNumericPrecedence 수정
  • [SPARK-26228][MLLIB] Gramian 행렬을 계산할 때 발생하는 OOM 문제
  • [SPARK-26665][CORE] BlockTransferService.fetchBlockSync가 영원히 중단될 수 있는 버그 수정
  • [SPARK-26549][PYSPARK] Python 작업자 재사용이 지연 반복 가능 범위를 병렬화하는 데 효과를 갖지 않는 문제 수정
  • [SPARK-26351][MLLIB] mllib 평가 메트릭의 문서 및 사소한 수정 사항 업데이트
  • [SPARK-26450]프로젝션의 모든 열에 대한 스키마 맵 다시 빌드 방지
  • [SPARK-26638][PYSPARK][ML] Pyspark 벡터 클래스가 단항 부정에 대해 항상 오류를 반환
  • [SPARK-26633][REPL] ExecutorClassLoader.getResourceAsStream 추가
  • [SPARK-26629][SS] 여러 파일 스트림이 있는 쿼리에서, 하나의 파일 스트림에 데이터가 없는 일괄 처리 시 발생하는 오류를 수정하고 실행을 다시 시작함.
  • [SPARK-25992][PYTHON] 문서 SparkContext를 다중 처리를 위해 공유할 수 없음
  • [SPARK-26615][CORE] 코어 단위 테스트에서 전송 서버/클라이언트 리소스 누수 수정
  • [SPARK-26350][SS] Kafka 소비자의 그룹 ID 재정의 허용
  • [SPARK-26538][SQL] postgres 숫자 배열의 기본 정밀도 및 배율 설정
  • [SPARK-26586][SS] 스트림이 예상치 못한 설정으로 실행되도록 하는 경쟁 조건 수정
  • [SPARK-26551][SQL] 하나의 복합 필드를 선택하고 다른 필드에 null 조건자가 없는 경우의 스키마 정리 오류 수정
  • [SPARK-26576][SQL] 분할된 테이블에 브로드캐스트 힌트가 적용되지 않음
  • [SPARK-26571][SQL] Hive Serde 매핑을 Parquet 및 Orc 파일 포맷의 표준 이름으로 업데이트하십시오.
  • [SPARK-26267][SS] Kafka(2.4)에서 올바르지 않은 오프셋이 감지된 경우 다시 시도
  • [SPARK-26559][ML][PYSPARK] ML 이미지는 1.9 이전의 numpy 버전에서 작동할 수 없습니다.
  • [SPARK-26078][SQL] IN 하위 쿼리의 중복된 자기 조인 속성 제거

유지 관리 업데이트

Databricks Runtime 5.3 유지 관리 업데이트를 참조하세요.

시스템 환경

  • 운영 체제: Ubuntu 16.04.6 LTS
  • Java: 1.8.0_191
  • Scala: 2.11.12
  • Python: Python 2 클러스터의 경우 2.7.12, Python 3 클러스터의 경우 3.5.2.
  • R: R 버전 3.5.2(2018-12-20)
  • GPU 클러스터: 다음 NVIDIA GPU 라이브러리가 설치됩니다.
    • Tesla 운전자 375.66
    • CUDA 9.0
    • cuDNN 7.0

참고

Scala 2.12는 Apache Spark 2.4에서 지원되지만 Databricks Runtime 5.3에서는 지원되지 않습니다.

설치된 Python 라이브러리

라이브러리 버전 라이브러리 버전 라이브러리 버전
ansi2html 1.1.1 argparse (명령어 인수 파싱 모듈) 1.2.1 backports-abc 0.5
보토 2.42.0 boto3 1.4.1 보토코어 1.4.70
brewer2mpl 1.4.1 서티피 2016.2.28 cffi 1.7.0
챠데트 2.3.0 colorama 0.3.7 configobj 5.0.6
암호화 1.5 자전거 타는 사람 0.10.0 사이톤 (Cython) 0.24.1
장식가 4.0.10 docutils (도큐멘트 유틸리티) 0.14 enum34 1.1.6
et-xml 파일 1.0.1 freetype-py (파이썬용 프리타입 라이브러리) 1.0.2 funcsigs (펑크시그) 1.0.2
퓨즈파이 (fusepy) 2.0.4 미래 3.2.0 ggplot 0.6.8
html5lib 0.999 아이드나 2.1 IP 주소 1.0.16
ipython 2.2.0 ipython-genutils (아이파이썬 젠유틸스) 0.1.0 jdcal 1.2
Jinja2 2.8 jmespath 0.9.0 llvmlite 0.13.0
lxml 3.6.4 MarkupSafe (마크업세이프) 0.23 matplotlib (매트플롯립) 1.5.3
mpld3 0.2 msgpack-python 0.4.7 ndg-httpsclient 0.3.3
넘바 0.28.1 numpy (파이썬의 수치 계산용 라이브러리) 1.11.1 openpyxl 2.3.2
팬더 0.19.2 pathlib2 2.1.0 바보 0.4.1
pexpect (피엑스펙트) 4.0.1 피클쉐어 0.7.4 베개 3.3.1
파이썬 패키지 설치 도구 pip 19.0.3 3.9 prompt-toolkit (프롬프트 도구 키트) 1.0.7
psycopg2 2.6.2 PtyProcess 0.5.1 py4j 0.10.3
pyarrow 0.8.0 pyasn1 0.1.9 pycparser 2.14
파이그먼츠 2.1.3 PyGObject 3.20.0 pyOpenSSL 16.0.0
pyparsing (파이썬 파싱 라이브러리) 2.2.0 pypng 0.0.18 파이썬 2.7.12
python-dateutil (파이썬 날짜 유틸) 2.5.3 python-geohash (파이썬-지오해시) 0.8.5 pytz (파이썬의 타임존 계산을 위한 라이브러리) 2016년 6월 1일
요청 2.11.1 s3transfer 0.1.9 scikit-learn (파이썬 머신러닝 라이브러리) 0.18.1
scipy (과학 컴퓨팅 라이브러리) 0.18.1 문질러 닦다 / 철저히 찾다 0.32 바다에서 태어난 0.7.1
setuptools (셋업툴즈) 40.8.0 simplejson 3.8.2 simples3 1.0
싱글디스패치 (singledispatch) 3.4.0.3 6 1.10.0 statsmodels (파이썬 통계 모형 라이브러리) 0.6.1
토네이도 5.1.1 트레잇렛츠 4.3.0 urllib3 1.19.1
virtualenv 16.1.0 wcwidth(문자의 너비를 계산하는 함수) 0.1.7 바퀴 0.33.1
wsgiref 0.1.2

설치된 R 라이브러리

라이브러리 버전 라이브러리 버전 라이브러리 버전
에이바인드 1.4-5 askpass (비밀번호 입력 요청) 1.1 assertthat (어설트댓) 0.2.0
백포트 1.1.3 기초 3.5.2 base64enc 0.1-3
브에이치(BH) 1.69.0-1 비트 1.1-14 비트64 0.9-7
bitops 1.0-6 덩어리 1.1.1 부츠 1.3-20
양조하다 1.0-6 호출자 3.1.1 차량 3.0-2
자동차데이터 3.0-2 캐럿 6.0-81 셀레인저 (cellranger) 1.1.0
크론 2.3-53 수업 7.3-15 명령 줄 인터페이스 (CLI) 1.0.1
클리퍼 0.5.0 클리심볼즈 1.2.0 클러스터 2.0.7-1
코드 도구 0.2-16 색 공간 1.4-0 코먼마크 1.7
컴파일러 3.5.2 설정 0.3 크레용 1.3.4
3.3 데이터 테이블(data.table) 1.12.0 데이터 세트 3.5.2
DBI 1.0.0 dbplyr 1.3.0 설명 1.2.0
개발자 도구 2.0.1 요약 0.6.18 doMC 1.3.5
dplyr (데이터 조작을 위한 R 패키지) 0.8.0.1 줄임표 0.1.0 팬시 0.4.0
포캣츠 0.4.0 포이치 (foreach) 1.4.4 외국의 0.8-71
대장간 / 만들다 / 형성하다 / 전진하다 0.2.0 fs 1.2.6 gbm (지엠비엠) 2.1.5
제네릭 0.0.2 ggplot2 3.1.0 gh 1.0.1
git2r (Git 관련 소프트웨어 패키지) 0.24.0 glmnet (통계 및 기계 학습 소프트웨어 패키지) 2.0에서 16까지 접착제 1.3.0
고워 0.1.2 그래픽 3.5.2 grDevices 3.5.2
그리드 3.5.2 gridExtra 2.3 gsubfn 0.7
지테이블 0.2.0 H₂O 3.22.1.1 안식처 2.1.0
에이치엠에스 (HMS) 0.4.2 HTML 도구 0.3.6 HTML 위젯 1.3
httr 1.4.0 hwriter (에이치라이터) 1.3.2 hwriterPlus 1.0-3
이것 0.3.1 아이프레드 0.9-8 반복자 1.0.10
jsonlite 1.6 KernSmooth 2.23-15 라벨링 0.3
격자 0.20-38 용암 1.6.5 lazyeval 0.2.1
더 작은 0.3.6 lme4 1.1-20 루브리데이트 1.7.4
magrittr 1.5 맵프로젝트 1.2.6 3.3.0
maptools 0.9-5 덩어리 (if referring to a large object or group) / 질량 (if referring to the property of matter) 7.3-51.1 행렬 1.2-15
MatrixModels 0.4-1 메모이제이션 1.1.0 메서드 3.5.2
mgcv 1.8-27 마임 0.6 민카 1.2.4
ModelMetrics 1.2.2 먼셀 (Munsell) 0.5.0 mvtnorm 1.0-9
nlme 3.1-137 nloptr 1.2.1 엔넷 7.3-12
numDeriv (넘데리브) 2016.8-1 오픈SSL (OpenSSL은 암호화 라이브러리입니다) 1.2.2 openxlsx 4.1.0
평행 3.5.2 pbkrtest 0.4-7 기둥 1.3.1
pkgbuild(팩키지 빌드) 1.0.2 pkgconfig 2.0.2 pkgKitten 0.1.4
pkgload 1.0.2 플로거 0.2.0 plyr (플레이어) 1.8.4
칭찬 1.0.0 프리티유닛 1.0.2 pROC 패키지 1.13.0
프로세스엑스 3.2.1 프로드림 (prodlim) 2018.04.18 진행률 1.2.0
프로토 1.0.0 Ps 1.3.0 고양이의 그르렁거림 0.3.0
퀀트레그 (quantreg) 5.38 R.methodsS3 1.7.1 R.oo 1.22.0
R.utils (R 패키지의 유틸리티 라이브러리) 2.8.0 r2d3 0.2.3 R6 2.4.0
랜덤 포레스트 (randomForest) 4.6-14 rappdirs (랩디르) 0.3.1 rcmdcheck 1.3.2
RColorBrewer 1.1-2 Rcpp 1.0.0 RcppEigen 0.3.3.5.0
RcppRoll 0.3.0 RCurl 1.95-4.11 리더(Reader) 1.3.1
readxl (엑셀 파일을 읽기 위한 라이브러리) 1.3.0 레시피 0.1.4 재대결 1.0.1
리모컨 2.0.2 reshape2 1.4.3 리오 0.5.16
rlang 0.3.1 RODBC 1.3-15 roxygen2 6.1.1
rpart (의사결정트리 구축을 위한 R 패키지) 4.1-13 rprojroot 1.3-2 Rserve (R서브) 1.8-6
RSQLite 2.1.1 rstudioapi 0.9.0 저울 1.0.0
세션정보 1.1.1 sp 1.3-1 sparklyr (스파클리알) 1.0.0
SparkR 2.4.2 SparseM 1.77 공간의 7.3-11
스플라인 3.5.2 sqldf (SQL 데이터프레임 패키지) 0.4–11 스퀘어엠 2017년 10월-1
스탯모드 1.4.30 통계 3.5.2 통계4 3.5.2
문자열 처리 소프트웨어 "stringi" 1.3.1 stringr 1.4.0 생존 2.43-3
시스템 3.0 티클티케이 (tcltk) 3.5.2 티칭데모스 2.10
testthat (테스트댓) 2.0.1 티블 2.0.1 tidyr 0.8.3
tidyselect (티디셀렉트) 0.2.5 시간 날짜 3043.102 도구 3.5.2
사용하세요 1.4.0 utf8 1.1.4 유틸리티 3.5.2
비리디스라이트 0.3.0 수염 0.3-2 위드알 2.1.2
xml2 1.2.0 엑스오픈 1.0.0 YAML (야믈) 2.2.0
압축 파일 2.0.0

설치된 Java 및 Scala 라이브러리(Scala 2.11 클러스터 버전)

그룹 아이디 아티팩트 ID 버전
antlr (구문 분석 도구) antlr (구문 분석 도구) 2.7.7
com.amazonaws 아마존 키네시스 클라이언트 (amazon-kinesis-client) 1.8.10
com.amazonaws aws-java-sdk-autoscaling (자동 확장) 1.11.313
com.amazonaws aws-java-sdk-cloudformation 1.11.313
com.amazonaws aws-java-sdk-cloudfront (AWS Java SDK 클라우드프론트) 1.11.313
com.amazonaws aws-java-sdk-cloudhsm (AWS 자바 SDK 클라우드HSM) 1.11.313
com.amazonaws aws-java-sdk-cloudsearch (AWS Java SDK 클라우드서치) 1.11.313
com.amazonaws aws-java-sdk-cloudtrail 1.11.313
com.amazonaws aws-java-sdk-cloudwatch 1.11.313
com.amazonaws aws-java-sdk-cloudwatchmetrics 1.11.313
com.amazonaws aws-java-sdk-codedeploy (AWS Java SDK 코드디플로이) 1.11.313
com.amazonaws aws-java-sdk-cognitoidentity (AWS 자바 SDK - Cognito 아이덴티티) 1.11.313
com.amazonaws aws-java-sdk-cognitosync 1.11.313
com.amazonaws AWS Java SDK 구성 1.11.313
com.amazonaws aws-java-sdk-core (AWS 자바 SDK 코어) 1.11.313
com.amazonaws aws-java-sdk-datapipeline (데이터 파이프라인을 위한 AWS Java SDK) 1.11.313
com.amazonaws aws-java-sdk-directconnect (AWS Java SDK 다이렉트커넥트) 1.11.313
com.amazonaws aws-java-sdk-directory 1.11.313
com.amazonaws aws-java-sdk-dynamodb 1.11.313
com.amazonaws aws-java-sdk-ec2 1.11.313
com.amazonaws aws-java-sdk-ecs (AWS Java 소프트웨어 개발 키트 - ECS) 1.11.313
com.amazonaws aws-java-sdk-efs (AWS와 EFS 관련 소프트웨어 개발 키트) 1.11.313
com.amazonaws aws-java-sdk-elasticache (AWS Java SDK 엘라스티캐시) 1.11.313
com.amazonaws aws-java-sdk-elasticbeanstalk (AWS용 Java SDK - Elastic Beanstalk) 1.11.313
com.amazonaws aws-java-sdk-elasticloadbalancing (AWS Java SDK - 엘라스틱로드밸런싱) 1.11.313
com.amazonaws aws-java-sdk-elastictranscoder (AWS Java SDK 엘라스틱 트랜스코더) 1.11.313
com.amazonaws aws-java-sdk-emr (아우스-자바-sdk-emr) 1.11.313
com.amazonaws AWS 자바 SDK 글래시어 (aws-java-sdk-glacier) 1.11.313
com.amazonaws AWS 자바 SDK IAM 1.11.313
com.amazonaws aws-java-sdk-importexport (AWS Java SDK 내보내기 기능) 1.11.313
com.amazonaws aws-java-sdk-kinesis 1.11.313
com.amazonaws aws-java-sdk-kms (AWS 자바 SDK KMS) 1.11.313
com.amazonaws aws-java-sdk-lambda 1.11.313
com.amazonaws aws-java-sdk-logs (AWS 자바 SDK 로그) 1.11.313
com.amazonaws AWS-Java-SDK-머신러닝 1.11.313
com.amazonaws aws-java-sdk-opsworks 1.11.313
com.amazonaws aws-java-sdk-rds (AWS Java 개발자용 SDK - RDS) 1.11.313
com.amazonaws aws-java-sdk-redshift (AWS 자바 SDK 레드시프트) 1.11.313
com.amazonaws aws-java-sdk-route53 1.11.313
com.amazonaws aws-java-sdk-s3 1.11.313
com.amazonaws aws-java-sdk-ses 1.11.313
com.amazonaws aws-java-sdk-simpledb 1.11.313
com.amazonaws aws-java-sdk-simpleworkflow 1.11.313
com.amazonaws AWS Java SDK SNS (AWS의 자바 개발자 키트 - SNS) 1.11.313
com.amazonaws aws-java-sdk-sqs (AWS Java SDK의 SQS 모듈) 1.11.313
com.amazonaws aws-java-sdk-ssm (AWS Java SDK의 SSM 모듈) 1.11.313
com.amazonaws aws-java-sdk-storagegateway (AWS Java SDK 스토리지 게이트웨이) 1.11.313
com.amazonaws aws-java-sdk-sts 1.11.313
com.amazonaws aws-java-sdk-지원 1.11.313
com.amazonaws AWS Java SDK SWF 라이브러리 1.11.22
com.amazonaws aws-java-sdk-workspaces (AWS Java SDK 작업 공간) 1.11.313
com.amazonaws jmespath-java 1.11.313
com.carrotsearch hppc 0.7.2
com.chuusai shapeless_2.11 2.3.2
com.clearspring.analytics 스트림 2.7.0
com.databricks Rserve (R서브) 1.8-3
com.databricks dbml-local_2.11 0.5.0-db8-spark2.4
com.databricks dbml-local_2.11-테스트 0.5.0-db8-spark2.4
com.databricks jets3t 0.7.1-0
com.databricks.scalapb compilerplugin_2.11 0.4.15-9
com.databricks.scalapb scalapb-runtime_2.11 0.4.15-9
com.esotericsoftware kryo-shaded (크리오 쉐이디드) 4.0.2
com.esotericsoftware 민로그 1.3.0
com.fasterxml 동급생 1.0.0
com.fasterxml.jackson.core 잭슨 애노테이션즈 2.6.7
com.fasterxml.jackson.core 잭슨-코어 2.6.7
com.fasterxml.jackson.core 잭슨 데이터바인드 (jackson-databind) 2.6.7.1
com.fasterxml.jackson.dataformat jackson-dataformat-cbor (잭슨 데이터 포맷 CBOR) 2.6.7
com.fasterxml.jackson.datatype 잭슨 데이터타입 조다 (jackson-datatype-joda) 2.6.7
com.fasterxml.jackson.module 잭슨 모듈 - 파라네이머 (jackson-module-paranamer) 2.6.7
com.fasterxml.jackson.module jackson-module-scala_2.11 (자바 스칼라 모듈) 2.6.7.1
com.github.fommil jniloader 1.1
com.github.fommil.netlib 코어 1.1.2
com.github.fommil.netlib 네이티브_참조-자바 1.1
com.github.fommil.netlib 네이티브_레퍼런스-자바-네이티브스 1.1
com.github.fommil.netlib native_system-java (네이티브 시스템 자바) 1.1
com.github.fommil.netlib 네이티브_시스템-java_네이티브스 1.1
com.github.fommil.netlib netlib-native_ref-linux-x86_64-natives 1.1
com.github.fommil.netlib netlib-native_system-linux-x86_64-natives 1.1
com.github.luben zstd-jni 1.3.2-2
com.github.rwl jtransforms 2.4.0
com.google.code.findbugs jsr305 2.0.1
com.google.code.gson gson (JSON 처리를 위한 자바 라이브러리) 2.2.4
com.google.guava 구아바 15.0
com.google.protobuf protobuf-java 2.6.1
com.googlecode.javaewah JavaEWAH 0.3.2
com.h2database h2 1.3.174
com.jcraft jsch 0.1.50
com.jolbox bonecp 0.8.0.릴리스
com.microsoft.azure azure-data-lake-store-sdk (애저 데이터 레이크 저장소 SDK) 2.2.8
com.microsoft.azure Azure 스토리지 5.2.0
com.microsoft.sqlserver (마이크로소프트 SQL 서버) mssql-jdbc 6.2.2.jre8
com.ning compress-lzf (압축 라이브러리) 1.0.3
com.sun.mail javax.mail 1.5.2
com.thoughtworks.paranamer 파라네이머 2.8
com.trueaccord.lenses 렌즈_2.11 0.3
com.twitter (도메인 이름) chill-java (칠자바) 0.9.3
com.twitter (도메인 이름) 추운_2.11 0.9.3
com.twitter (도메인 이름) parquet-hadoop-bundle (파케-하둡 번들) 1.6.0
com.twitter (도메인 이름) util-app_2.11 6.23.0
com.twitter (도메인 이름) util-core_2.11 6.23.0
com.twitter (도메인 이름) util-jvm_2.11 6.23.0
com.typesafe 설정 1.2.1
com.typesafe.scala-logging scala-logging-api_2.11 2.1.2
com.typesafe.scala-logging scala-logging-slf4j_2.11 (기술 관련 설명이 필요할 경우 추가) 2.1.2
com.univocity univocity-parsers (유니보시티-파서스) 2.7.3
com.vlkan flatbuffers (플랫버퍼) 1.2.0-3f79e055
com.zaxxer HikariCP 3.1.0
commons-beanutils commons-beanutils 1.7.0
commons-beanutils commons-beanutils-core 1.8.0
commons-cli commons-cli 1.2
commons-codec (커먼즈 코덱) commons-codec (커먼즈 코덱) 1.10
코먼스-컬렉션즈 코먼스-컬렉션즈 3.2.2
커먼즈-구성 설정 커먼즈-구성 설정 1.6
커먼즈-DBCP 커먼즈-DBCP 1.4
commons-digester (커먼스-다이제스터) commons-digester (커먼스-다이제스터) 1.8
커먼즈-HTTP 클라이언트 커먼즈-HTTP 클라이언트 3.1
commons-io commons-io 2.4
커먼즈-랭 커먼즈-랭 2.6
commons-logging (커먼즈 로깅) commons-logging (커먼즈 로깅) 1.1.3
commons-net commons-net 3.1
commons-pool (커먼즈 풀) commons-pool (커먼즈 풀) 1.5.4
info.ganglia.gmetric4j gmetric4j 1.0.7
io.airlift 에어 컴프레서 0.10
io.dropwizard.metrics metrics-core (메트릭스 코어) 3.1.5
io.dropwizard.metrics 메트릭스-갱글리아 (metrics-ganglia) 3.1.5
io.dropwizard.metrics 메트릭스-그래파이트 (metrics-graphite) 3.1.5
io.dropwizard.metrics 지표-건강 점검 3.1.5
io.dropwizard.metrics 메트릭스-젯티9 3.1.5
io.dropwizard.metrics 메트릭스-JSON 3.1.5
io.dropwizard.metrics metrics-jvm (메트릭스-JVM) 3.1.5
io.dropwizard.metrics 메트릭스-로그4j 3.1.5
io.dropwizard.metrics 메트릭스-서블릿 3.1.5
io.netty netty (네티) 3.9.9.Final
io.netty netty-all 4.1.17.Final
io.prometheus 심플클라이언트 0.0.16
io.prometheus 심플클라이언트_커먼 0.0.16
io.prometheus simpleclient_dropwizard 0.0.16
io.prometheus simpleclient_servlet 0.0.16
io.prometheus.jmx 수집기 0.7
javax.activation 활성화 1.1.1
javax.annotation javax.annotation-api 1.2
javax.el javax.el-api (자바 API) 2.2.4
javax.jdo jdo-api 3.0.1
javax.servlet javax.servlet-api 3.1.0
javax.servlet.jsp jsp-api 2.1
javax.transaction jta (자바 트랜잭션 API) 1.1
javax.validation (자바 프로그래밍 패키지) validation-api 1.1.0.Final
javax.ws.rs javax.ws.rs-api 2.0.1
javax.xml.bind jaxb-api 2.2.2
.stream javax.xml stax-api 1.0-2
자볼루션 자볼루션 5.5.1
제이라인 제이라인 2.14.6
joda-time joda-time 2.9.3
log4j apache-log4j-extras 1.2.17
log4j log4j 1.2.17
net.hydromatic 아이겐베이스 속성 1.1.5
net.razorvine 파이로라이트 4.13
net.sf.jpam 제이팜 1.1
net.sf.opencsv opencsv (오픈CSV 라이브러리) 2.3
net.sf.supercsv 슈퍼-CSV 2.2.0
네트.스노우플레이크 snowflake-ingest SDK (소프트웨어 개발 키트) 0.9.5
네트.스노우플레이크 스노우플레이크 JDBC (snowflake-jdbc) 3.6.15
네트.스노우플레이크 spark-snowflake_2.11 2.4.10-spark_2.4
net.sourceforge.f2j arpack_전체_결합 0.1
org.acplt oncrpc 1.0.7
org.antlr ST4 4.0.4
org.antlr ANTLR 런타임 3.4
org.antlr antlr4-runtime 4.7
org.antlr 문자열템플릿 3.2.1
org.apache.ant 개미 1.9.2
org.apache.ant ant-jsch 1.9.2
org.apache.ant 앤트-런처 1.9.2
org.apache.arrow 화살표 양식 0.10.0
org.apache.arrow 애로우-메모리 0.10.0
org.apache.arrow 화살표 벡터 0.10.0
org.apache.avro 아브로 1.8.2
org.apache.avro avro-ipc (아브로 IPC) 1.8.2
org.apache.avro avro-mapred-hadoop2 1.8.2
org.apache.calcite calcite-avatica 1.2.0-인큐베이팅 중
org.apache.calcite 칼사이트-코어 1.2.0-인큐베이팅 중
org.apache.calcite calcite-linq4j 1.2.0-인큐베이팅 중
org.apache.commons (오픈 소스 자바 라이브러리) 커먼즈-컴프레스 1.8.1
org.apache.commons (오픈 소스 자바 라이브러리) 커먼즈-크립토 1.0.0
org.apache.commons (오픈 소스 자바 라이브러리) 커먼즈-랭3 (commons-lang3) 3.5
org.apache.commons (오픈 소스 자바 라이브러리) 커먼즈-매쓰3 3.4.1
org.apache.curator 큐레이터-클라이언트 2.7.1
org.apache.curator curator-framework (큐레이터 프레임워크) 2.7.1
org.apache.curator 큐레이터 레시피 2.7.1
org.apache.derby 데르비 10.12.1.1
org.apache.directory.api api-asn1-api 1.0.0-M20
org.apache.directory.api 애피-유틸 1.0.0-M20
org.apache.directory.server apacheds-i18n 2.0.0-M15
org.apache.directory.server apacheds-kerberos-codec 2.0.0-M15
org.apache.hadoop 하둡 어노테이션 (hadoop-annotations) 2.7.3
org.apache.hadoop 하둡 인증 (hadoop-auth) 2.7.3
org.apache.hadoop hadoop-client (하둡 클라이언트) 2.7.3
org.apache.hadoop hadoop-common (하둡-커먼) 2.7.3
org.apache.hadoop hadoop-hdfs (하둡 파일 시스템) 2.7.3
org.apache.hadoop Hadoop MapReduce 클라이언트 애플리케이션 2.7.3
org.apache.hadoop hadoop-mapreduce-client-common (하둡 맵리듀스 클라이언트 공통) 2.7.3
org.apache.hadoop hadoop-mapreduce-client-core (하둡 맵리듀스 클라이언트 코어) 2.7.3
org.apache.hadoop hadoop-mapreduce-client-jobclient (하둡 맵리듀스 클라이언트 잡클라이언트) 2.7.3
org.apache.hadoop hadoop-mapreduce-client-shuffle 2.7.3
org.apache.hadoop hadoop-yarn-api 2.7.3
org.apache.hadoop 하둡 야른 클라이언트 (hadoop-yarn-client) 2.7.3
org.apache.hadoop hadoop-yarn-common (하둡-야른-커먼) 2.7.3
org.apache.hadoop hadoop-yarn-server-common (하둡 야른 서버 공통) 2.7.3
org.apache.htrace htrace-core 3.1.0-인큐베이팅
org.apache.httpcomponents HTTP 클라이언트 (httpclient) 4.5.4
org.apache.httpcomponents httpcore 4.4.8
org.apache.ivy 아이비 2.4.0
org.apache.orc 오크 코어 노하이브 1.5.2
org.apache.orc orc-mapreduce-nohive (오크-맵리듀스-노하이브) 1.5.2
org.apache.orc orc-shims (오크-심스) 1.5.2
org.apache.parquet 파케트-컬럼 1.10.1.1-databricks3
org.apache.parquet 파케-커먼 (parquet-common) 1.10.1.1-databricks3
org.apache.parquet 파케-인코딩 1.10.1.1-databricks3
org.apache.parquet 파케 형식 (parquet-format) 2.4.0
org.apache.parquet 파켓-하둡 (parquet-hadoop) 1.10.1.1-databricks3
org.apache.parquet 파케-잭슨 1.10.1.1-databricks3
org.apache.thrift libfb303 0.9.3
org.apache.thrift libthrift 0.9.3
org.apache.xbean xbean-asm6 음영 처리 4.8
org.apache.zookeeper 동물원 사육사 3.4.6
org.codehaus.jackson jackson-core-asl (자바 라이브러리) 1.9.13
org.codehaus.jackson 잭슨 잭서스 1.9.13
org.codehaus.jackson jackson-mapper-asl (잭슨-매퍼-ASL) 1.9.13
org.codehaus.jackson jackson-xc 1.9.13
org.codehaus.janino 커먼스-컴파일러 3.0.10
org.codehaus.janino 자니노 3.0.10
org.datanucleus datanucleus-api-jdo 3.2.6
org.datanucleus 데이터뉴클리어스-코어 3.2.10
org.datanucleus datanucleus-rdbms (데이터누클리어스-알디비엠에스) 3.2.9
org.eclipse.jetty jetty-client (제티 클라이언트) 9.3.20.v20170531
org.eclipse.jetty 제티-컨티누에이션 9.3.20.v20170531
org.eclipse.jetty 제티-HTTP (Jetty-HTTP) 9.3.20.v20170531
org.eclipse.jetty jetty-io 9.3.20.v20170531
org.eclipse.jetty jetty-jndi (제티-JNDI) 9.3.20.v20170531
org.eclipse.jetty 제티-플러스 (jetty-plus) 9.3.20.v20170531
org.eclipse.jetty 제티 프록시 9.3.20.v20170531
org.eclipse.jetty 제티-시큐리티 (jetty-security) 9.3.20.v20170531
org.eclipse.jetty Jetty 서버 9.3.20.v20170531
org.eclipse.jetty jetty-servlet 9.3.20.v20170531
org.eclipse.jetty 제티 서블릿(jetty-servlets) 9.3.20.v20170531
org.eclipse.jetty 제티 유틸 9.3.20.v20170531
org.eclipse.jetty 제티 웹앱 (jetty-webapp) 9.3.20.v20170531
org.eclipse.jetty jetty-xml 9.3.20.v20170531
org.fusesource.leveldbjni leveldbjni-all 1.8
org.glassfish.hk2 hk2-api 2.4.0-b34
org.glassfish.hk2 hk2 위치 탐색기 2.4.0-b34
org.glassfish.hk2 hk2-utils 2.4.0-b34
org.glassfish.hk2 osgi-리소스-로케이터 1.0.1
org.glassfish.hk2.external aopalliance-재패키지 2.4.0-b34
org.glassfish.hk2.external javax.inject 2.4.0-b34
org.glassfish.jersey.bundles.repackaged 저지 과바 2.22.2
org.glassfish.jersey.containers Jersey 컨테이너 서블릿 (jersey-container-servlet) 2.22.2
org.glassfish.jersey.containers 저지-컨테이너-서블릿-코어 2.22.2
org.glassfish.jersey.core 제르시 클라이언트 2.22.2
org.glassfish.jersey.core 저지-커먼 2.22.2
org.glassfish.jersey.core 저지 서버 (jersey-server) 2.22.2
org.glassfish.jersey.media 저지-미디어-JAXB (그대로 사용할 경우 'Jersey Media JAXB') 2.22.2
org.hibernate 하이버네이트 검증기 (hibernate-validator) 5.1.1.Final
org.iq80.snappy 경쾌한 0.2
org.javassist javassist 3.18.1-GA
org.jboss.logging jboss-logging(로그 관리 시스템) 3.1.3.GA
org.jdbi jdbi 2.63.1
org.joda joda-convert (조다 변환 라이브러리) 1.7
org.jodd jodd-core (조드 코어 라이브러리) 3.5.2
org.json4s json4s-ast_2.11 3.5.3
org.json4s json4s-core_2.11 3.5.3
org.json4s json4s-jackson_2.11 3.5.3
org.json4s json4s-scalap_2.11 3.5.3
org.lz4 lz4-java 1.4.0
org.mariadb.jdbc MariaDB 자바 클라이언트 2.1.2
org.mockito mockito-all 1.9.5
org.objenesis 옵제네시스 (objenesis) 2.5.1
org.postgresql PostgreSQL (포스트그레에스큐엘) 42.1.4
org.roaringbitmap 로어링비트맵 (RoaringBitmap) 0.5.11
org.rocksdb rocksdbjni 5.2.1
org.rosuda.REngine REngine 2.1.0
org.scala-lang scala-compiler_2.11 2.11.12
org.scala-lang scala-라이브러리_2.11 2.11.12
org.scala-lang scala-reflect_2.11 2.11.12
org.scala-lang.modules scala-parser-combinators_2.11 1.1.0
org.scala-lang.modules scala-xml_2.11 1.0.5
org.scala-sbt 테스트 인터페이스 1.0
org.scalacheck scalacheck_2.11 1.12.5
org.scalactic scalactic_2.11 3.0.3
org.scalanlp breeze-macros_2.11 0.13.2
org.scalanlp breeze_2.11 0.13.2
org.scalatest scalatest_2.11 3.0.3
org.slf4j jcl-over-slf4j 1.7.16
org.slf4j jul-to-slf4j 1.7.16
org.slf4j slf4j-api 1.7.16
org.slf4j slf4j-log4j12 1.7.16
org.spark-project.hive hive-beeline (하이브 비라인, 하둡에서 SQL 쿼리를 실행하고 관리하는 명령어) 1.2.1.spark2
org.spark-project.hive hive-CLI 1.2.1.spark2
org.spark-project.hive hive-exec (하이브 실행) 1.2.1.spark2
org.spark-project.hive hive-jdbc (하이브 JDBC) 1.2.1.spark2
org.spark-project.hive hive-메타스토어 1.2.1.spark2
org.spark-project.spark 사용되지 않은 1.0.0
org.spire-math spire-macros_2.11 0.13.0
org.spire-math spire_2.11 0.13.0
org.springframework 스프링 코어 4.1.4.RELEASE
org.springframework 스프링 테스트 (spring-test) 4.1.4.RELEASE
org.tukaani xz 1.5
org.typelevel 기계공_2.11 0.6.1
org.typelevel macro-compat_2.11 (매크로 호환_2.11) 1.1.1
org.xerial sqlite-jdbc 3.8.11.2
org.xerial.snappy snappy-java 1.1.7.1
org.yaml 스네이크야AML (snakeyaml) 1.16
2.0.8
software.amazon.ion ion-java (아이온-자바) 1.0.2
스택스 (Stax) stax-api 1.0.1
xmlenc xmlenc 0.52