您现在的位置:首页行业资讯

Java开发人 员使用哪些大数据工具?--中享思途

1、MongoDB——最受欢迎的,跨平台的,面向文档的数据库。
MongoDB是一个 基于分布式文件存储的数据库,使用C++语言编写。旨在为Web应用提 供可扩展的高性能数据存储解决方案。应用性 能高低依赖于数据库性能,MongoDB则是非 关系数据库中功能最丰富,最像关系数据库的,随着MongDB 3.4版本发布,其应用 场景适用能力得到了进一步拓展。
MongoDB的核心 优势就是灵活的文档模型、高可用复制集、可扩展分片集群。你可以 试着从几大方面了解MongoDB,如实时监控MongoDB工具、内存使 用量和页面错误、连接数、数据库操作、复制集等。
2、Elasticsearch ——为云构建的分布式RESTful搜索引擎。
ElasticSearch是基于Lucene的搜索服务器。它提供 了分布式多用户能力的全文搜索引擎,基于RESTful web接口。Elasticsearch是用Java开发的,并作为Apache许可条 款下的开放源码发布,是比较 流行的企业级搜索引擎。
Java开发人 员使用哪些大数据工具?
ElasticSearch不仅是 一个全文本搜索引擎,还是一 个分布式实时文档存储,其中每个field均是被 索引的数据且可被搜索;也是一 个带实时分析功能的分布式搜索引擎,并且能 够扩展至数以百计的服务器存储及处理PB级的数据。ElasticSearch在底层利用Lucene完成其索引功能,因此其 许多基本概念源于Lucene。
Java开发人 员使用哪些大数据工具?
3、Cassandra——开源分 布式数据库管理系统
最初是由Facebook开发的,旨在处 理许多商品服务器上的大量数据,提供高可用性,没有单点故障。
Apache Cassandra是一套开源分布式NoSQL数据库系统。集Google BigTable的数据模型与Amazon Dynamo的完全 分布式架构于一身。于2008开源,此后,由于Cassandra良好的可扩展性,被Digg、Twitter等Web 2.0网站所采纳,成为了 一种流行的分布式结构化数据存储方案。
因Cassandra是用Java编写的,所以理论上在具有JDK6及以上 版本的机器中都可以运行,官方测试的JDK还有OpenJDK 及Sun的JDK。 Cassandra的操作命令,类似于 我们平时操作的关系数据库,对于熟悉MySQL的朋友来说,操作会很容易上手。
4、Redis ——开源(BSD许可)内存数据结构存储,用作数据库,缓存和消息代理。
Java开发人 员使用哪些大数据工具?
Redis是一个开源的使用ANSI C语言编写的、支持网络、可基于 内存亦可持久化的日志型、Key-Value数据库,并提供多种语言的API。Redis 有三个 主要使其有别于其它很多竞争对手的特点:Redis是完全 在内存中保存数据的数据库,使用磁 盘只是为了持久性目的; Redis相比许 多键值数据存储系统有相对丰富的数据类型; Redis可以将 数据复制到任意数量的从服务器中。
Java开发人 员使用哪些大数据工具?
5、Hazelcast ——基于Java的开源内存数据网格。
Hazelcast 是一种内存数据网格 in-memory data grid,提供Java程序员 关键任务交易和万亿级内存应用。虽然Hazelcast没有所谓的“Master”,但是仍然有一个Leader节点(the oldest member),这个概念与ZooKeeper中的Leader类似,但是实 现原理却完全不同。同时,Hazelcast中的数据是分布式的,每一个member持有部 分数据和相应的backup数据,这点也与ZooKeeper不同。
Hazelcast的应用 便捷性深受开发者喜欢,但如果要投入使用,还需要慎重考虑。
6、EHCache——广泛使用的开源Java分布式缓存。
Java开发人 员使用哪些大数据工具?
主要面向通用缓存、Java EE和轻量级容器。
EhCache 是一个纯Java的进程内缓存框架,具有快速、精干等特点,是Hibernate中默认的CacheProvider。主要特性有:快速简单,具有多种缓存策略;缓存数据有两级,内存和磁盘,因此无 需担心容量问题;缓存数 据会在虚拟机重启的过程中写入磁盘;可以通过RMI、可插入API等方式 进行分布式缓存;具有缓 存和缓存管理器的侦听接口;支持多 缓存管理器实例,以及一 个实例的多个缓存区域;提供Hibernate的缓存实现。
7、Hadoop ——用Java编写的开源软件框架,用于分布式存储,并对非 常大的数据集进行分布式处理。
Java开发人 员使用哪些大数据工具?
用户可 以在不了解分布式底层细节的情况下,开发分布式程序。充分利 用集群进行高速运算和存储。Hadoop实现了 一个分布式文件系统(Hadoop Distributed File System),简称HDFS。Hadoop的框架 最核心的设计就是:HDFS和MapReduce。HDFS为海量 的数据提供了存储,MapReduce则为海 量的数据提供了计算。
8、Solr ——开源企业搜索平台,用Java编写,来自Apache Lucene项目。
Java开发人 员使用哪些大数据工具?
Solr是一个 独立的企业级搜索应用服务器,它对外提供类似于Web-service的API接口。用户可以通过http请求,向搜索 引擎服务器提交一定格式的XML文件,生成索引;也可以通过Http Get操作提出查找请求,并得到XML格式的返回结果。
与ElasticSearch一样,同样是基于Lucene,但它对其进行了扩展,提供了比Lucene更为丰富的查询语言,同时实现了可配置、可扩展 并对查询性能进行了优化。
9、Spark ——Apache Software Foundation中最活跃的项目,是一个 开源集群计算框架。
Java开发人 员使用哪些大数据工具?
Spark 是一种与 Hadoop 相似的 开源集群计算环境,但是两 者之间还存在一些不同之处,这些不同之处使 Spark 在某些 工作负载方面表现得更加优越,换句话说,Spark 启用了 内存分布数据集,除了能 够提供交互式查询外,它还可 以优化迭代工作负载。
Spark 是在 Scala 语言中实现的,它将 Scala 用作其应用程序框架。与 Hadoop 不同,Spark 和 Scala 能够紧密集成,其中的 Scala 可以像 操作本地集合对象一样轻松地操作分布式数据集。
Java开发人 员使用哪些大数据工具?
10、Memcached ——通用分 布式内存缓存系统。
Memcached是一套 分布式快取系统,当初是Danga Interactive为了LiveJournal所发展的,但被许多软件(如MediaWiki)所使用。Memcached作为高 速运行的分布式缓存服务器,具有以下的特点:协议简单,基于libevent的事件处理,内置内存存储方式。
11、Apache Hive ——在Hadoop之上提供类似SQL的层。
Java开发人 员使用哪些大数据工具?
Hive是一个基于Hadoop的数据仓库平台。通过hive,可以方便地进行ETL工作。hive定义了一个类似于SQL的查询语言,能够将用户编写的SQL转化为相应的Mapreduce程序基于Hadoop执行。目前,已经发布了Apache Hive 2.1.1 版本。
12、Apache Kafka ——最初是由LinkedIn开发的高吞吐量,分布式订阅消息系统。
Java开发人 员使用哪些大数据工具?
Apache Kafka是一个 开源消息系统项目,由Scala写成。该项目 的目标是为处理实时数据提供一个统一、高通量、低等待的平台。Kafka维护按类区分的消息,称为主题(topic)。生产者(producer)向kafka的主题发布消息,消费者(consumer)向主题注册,并且接 收发布到这些主题的消息。kafka以一个 拥有一台或多台服务器的集群运行着,每一台服务器称为broker。
13、Akka ——用于在JVM上构建高并发,分布式 和弹性消息驱动应用程序的工具包。
Java开发人 员使用哪些大数据工具?
Akka 是一个用 Scala 编写的库,用于简化编写容错的、高可伸缩性的 Java 和 Scala 的 Actor 模型应用。它已经 成功运用在电信行业,系统几乎不会宕机。
14、HBase ——开放源代码,非关系型,分布式数据库,采用Google的BigTable建模,用Java编写,并在HDFS上运行。
Java开发人 员使用哪些大数据工具?
与FUJITSU Cliq等商用 大数据产品不同,HBase是Google Bigtable的开源实现,类似Google Bigtable利用GFS作为其文件存储系统,HBase利用Hadoop HDFS作为其文件存储系统;Google运行MapReduce来处理Bigtable中的海量数据,HBase同样利用Hadoop MapReduce来处理HBase中的海量数据;Google Bigtable利用 Chubby作为协同服务,HBase利用Zookeeper作为对应。
15、Neo4j ——在Java中实现 的开源图形数据库。
Java开发人 员使用哪些大数据工具?
Neo4j是一个高性能的NOSQL图形数据库,它将结 构化数据存储在网络上而不是表中。它是一个嵌入式的、基于磁盘的、具备完全事务特性的Java持久化引擎。
16、CouchBase ——开源分布式的NoSQL面向文档数据库,针对交 互式应用程序进行了优化。
如果以前没有NoSQL的使用经验,那么理解couchbase的时候关键有两点:延后写入和松散存储。该产品基于Apache CouchDB,并整合了GeoCouch(一个基于Erlang、紧密集 成的地理空间索引系统,可支持LBS应用)。
17、Apache Storm——开源分 布式实时计算系统。
Java开发人 员使用哪些大数据工具?
Apache Storm 是一个 能近实时地在数据之上运行用户代码片段的流式数据处理框架。它实际 上是一系列连在一起的管道。通常用 于简单的分析任务 ,诸如计算,以及清洗,使其常规化,并且准 备摄入用于长期存储的数据。
18、CouchDB——开源的面向文档的NoSQL数据库,使用JSON存储数据。
Java开发人 员使用哪些大数据工具?
CouchDB 是一个 开源的面向文档的数据库管理系统,可以通过 RESTful JavaScript Object Notation (JSON) API 访问。CouchDB落实到 最底层的数据结构就是两类B+Tree 。
19、Oracle Coherence——内存数 据网格解决方案,通过提 供对常用数据的快速访问,使企业 能够可预测地扩展关键任务应用程序。
Java开发人 员使用哪些大数据工具?
简单来说,Coherence仅支持Java,.NET和C++ API三个版本,这三个 都是面向对象的语言,这也说明Coherence和应用开发的亲和性。
20、Titan——可扩展的图形数据库,优化用 于存储和查询包含分布在多机集群上的数百亿个顶点和边的图形。
支持不 同的分布式存储层:Cassandra 1.1和HBase 0.92。原生实现 Blueprints graph API,Gremlin graph traversal language,Frames graph-to-object mapper,Rexster graph server。
21、Amazon DynamoDB——快速,灵活的全面管理NoSQL的数据库服务,适用于 任何规模的要求一致性,单位毫 秒延迟的应用程序。
Amazon DynamoDB 是一种完全托管的 NoSQL 数据库服务,提供快 速而可预测的性能,能够实现无缝扩展。
22、Amazon Kinesis——AWS上的实 时流式传输数据平台。
Web 应用程序、移动设备、可穿戴设备、行业传 感器和许多软件应用程序和服务都可能生成大量的流数据(有时达到每小时数 TB),需要对 其进行连续地收集、存储和处理。Amazon Kinesis 就是针 对这种需求产生的。
23、Datomic——完全事务,云就绪,分布式数据库,用Clojure编写。
Java开发人 员使用哪些大数据工具?
Datomic 是一个灵活的、基于时 间因子的数据库,支持联合查询,具有弹 性的可扩展性以及支持ACID事务性。Datomic 提供高可用的、分布式存储服务.

【关键词:青岛Java培训,Java就业培训,Java培训费用,Java培训哪家好,中享思途】

好彩客app|st_bottom
青岛Java培训,青岛HTML5培训,青岛UI培训,青岛Python培训,青岛IT培训,java培训,ui培训,HTML5培训,python培训,java就业培训,专业ui设计,前端开发培训,IT培训,思途教育,青岛思途,中享思途
Copyright (c) 青岛思 途共享科技信息服务有限公司 鲁ICP备14027489号
友情链接:    博猫彩票开户   期期中彩票首页   真钱抢庄牛牛游戏平台   K8彩乐园登录链接   众游棋牌苹果app