本文目录一览：
hadoop和mapreduce的缺点是什么
1、Hadoop能够自动保存数据的多个副本，并且能够自动将失败的任务重新分配，具有高容错性。Hadoop的缺点：Hadoop不适用于低延迟数据访问。Hadoop不能高效存储大量小文件。Hadoop不支持多用户写入并任意修改文件。
2、hadoop是个轻量级的产品，又是开源的，不像dpf那么复杂，还要购买商业软件，搭个DPF环境需要费挺大力气的。hadoop能处理半结构化，非结构化数据。但hadoop要写mapreduce函数，这个比起SQL来，方便灵活性差太多了。
3、不适合事务/单一请求处理 MapReduce绝对是一个离线批处理系统，对于批处理数据应用得很好：MapReduce（不论是Google的还是Hadoop的）是用于处理不适合传统数据库的海量数据的理想技术。但它又不适合事务/单一请求处理。
4、稳定性方面，由于代码质量问题，Spark长时间运行会经常出错，在架构方面，由于大量数据被缓存在RAM中，Java回收垃圾缓慢的情况严重，导致Spark性能不稳定，在复杂场景中SQL的性能甚至不如现有的Map/Reduce。
5、道听途说是这样的 小文件问题，因为块现在默认为64m，每个小文件都会占64m MapReduce过程中要等最慢的那个task完成。
大数据MapReduce的性能调优方法总结
1、MapReduce程序的优化主要集中在两个方面：一个是运算性能方面的优化；另一个是IO操作方面的优化。
2、MongoDB提供了两种内置分析数据的方法：Map Reduce和Aggregation框架。MR非常灵活，很容易部署。它通过分区工作良好，并允许大量输出。MR在MongoDB v4中，通过使用JavaScript引擎把Spider Monkey替换成V8，性能提升很多。
3、Hive 作为大数据领域常用的数据仓库组件，在平时设计和查询时要特别注意效率。影响Hive效率的几乎从不是数据量过大，而是数据倾斜、数据冗余、job 或 I/O 过多、MapReduce 分配不合理等等。
4、传统的ETL方式 传统的ETL工具比如Kettle、Talend、Informatica等，可视化操作，上手比较快，但是随着数据量上升容易导致性能出问题，可优化的空间不大。
hadoop大数据处理架构的核心技术是什么?
1、Hadoop通用：提供Hadoop模块所需要的Java类库和工具。Hadoop YARN：提供任务调度和集群资源管理功能。Hadoop HDFS：分布式文件系统，提供高吞吐量的应用程序数据访问方式。
2、Hadoop是一个开源框架，用于以分布式方式存储和处理大数据。Hadoop的核心组件是 - HDFS（Hadoop分布式文件系统） - HDFS是Hadoop的基本存储系统。在商用硬件集群上运行的大型数据文件存储在HDFS中。
3、大数据技术的体系庞大且复杂，基础的技术包含数据的采集、数据预处理、分布式存储、数据库、数据仓库、机器学习、并行计算、可视化等。
4、我们只需要编写我们的业务程序即可。hadoop是什么？hadoop是用于处理（运算分析）海量数据的技术平台，并且是采用分布式集群的方式。
5、(2)Hadoop的核心是MapReduce(映射和化简编程模型)引擎，Map意为将单个任务分解为多个，而Reduce则意为将分解后的多任务结果汇总，该引擎由JobTrackers(工作追踪，对应命名节点)和TaskTrackers(任务追踪，对应数据节点)组成。
6、大数据技术的核心技术是：在大数据产业中，主要的工作环节包括：大数据采集、大数据预处理、大数据存储和管理、大数据分析和大数据显示和应用的挖掘（大数据检索、大数据可视化、大数据应用、大数据安全性等）。