-
pyhive 连接 Hive 时错误
所属栏目：[大数据] 日期：2020-12-24 热度：98
一、User: xx is not allowed to impersonate xxx' 解决办法：修改 core-site.xml 文件，加入下面的内容后重启 hadoop。 property namehadoop.proxyuser.xx.hosts/name value*/value/propertyproperty namehadoop.proxyuser.xx.groups/name value*/value/p[详细]
-
分布式基础通信协议：paxos、totem 和 gossip（转载）
所属栏目：[大数据] 日期：2020-12-24 热度：55
背景： 在分布式中，最难解决的一个问题就是多个节点间数据同步问题。为了解决这样的问题，涌现出了各种奇思妙想。只有在解决了如何进行信息同步的基础之上才衍生出形形色色的应用。这里开始介绍几种分布式通信协议。 简单即有效——totem协议: totem协议[详细]
-
Hive 导入 parquet 格式数据
所属栏目：[大数据] 日期：2020-12-24 热度：115
Hive 导入 parquet 数据步骤如下： 查看 parquet 文件的格式 构造建表语句 倒入数据 一、查看 parquet 内容和结构 下载地址 社区工具 GitHub 地址 命令 查看结构： java -jar parquet-tools-1.6.0rc3-SNAPSHOT.jar schema -d activity.201711171437.0.parq[详细]
-
Presto 常用配置及操作
所属栏目：[大数据] 日期：2020-12-24 热度：149
一、介绍 Presto是一个开源的分布式SQL查询引擎，适用于交互式分析查询，数据量支持GB到PB字节。 Presto的设计和编写完全是为了解决像Facebook这样规模的商业数据仓库的交互式分析和处理速度的问题。 推荐阅读 Presto实现原理和美团的使用实践 二、安装 2.[详细]
-
大数据的技术生态概述（转载）
所属栏目：[大数据] 日期：2020-12-24 热度：155
如何用形象的比喻描述大数据的技术生态？Hadoop、Hive、Spark 之间是什么关系？ 大数据本身是个很宽泛的概念，Hadoop生态圈（或者泛生态圈）基本上都是为了处理超过单机尺度的数据处理而诞生的。你可以把它比作一个厨房所以需要的各种工具。锅碗瓢盆，各有[详细]
-
九种常见的数据分析模型
所属栏目：[大数据] 日期：2020-12-24 热度：161
1. 漏斗分析模型 漏斗分析是一套流程式数据分析，它能够科学反映用户行为状态以及从起点到终点各阶段用户转化率情况的重要分析模型。 运营人员可以通过观察不同属性的用户群体（如新注册用户与老客户、不同渠道来源的客户）各环节转化率，各流程步骤转化率[详细]
-
大数据领域常用技术栈
所属栏目：[大数据] 日期：2020-12-24 热度：165
提起大数据，不得不提由IBM提出的关于大数据的5V特点：Volume（大量）、Velocity（高速）、Variety（多样）、Value（低价值密度）、Veracity（真实性），而对于大数据领域的从业人员的日常工作也与这5V密切相关。大数据技术在过去的几十年中取得非常迅速的[详细]
-
Databricks说的Lakehouse是什么？
所属栏目：[大数据] 日期：2020-12-24 热度：65
? 在过去的几年里，Lakehouse作为一种新的数据管理范式，已独立出现在Databricks的许多用户和应用案例中。在这篇文章中，我们将阐述这种新范式以及它相对于之前方案的优势。 数据仓库在决策支持和商业智能应用方面有着悠久的历史。自20世纪80年代末问世以[详细]
-
[bigdata-045] redis故障处理 #34;Can#39;t save in backg
所属栏目：[大数据] 日期：2020-12-24 热度：59
发现官网出错了。经过检查，发现连接不到redis。检查redis的log，发现错误 Can't save in background: fork: Cannot allocate memory 搜索相关资料，这里说的比较详细 http://www.cnblogs.com/qq78292959/p/3994341.html http://blog.csdn.net/zqz_zqz/art[详细]
-
[bigdata-046] eclipse+spring开发web然后部署到tomcat
所属栏目：[大数据] 日期：2020-12-24 热度：118
1. 用eclipse开发spring，需要使用相关的ide 2. spring官网的ide https://spring.io/tools/eclipse 3. spring的tool suite https://spring.io/tools/sts 这个是专用开发spring的。 选择 https://spring.io/tools/sts/all 这里的linux64版本。 4. 在eclipse[详细]
-
大数据分析与处理
所属栏目：[大数据] 日期：2020-12-24 热度：140
? ? 一、大数据分析与处理 1.文件批处理 ??????以MapReduce、Hive为典型代表，批处理模式解决了传统的数据仓库无法处理海量数据的难题。通过批处理计算引擎，使得海量数据分析成为可能。没有批处理引擎的诞生，也就没有今天风风火火的大数据。 ??????数据[详细]
-
新飞电器的BI建设案例
所属栏目：[大数据] 日期：2020-12-24 热度：199
一、河南新飞电器简介 河南新飞电器在制造行业内属于领先地位，其信息化程度较高，面对系统多且杂乱的情况，一个集中展示数据的平台就显得尤为重要。使用BI就是为了在一个相对统一的平台展示需要查看的数据，供决策层进行分析查看，从而做出更加有依据的判[详细]
-
Gartner发布2017年商业智能（BI）魔力象限报告――云商业智能工
所属栏目：[大数据] 日期：2020-12-24 热度：78
对我来说，等待Gartner发布最新一期的Gartner商业智能魔力象限报告，看看有哪些最新的意外总是一件令人兴奋的事情。 今年的魔力象限报告包括几个意外，并且对这个市场的现状以及未来发展方向发表了几点想法。 2017年的魔力象限看起来像这样： Gartner还没[详细]
-
BigData数据可视化软件及工具
所属栏目：[大数据] 日期：2020-12-24 热度：183
副标题#e# 摘要：大量繁杂的数据在经过可视化工具处理后，就能以图形化的形式展现在用户面前，清晰直观。随着各种数据的增加，这种可视化工具越来越得到开发者们的欢迎。本文向大家推荐30款数据可视化工具。 各个互联网公司通过大量的用户数据、信息进行统[详细]
-
ArcGIS Desktop 无法录入数据处理一例
所属栏目：[大数据] 日期：2020-12-24 热度：111
最近，搭建了一个DB2的测试环境，装完系统后，发现有一个美国带的样例数据无法导入，详细环境如下： 桌面:Desktop 10.3.1 DB2: V97 FP8 X64 For NT 从错误信息上得不到任何的提示，继续做测试 导入数据的时候出了空间字段，属性字段全部删除，可以导入进去[详细]
-
URAL - 1153 Supercomputer 大数开方
所属栏目：[大数据] 日期：2020-12-24 热度：72
??????? 题意：给定m，m = n * (n+1) / 2，计算n值。 ????? 思路：n = SQRT(m*2) ???? 注意m很大，需要自己实现大数开方。我用的是自己写的大数模板：大数模板 AC代码 #include cstdio#include cmath#include algorithm#include cstring#include utility#i[详细]
-
[bigdata-047] 禅道 ubuntu 配置开机自启动服务 开机启动
所属栏目：[大数据] 日期：2020-12-24 热度：200
1. 在/etc/init.d目录下创建chandao文件 内容如下： #!/bin/bash /opt/lampp/lampp restart 然后增加全选 chmod 755 chandao 2. 运行runleve命令，查看现在的run level是多少，通常是2 3. 既然是2,就在/etc/rc2.d目录下，创建一个链接 ln -s /etc/init.d/c[详细]
-
[bigdata-048] git使用 上
所属栏目：[大数据] 日期：2020-12-24 热度：164
0. 主要参考 http://www.liaoxuefeng.com 1. git是分布式版本管理器，每个人的电脑都是一个完整的版本库。你修改了文件A，你同事修改了文件A，你们可以将各自的修改推给对方，可以互相看到对方的修改。 2. 创建版本库repository ? 2.1 在一个合适的地方，[详细]
-
算法训练 区间k大数查询
所属栏目：[大数据] 日期：2020-12-24 热度：100
问题描述 给定一个序列，每次询问序列中第l个数到第r个数中第K大的数是哪个。 输入格式 第一行包含一个数n，表示序列长度。 第二行包含n个正整数，表示给定的序列。 第三个包含一个正整数m，表示询问个数。 接下来m行，每行三个数l,r,K，表示询问序列从左[详细]
-
内衣大数据分析：透过女生内衣的需求变化，看年轻人的情趣生活
所属栏目：[大数据] 日期：2020-12-24 热度：156
报道大数据企业：大数据产品、大数据方案、 ? 大数据人物 分享大数据干货：大数据书籍、大数据报告、 大数据视频 本文系大数据人精选自网络。 欢迎更多优质原创文章投稿给大数据人：admin@bigdata.ren 小编微信：data985 End. 版权声明：由“大数据人”推[详细]
-
[bigdata-041] python3+re 正则表达式 手机号微信号qq号
所属栏目：[大数据] 日期：2020-12-24 热度：66
import reREGEX_PHONE = re.compile(r'1d{10}',re.IGNORECASE)REGEX_QQ = re.compile(r'[1-9]d{4,10}',re.IGNORECASE)REGEX_WX1 = re.compile(u'微信[w,-]{1,20}'.encode('utf8'),re.IGNORECASE)#正则手机号码def get_all_phone_num(s1): global REGEX_[详细]
-
3.21.1、BI之SSIS之数据流转换（渐变维度-混合模式）
所属栏目：[大数据] 日期：2020-12-24 热度：139
BI之SSIS之数据流转换（渐变维度-混合模式） ? ? 1??????????3.21中介绍了普通模式的渐变维度，即通过时间标志来对维度属性值的变化进行记录，这种方式可以很直观的看到变化的时间点，但是在使用时却比较麻烦，因为你需要通过时间字段去判断 ? 2??????????[详细]
-
[bigdata-039] pysql+pymongo+py3把数据从sql 导入 到mongo的通
所属栏目：[大数据] 日期：2020-12-24 热度：76
#!/usr/bin/env python3#! coding:utf-8 -*-import pymysqlimport pymongodef trans_data_from_mysql_to_mongo(source_param,target_param,trans_type,where_clause,ignore_columns=[]): # 创建mysql连接 mysql_conn = pymysql.connect(host=source_param[[详细]
-
使用机器学习和大数据预测心脏病
所属栏目：[大数据] 日期：2020-12-24 热度：63
副标题#e# 编者按： 现在公众号有置顶功能了，大家把微信更新到最新版本，点开“大数据实验室”公众号。点“ 置顶公众号”键，就可以置顶了，这样。不管我们什么时候更新，您都能容易找到。 大数据和机器学习的组合是一项革命性的技术，如果以恰当的方式使[详细]
-
[bigdata-040] cloudera manager web服务故障处理
所属栏目：[大数据] 日期：2020-12-24 热度：117
1. cloudera manager的web服务挂了 2. 根据文档进行重启 https://www.cloudera.com/documentation/enterprise/5-4-x/topics/cm_ag_server.html sudo service cloudera-scm-server start 无效，在10.14.x.x:7180上没有服务 lsof -i:7180上能看到端口占用。[详细]
