-
视音频数据处理入门：UDP-RTP协议解析
所属栏目：[大数据] 日期：2020-12-25 热度：136
http://blog.csdn.net/leixiaohua1020/article/details/50535230[详细]
-
数据挖掘中的模式发现（八）轨迹模式挖掘、空间模式挖掘
所属栏目：[大数据] 日期：2020-12-25 热度：134
这是模式挖掘、数据挖掘的一部分应用。 空间模式挖掘(Mining Spatiotemporal Patterns) 两个空间实体之间存在若干拓扑关系，这些关系基于两个实体的位置： 分离 相交 包含 如图所示地表示位置信息，可以提取类似下面的规则： i s _ a ( x , l a r g e _ t o[详细]
-
企业BI系统应用的切入点及五大策略
所属栏目：[大数据] 日期：2020-12-25 热度：174
从技术的角度来看，BI的技术正在走向成熟，处于一个发展的阶段，但它促使了BI的应用在成本方面开始逐步的降低，越来越多的企业在BI应用方面取得了成功。从实施的角度来出发，实施商业智能系统是一项复杂的系统工程，整个项目涉及企业管理，运作管理，信息系[详细]
-
挖掘隐式启动Activity可能存在的坑
所属栏目：[大数据] 日期：2020-12-25 热度：167
今日科技快讯 很早之前，谷歌母公司Alphabet的董事长施密特就曾经表示，在中国市场，谷歌需要寻找到一个商业伙伴来开展自身的一些业务。而 近日有消息传出，谷歌和网易正在进行合作磋商，很可能是成立合资公司，在国内推出针对中国市场的Google Play应用商店[详细]
-
pyhive 连接 Hive 时错误
所属栏目：[大数据] 日期：2020-12-25 热度：77
一、User: xx is not allowed to impersonate xxx' 解决办法：修改 core-site.xml 文件，加入下面的内容后重启 hadoop 。 property namehadoop.proxyuser.xx.hosts/name value*/value/propertyproperty namehadoop.proxyuser.xx.groups/name value*/value/pr[详细]
-
分布式基础通信协议：paxos、totem 和 gossip（转载）
所属栏目：[大数据] 日期：2020-12-25 热度：74
背景： 在分布式中，最难解决的一个问题就是多个节点间数据同步问题。为了解决这样的问题，涌现出了各种奇思妙想。只有在解决了如何进行信息同步的基础之上才衍生出形形色色的应用。这里开始介绍几种分布式通信协议。 简单即有效——totem协议: totem协议也[详细]
-
Hive 导入 parquet 格式数据
所属栏目：[大数据] 日期：2020-12-25 热度：152
Hive 导入 parquet 数据步骤如下： 查看 parquet 文件的格式 构造建表语句 倒入数据 一、查看 parquet 内容和结构 下载地址 社区工具 GitHub 地址 命令 查看结构： java -jar parquet-tools-1.6.0rc3-SNAPSHOT.jar schema -d activity.201711171437.0.parque[详细]
-
Presto 常用配置及操作
所属栏目：[大数据] 日期：2020-12-25 热度：65
一、介绍 Presto是一个开源的分布式SQL查询引擎，适用于交互式分析查询，数据量支持GB到PB字节。 Presto的设计和编写完全是为了解决像Facebook这样规模的商业数据仓库的交互式分析和处理速度的问题。 推荐阅读 Presto实现原理和美团的使用实践 二、安装 2.1[详细]
-
大数据的技术生态概述（转载）
所属栏目：[大数据] 日期：2020-12-25 热度：135
如何用形象的比喻描述大数据的技术生态？Hadoop、Hive、Spark 之间是什么关系？ 大数据本身是个很宽泛的概念，Hadoop生态圈（或者泛生态圈）基本上都是为了处理超过单机尺度的数据处理而诞生的。你可以把它比作一个厨房所以需要的各种工具。锅碗瓢盆，各有各[详细]
-
九种常见的数据分析模型
所属栏目：[大数据] 日期：2020-12-25 热度：115
1. 漏斗分析模型 漏斗分析是一套流程式数据分析，它能够科学反映用户行为状态以及从起点到终点各阶段用户转化率情况的重要分析模型。 运营人员可以通过观察不同属性的用户群体（如新注册用户与老客户、不同渠道来源的客户）各环节转化率，各流程步骤转化率的[详细]
-
大数据领域常用技术栈
所属栏目：[大数据] 日期：2020-12-25 热度：162
提起大数据，不得不提由IBM提出的关于大数据的5V特点：Volume（大量）、Velocity（高速）、Variety（多样）、Value（低价值密度）、Veracity（真实性），而对于大数据领域的从业人员的日常工作也与这5V密切相关。大数据技术在过去的几十年中取得非常迅速的发[详细]
-
Databricks说的Lakehouse是什么？
所属栏目：[大数据] 日期：2020-12-25 热度：67
? 在过去的几年里，Lakehouse作为一种新的数据管理范式，已独立出现在Databricks的许多用户和应用案例中。在这篇文章中，我们将阐述这种新范式以及它相对于之前方案的优势。 数据仓库在决策支持和商业智能应用方面有着悠久的历史。自20世纪80年代末问世以来[详细]
-
微信红包先抢和后抢差距居然这么大！春节抢红包的大数据分析
所属栏目：[大数据] 日期：2020-12-25 热度：152
春节是中华民族隆重的农历新年 这是世界上规模最大的节日 在春节前后 炎黄子孙们不远万里衣锦还乡 与亲人们团圆 在此期间 中国的铁路上会发生 地球上最大规模的人口迁徙 作为世界上最能吃最能玩的种族 聪明勇敢的中国人发明了非常多的娱乐活动 比如 贴春联、[详细]
-
NMEA library数据处理过程分析
所属栏目：[大数据] 日期：2020-12-24 热度：50
? ? 今天学习一个 GPS 数据解析开源库—— NMEA lib 。使用这个库，可以轻松处理 GPS 接收机发出的数据，并不需要了解 NMEA 的具 体协议，这个库可 以解析所有 NMEA0813 规定的所有报文格式。不仅可以解析出原始数据中包含的所有参数，还可以计算两点之 间的[详细]
-
打车不再加价？大数据说可以有
所属栏目：[大数据] 日期：2020-12-24 热度：69
高峰期打车的供求关系不均衡的问题，一直被诟[详细]
-
算法训练 区间k大数查询
所属栏目：[大数据] 日期：2020-12-24 热度：90
问题描述 给定一个序列，每次询问序列中第l个数到第r个数中第K大的数是哪个。 输入格式 第一行包含一个数n，表示序列长度。 第二行包含n个正整数，表示给定的序列。 第三个包含一个正整数m，表示询问个数。 接下来m行，每行三个数l,r,K，表示询问序列从左往[详细]
-
内衣大数据分析：透过女生内衣的需求变化，看年轻人的情趣生活
所属栏目：[大数据] 日期：2020-12-24 热度：79
报道大数据企业： 大数据产品、大数据方案、 ? 大数据人物 分享大数据干货： 大数据书籍、大数据报告、 大数据视频 本文系大数据人精选自网络。 欢迎更多优质原创文章投稿给大数据人：admin@bigdata.ren 小编微信：data985 End. 版权声明 ： 由“大数据人”[详细]
-
[bigdata-041] python3+re 正则表达式 手机号微信号qq号
所属栏目：[大数据] 日期：2020-12-24 热度：88
import reREGEX_PHONE = re.compile(r'1d{10}',re.IGNORECASE)REGEX_QQ = re.compile(r'[1-9]d{4,10}',re.IGNORECASE)REGEX_WX1 = re.compile(u'微信[w,-]{1,20}'.encode('utf8'),re.IGNORECASE)#正则手机号码def get_all_phone_num(s1): global REGEX_PH[详细]
-
数据挖掘：手把手教你做文本挖掘
所属栏目：[大数据] 日期：2020-12-24 热度：155
1 文本挖掘定义 文本挖掘指的是从文本数据中获取有价值的信息和知识，它是数据挖掘中的一种方法。文本挖掘中最重要最基本的应用是实现文本的分类和聚类，前者是有监督的挖掘算法，后者是无监督的挖掘算法。 ? 2 文本挖掘步骤 1）读取数据库或本地外部文本文[详细]
-
蓝桥杯-区间k大数查询
所属栏目：[大数据] 日期：2020-12-24 热度：125
从题目上看，用int类型数据就够了，没必要考虑long这些~~ 在题目中，直接用了Collection工具类中的sort方法，是从小到大排序，据了解，Java自带的排序算法应该是优化过的快速排序，算法可靠。 package 区间k大数查询 ; import java .util .ArrayList ; impor[详细]
-
数据挖掘中的模式发现（五）挖掘多样频繁模式
所属栏目：[大数据] 日期：2020-12-24 热度：76
挖掘多层次的关联规则(Mining Multi-Level Associations) 定义 项经常形成层次。 如图所示 那么我们可以根据项的细化分类得到更多有趣的模式，发现更多细节的特性。 Level-reduced min-support 使用的是Level-reduced min-support方法来设置最低支持度，即，[详细]
-
关于评论话题挖掘的研究及其实现代码（一）LDA
所属栏目：[大数据] 日期：2020-12-24 热度：116
引言 在 2016年中，我们参加了一个由厦门信研院举办的大数据比赛。当时，我们拿到的题目为影迷关注点分析。数据是来自于微博与豆瓣的影迷评论数据，其数据量达600多万条评论数据，分别对应于2000多部不同的电影。我们的想法是将影迷关注点分析尽量往评论话题[详细]
-
数据挖掘中的模式发现（六）挖掘序列模式
所属栏目：[大数据] 日期：2020-12-24 热度：90
序列模式挖掘 序列模式挖掘(sequence pattern mining)是数据挖掘的内容之一，指挖掘相对时间或其他模式出现频率高的模式，典型的应用还是限于离散型的序列。。 其涉及在数据示例之间找到统计上相关的模式，其中数据值以序列被递送。通常假设这些值是离散的，[详细]
-
HDU 2054 大数比较
所属栏目：[大数据] 日期：2020-12-24 热度：68
题目传送门：http://acm.hdu.edu.cn/showproblem.php?pid=2054 ???? ?? A这个水题也没有什么意思，主要巩固前面Java大数类和一些方法的学习。 ??? ?? 题目如果直接用Java.Biginteger.equals()方法的话会WA，在API说明里面，对于2.00，和2.0值相等，标度不等[详细]
-
成为技术高手：想更了解自己的偶像么？教你用技术手段挖掘他#92
所属栏目：[大数据] 日期：2020-12-24 热度：54
点击上方“云栖社区”可以订阅哦 摘要 是否在不同的电影中，总是能看到那些熟悉却叫不上名字的演员们，想知道他们之间相互的关系么？本文将带你一步一步地挖掘出他们的关系。想更了解自己的偶像么，那就试试吧。 以下为译文 我最近换了个工作，在入职之前，[详细]
