大数据系期货分析模型

⑴ 统计模型和大数据模型所使用的主要算法有什么异同

以每24小时作为一份时间（而非自然日），根据用户的配置有两种工作模式：带状模式中，用户仅定义开始日期时，从开始日期（含）开始，每份时间1个分片地无限增加下去；环状模式中，用户定义了开始日期和结束日期时，以结束日期（含）和开始日期（含）之间的时间份数作为分片总数（分片数量固定），以类似取模的方式路由到这些分片里。

1. DBLE 启动时，读取用户在 rule.xml 配置的 sBeginDate 来确定起始时间
2. 读取用户在 rule.xml 配置的 sPartionDay 来确定每个 MySQL 分片承载多少天内的数据
3. 读取用户在 rule.xml 配置的 dateFormat 来确定分片索引的日期格式
4. 在 DBLE 的运行过程中，用户访问使用这个算法的表时，WHERE 子句中的分片索引值（字符串），会被提取出来尝试转换成 Java 内部的时间类型
5. 然后求分片索引值与起始时间的差，除以 MySQL 分片承载的天数，确定所属分片

1. DBLE 启动时，读取用户在 rule.xml 配置的起始时间 sBeginDate、终止时间 sEndDate 和每个 MySQL 分片承载多少天数据 sPartionDay
2. 根据用户设置，建立起以 sBeginDate 开始，每 sPartionDay 天一个分片，直到 sEndDate 为止的一个环，把分片串联串联起来
3. 读取用户在 rule.xml 配置的 defaultNode
4. 在 DBLE 的运行过程中，用户访问使用这个算法的表时，WHERE 子句中的分片索引值（字符串），会被提取出来尝试转换成 Java 内部的日期类型
5. 然后求分片索引值与起始日期的差：如果分片索引值不早于 sBeginDate（哪怕晚于 sEndDate），就以 MySQL 分片承载的天数为模数，对分片索引值求模得到所属分片；如果分片索引值早于 sBeginDate，就会被放到 defaultNode 分片上

与MyCat的类似分片算法对比

中间件
DBLE
MyCat

分片算法种类 date 分区算法 按日期（天）分片
两种中间件的取模范围分片算法使用上无差别

开发注意点
【分片索引】1. 必须是字符串，而且 java.text.SimpleDateFormat 能基于用户指定的 dateFormat 来转换成 java.util.Date
【分片索引】2. 提供带状模式和环状模式两种模式
【分片索引】3. 带状模式以 sBeginDate（含）起，以 86400000 毫秒（24 小时整）为一份，每 sPartionDay 份为一个分片，理论上分片数量可以无限增长，但是出现 sBeginDate 之前的数据而且没有设定 defaultNode 的话，会路由失败（如果有 defaultNode，则路由至 defaultNode）
【分片索引】4. 环状模式以 86400000 毫秒（24 小时整）为一份，每 sPartionDay 份为一个分片，以 sBeginDate（含）到 sEndDate（含）的时间长度除以单个分片长度得到恒定的分片数量，但是出现 sBeginDate 之前的数据而且没有设定 defaultNode 的话，会路由失败（如果有 defaultNode，则路由至 defaultNode）
【分片索引】5. 无论哪种模式，分片索引字段的格式化字符串 dateFormat 由用户指定
【分片索引】6. 无论哪种模式，划分不是以日历时间为准，无法对应自然月和自然年，且会受闰秒问题影响

运维注意点
【扩容】1. 带状模式中，随着 sBeginDate 之后的数据出现，分片数量的增加无需再平衡
【扩容】2. 带状模式没有自动增添分片的能力，需要运维手工提前增加分片；如果路由策略计算出的分片并不存在时，会导致失败
【扩容】3. 环状模式中，如果新旧 [sBeginDate,sEndDate] 之间有重叠，需要进行部分数据迁移；如果新旧 [sBeginDate,sEndDate] 之间没有重叠，需要数据再平衡

配置注意点
【配置项】1. 在 rule.xml 中，可配置项为 <propertyname="sBeginDate"> 、 <propertyname="sPartionDay"> 、 <propertyname="dateFormat"> 、 <propertyname="sEndDate"> 和 <propertyname="defaultNode">
【配置项】2.在 rule.xml 中配置 <propertyname="dateFormat">，符合 java.text.SimpleDateFormat 规范的字符串，用于告知 DBLE 如何解析sBeginDate和sEndDate

【配置项】3.在 rule.xml 中配置 <propertyname="sBeginDate">，必须是符合 dateFormat 的日期字符串

【配置项】4.在 rule.xml 中配置 <propertyname="sEndDate">，必须是符合 dateFormat 的日期字符串；配置了该项使用的是环状模式，若没有配置该项则使用的是带状模式

【配置项】5.在 rule.xml 中配置 <propertyname="sPartionDay">，非负整数，该分片策略以 86400000 毫秒（24 小时整）作为一份，而 sPartionDay 告诉 DBLE 把每多少份放在同一个分片

【配置项】6.在 rule.xml 中配置 <propertyname="defaultNode"> 标签，非必须配置项，不配置该项的话，用户的分片索引值没落在 mapFile 定义

⑵ 大数据分析中，有哪些常见的大数据分析模型

很多朋友还没有接触过大数据分析方案，认为其仅仅算是个愿景而非现实——毕竟能够证明其可行性与实际效果的案例确实相对有限。但可以肯定的是，实时数据流中包含着大量重要价值，足以帮助企业及人员在未来的工作中达成更为理想的结果。那么，那些领域需要实时的数据分析呢？

1、医疗卫生与生命科学

2、保险业

3、电信运营商

4、能源行业

5、电子商务

6、运输行业

7、投机市场

8、执法领域

9、技术领域

常见数据分析模型有哪些呢？

1、行为事件分析：行为事件分析法具有强大的筛选、分组和聚合能力，逻辑清晰且使用简单，已被广泛应用。

2、漏斗分析模型：漏斗分析是一套流程分析，它能够科学反映用户行为状态以及从起点到终点各阶段用户转化率情况的重要分析模型。

3、留存分析模型留存分析是一种用来分析用户参与情况/活跃程度的分析模型，考察进行初始化行为的用户中，有多少人会进行后续行为。这是用来衡量产品对用户价值高低的重要方法。

4、分布分析模型分布分析是用户在特定指标下的频次、总额等的归类展现。

5、点击分析模型即应用一种特殊亮度的颜色形式，显示页面或页面组区域中不同元素点点击密度的图标。

6、用户行为路径分析模型用户路径分析，顾名思义，用户在APP或网站中的访问行为路径。为了衡量网站优化的效果或营销推广的效果，以及了解用户行为偏好，时常要对访问路径的转换数据进行分析。

7、用户分群分析模型用户分群即用户信息标签化，通过用户的历史行为路径、行为特征、偏好等属性，将具有相同属性的用户划分为一个群体，并进行后续分析。

8、属性分析模型根据用户自身属性对用户进行分类与统计分析，比如查看用户数量在注册时间上的变化趋势、省份等分布情况。

模型再多，选择一种适合自己的就行，如何利益最大化才是我们追求的目标

⑶ 大数据分析模型中什么叫并行技术

并行技术可分为三类，分别是线程库、消息传递库和编译器支持。线程库可实现对线程的显性控制；如果需要对线程进行精细管理，可以考虑使用这些显性线程技术。借助消息传递库，应用程序可同时利用多台计算机，它们彼此间不必共享同一内存空间。MPI 广泛应用于科学计算领域。第三项技术是在编译器中实现的线程处理支持，采用的形式自动并行化。一旦将线程处理引入到应用程序中，开发人员就可能要面对一系列新的编程缺陷（Bug）。其中许多缺陷是难以检测到的，需要付出额外的时间和关注以确保程序的正确运行。

并行技术可以分为多进程编程和多线程编程。人们总会用某种IPC(inter-process communication，进程间通信)的形式来实现进程间同步，如管道(pipes)，信号量(semaphores)，信息队列(message queues)，或者共享存储(shared memory)。在所有的这些IPC形式中，共享存储器是最快的(除了门(doors)之外)。在处理进程间资源管理，IPC和同步时，你可以选择POSIX或者System V的定义。

在现代操作系统里，同一时间可能有多个内核执行流在执行，因此内核其实象多进程多线程编程一样也需要一些同步机制来同步各执行单元对共享数据的访问。尤其是在多处理器系统上，更需要一些同步机制来同步不同处理器上的执行单元对共享的数据的访问。在主流的Linux内核中包含了几乎所有现代的操作系统具有的同步机制，这些同步机制包括：原子操作、信号量（semaphore）、读写信号量（rw_semaphore）、spinlock、BKL(Big Kernel Lock)、rwlock、brlock（只包含在2.4内核中）、RCU（只包含在2.6内核中）和seqlock（只包含在2.6内核中）。

⑷ 如何用大数据分析金融数据

任何数据分析的前提是首先要理解业务模型，从你的金融数据是怎么产生的，包括回哪些指标哪些数据，你的答分析是要为什么业务服务的，也就是你的目的。比如你分析金融数据的目的是要找出最有价值的金融产品，还是最有价值的客户，还是寻找最有效的成本节约途径等

在弄清楚你的分析目的，和理解清楚你的业务模式等之后，再考虑你需要采用哪些数据，采用什么方法来进行分析，这才涉及到如何进行具体的分析过程。

从整个大数据分析来看，前期的业务理解和数据整理大概要耗费一大半的精力和时间，弄清楚前期，后期的分析则会很快。

⑸ 数学建模美赛中大数据方面所涉及的模型有哪些

由于道路的数量，美国许多地区的交通容量有限。
例如，在大西雅图地区，司机在交通高峰时段遇到长时间的延误
因为交通量超过了道路网络的设计容量。这是特别
在州际公路5号，90号和405号以及州道路520号，特别感兴趣的道路上发布
对于这个问题。
自动驾驶，合作车已被提出作为增加公路容量的解决方案
而不增加车道或道路的数量。这些汽车的行为与现有的交互
交通流和对方在这一点上还不太了解。
华盛顿州州长要求分析允许自驾的影响，
在Thurston，Pierce，King和Snohomish县上列的道路上合作汽车。 （看到
提供的地图和Excel电子表格）。特别是，效果如何改变
自驾车的百分比从10％增加到50％到90％？是否存在平衡？有没有
性能变化明显的倾翻点？在什么条件下，如果有的话，应该有车道
专用于这些车？您对模型的分析是否表明有任何其他政策变化？
您的答案应包括对车道数量，峰值和/或车道数量的影响的模型
平均交通量，以及使用自动驾驶，合作系统的车辆的百分比。你的
模型应该解决自驾车之间的合作以及自驱动车之间的相互作用
和非自驾车辆。您的模型应该应用于的道路的数据
利息，在附加的Excel电子表格中提供。
您的MCM提交应包含1页的摘要表，1 - 2页的信
总督办公室和您的解决方案（不超过20页），最多23页。注意：
附录和参考文献不计入23页的限制。
一些有用的背景信息：
平均而言，每日交通量的8％发生在高峰旅行时间。
所有这些道路的名义速度限制为每小时60英里。
里程数从南到北，从西到东。
车道宽度是标准的12英尺。
高速公路90被分类为状态路线，直到它与州际5相交。
如果此问题中提供的数据与任何其他来源之间存在冲突，请使用
这个问题提供的数据。

⑹ 数据分析方法与模型都有哪些

现在的大数据的流行程度不用说大家都知道，大数据离不开数据分析，而数据分析的方法和数据分析模型多种多样，按照数据分析将这些数据分析方法与模型分为对比分析、分类分析、相关分析和综合分析四种方式，这四种方式的不同点前三类以定性的数据分析方法与模型为主，综合类数据分析方法与模型是注重定性与定量相结合。

一、分类分析数据分析法
在数据分析中，如果将数据进行分类就能够更好的分析。分类分析是将一些未知类别的部分放进我们已经分好类别中的其中某一类；或者将对一些数据进行分析，把这些数据归纳到接近这一程度的类别，并按接近这一程度对观测对象给出合理的分类。这样才能够更好的进行分析数据。

二、对比分析数据分析方法
很多数据分析也是经常使用对比分析数据分析方法。对比分析法通常是把两个相互有联系的数据进行比较，从数量上展示和说明研究对象在某一标准的数量进行比较，从中发现其他的差异，以及各种关系是否协调。

三、相关分析数据分析法相关分析数据分析法也是一种比较常见数据分析方法，相关分析是指研究变量之间相互关系的一类分析方法。按是否区别自变量和因变量为标准一般分为两类：一类是明确自变量和因变量的关系；另一类是不区分因果关系，只研究变量之间是否相关，相关方向和密切程度的分析方法。
而敏感性分析是指从定量分析的角度研究有关因素发生某种变化时对某一个或一组关键指标影响程度的一种不确定分析技术。
回归分析是确定两种或两种以上变数间相互依赖的定量关系的一种统计分析方法。
时间序列是将一个指标在不相同的时间点上的取值，按照时间的先后顺序排列而成的一列数。时间序列实验研究对象的历史行为的客观记录，因而它包含了研究对象的结构特征以及规律。

四、综合分析数据分析法
层次分析法，是一种实用的多目标或多方案的决策方法。由于他在处理复杂的决策问题上的实用性和有效性，而层次分析数据分析法在世界范围得到广泛的应用。它的应用已遍及经济计划和管理，能源政策和分配，行为科学、军事指挥、运输、农业、教育、医疗和环境等多领域。
而综合分析与层次分析是不同的，综合分析是指运用各种统计、财务等综合指标来反馈和研究社会经济现象总体的一般特征和数量关系的研究方法。

上述提到的数据分析方法与数据分析模型在企业经营、管理、投资决策最为常用，在企业决策中起着至关重要的作用。一般来说，对比分析、分类分析、相关分析和综合分析这四种方法都是数据分析师比较常用的，希望这篇文章能够帮助大家更好的理解大数据。

⑺ 主流的大数据分析框架有哪些

1、Hadoop
Hadoop 采用 Map Rece 分布式计算框架，根据 GFS开发了 HDFS 分布式文件系统，根据 Big Table 开发了 HBase数据存储系统。Hadoop 的开源特性使其成为分布式计算系统的事实上的国际标准。Yahoo，Facebook，Amazon 以及国内的网络，阿里巴巴等众多互联网公司都以 Hadoop 为基础搭建自己的分布。

2、Spark

Spark 是在 Hadoop 的基础上进行了一些架构上的改良。Spark 与Hadoop 最大的不同点在于，Hadoop 使用硬盘来存储数据，而Spark 使用内存来存储数据，因此 Spark 可以提供超过 Ha?doop 100 倍的运算速度。由于内存断电后会丢失数据，Spark不能用于处理需要长期保存的数据。

3、 Storm

Storm 是 Twitter 主推的分布式计算系统。它在Hadoop的基础上提供了实时运算的特性，可以实时的处理大数据流。不同于Hadoop和Spark，Storm不进行数据的收集和存储工作，它直接通过网络实时的接受数据并且实时的处理数据，然后直接通过网络实时的传回结果。

4、Samza

Samza 是由 Linked In 开源的一项技术，是一个分布式流处理框架，专用于实时数据的处理，非常像Twitter的流处理系统Storm。不同的是Sam?za 基于 Hadoop，而且使用了 Linked In 自家的 Kafka 分布式消息系统。

Samza 非常适用于实时流数据处理的业务，如数据跟踪、日志服务、实时服务等应用，它能够帮助开发者进行高速消息处理,同时还具有良好的容错能力。

⑻ 大数据分析领域有哪些分析模型

数据角度的模型一般指的是统计或数据挖掘、机器学习、人工智能等类型的模型，是纯粹从科学角度出发定义的。
1. 降维
在面对海量数据或大数据进行数据挖掘时，通常会面临“维度灾难”，原因是数据集的维度可以不断增加直至无穷多，但计算机的处理能力和速度却是有限的；另外，数据集的大量维度之间可能存在共线性的关系，这会直接导致学习模型的健壮性不够，甚至很多时候算法结果会失效。因此，我们需要降低维度数量并降低维度间共线性影响。
数据降维也被成为数据归约或数据约减，其目的是减少参与数据计算和建模维度的数量。数据降维的思路有两类：一类是基于特征选择的降维，一类是是基于维度转换的降维。
2. 回归
回归是研究自变量x对因变量y影响的一种数据分析方法。最简单的回归模型是一元线性回归（只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示），可以表示为Y=β0+β1x+ε，其中Y为因变量，x为自变量，β1为影响系数，β0为截距，ε为随机误差。
回归分析按照自变量的个数分为一元回归模型和多元回归模型；按照影响是否线性分为线性回归和非线性回归。
3. 聚类
聚类是数据挖掘和计算中的基本任务，聚类是将大量数据集中具有“相似”特征的数据点划分为统一类别，并最终生成多个类的方法。聚类分析的基本思想是“物以类聚、人以群分”，因此大量的数据集中必然存在相似的数据点，基于这个假设就可以将数据区分出来，并发现每个数据集（分类）的特征。
4. 分类
分类算法通过对已知类别训练集的计算和分析，从中发现类别规则，以此预测新数据的类别的一类算法。分类算法是解决分类问题的方法，是数据挖掘、机器学习和模式识别中一个重要的研究领域。
5. 关联
关联规则学习通过寻找最能够解释数据变量之间关系的规则，来找出大量多元数据集中有用的关联规则，它是从大量数据中发现多种数据之间关系的一种方法，另外，它还可以基于时间序列对多种数据间的关系进行挖掘。关联分析的典型案例是“啤酒和尿布”的捆绑销售，即买了尿布的用户还会一起买啤酒。
6. 时间序列
时间序列是用来研究数据随时间变化趋势而变化的一类算法，它是一种常用的回归预测方法。它的原理是事物的连续性，所谓连续性是指客观事物的发展具有合乎规律的连续性，事物发展是按照它本身固有的规律进行的。在一定条件下，只要规律赖以发生作用的条件不产生质的变化，则事物的基本发展趋势在未来就还会延续下去。
7. 异常检测
大多数数据挖掘或数据工作中，异常值都会在数据的预处理过程中被认为是“噪音”而剔除，以避免其对总体数据评估和分析挖掘的影响。但某些情况下，如果数据工作的目标就是围绕异常值，那么这些异常值会成为数据工作的焦点。
数据集中的异常数据通常被成为异常点、离群点或孤立点等，典型特征是这些数据的特征或规则与大多数数据不一致，呈现出“异常”的特点，而检测这些数据的方法被称为异常检测。
8. 协同过滤
协同过滤（Collaborative Filtering，CF)）是利用集体智慧的一个典型方法，常被用于分辨特定对象（通常是人）可能感兴趣的项目（项目可能是商品、资讯、书籍、音乐、帖子等），这些感兴趣的内容来源于其他类似人群的兴趣和爱好，然后被作为推荐内容推荐给特定对象。
9. 主题模型
主题模型（Topic Model），是提炼出文字中隐含主题的一种建模方法。在统计学中，主题就是词汇表或特定词语的词语概率分布模型。所谓主题，是文字（文章、话语、句子）所表达的中心思想或核心概念。
10. 路径、漏斗、归因模型
路径分析、漏斗分析、归因分析和热力图分析原本是网站数据分析的常用分析方法，但随着认知计算、机器学习、深度学习等方法的应用，原本很难衡量的线下用户行为正在被识别、分析、关联、打通，使得这些方法也可以应用到线下客户行为和转化分析。

⑼ 故障案例的大数据分析模型该从哪些方面入手

1、SQL数据库的基本操作，会基本的数据管理
2、会用Excel/SQL做基本的数据提取、分析和展示
3、会用脚本语言进行数据分析，Python or R
4、有获取外部数据的能力加分，如爬虫或熟悉公开数据集
5、会基本的数据可视化技能，能撰写数据报告
6、熟悉常用的数据挖掘算法：回归分析、决策树、分类、聚类方法

⑽ 怎样在期货里看大数据

不管云复计算还是人工制智能都是大数据，大数据在不同行业有不同名称，在期货来看最多提到的就是智能投顾。大数据用一种技术和手段来找到未来不确定性中的确定性，为期货发展带来很多新的机会。
大数据在期货行业的运用，陈新河举例利用大数据预测饲料价格，用于期货决策，就是用了大数据的外部性作用。此外，通过网络整体行业消费量景气指数等建立一个模型，就能用大数据预测经济形势。