-
R语言-数据处理
所属栏目:[大数据] 日期:2021-02-06 热度:164
Reading Data 读取表格数据的函数read.table()以及read.csv() readLines()用于逐行读取文本文件 source()读取R代码的重要函数 dget()用来读取R代码文件 load()和unserialize()用于把二进制对象读入R Writing Data write.table() writeLines() dump() dput()[详细]
-
简单粗暴的“大数据“解决方案
所属栏目:[大数据] 日期:2021-02-06 热度:149
这里说“大数据”确实有点哗众取宠,但确确实实是解决一些大数据量的情况。比如常用的布隆过滤器(BloomFilter)、常用的文本相似比较算法SimHash等,这里介绍的都是看上去是简单粗暴的方法,但当你深入了解后你就会发现什么叫简约而不简单,掌握这些常用的手[详细]
-
连续属性离散化
所属栏目:[大数据] 日期:2021-02-06 热度:167
1. 离散化技术分类 连续属性的离散化方法也可以被称为分箱法,即将一组连续的值根据一定的规则分别放到其术语的集合中。 离散化技术可以根据如何对数据进行离散化加以分类,可以根据是否使用类信息或根据进行方向(即自顶向下或自底向上)分类。 如果离散化过[详细]
-
【重!磅!干!货
所属栏目:[大数据] 日期:2021-02-06 热度:125
查看之前文章请点击右上角 , 关注 并且 查看历史消息 ,还可以在文章最后评论留言。谢谢您的支持! 回复【 文本挖掘 】 或者 【 点击阅读原文 】 获取链接与代码附录 一、 功能概述 ? ? ? ?关键词词频网络图是以股票论坛、 个股新闻、研究报告三个网站作为[详细]
-
51Nod-1116-K进制下的大数
所属栏目:[大数据] 日期:2021-02-06 热度:59
ACM模版 描述 题解 这里我们通过样例可以发现 A1A 的数位和是21,刚好是 K-1 的倍数,所以我们不妨多举几组数据测试一下,发现竟然都符合这个规律( ̄┰ ̄*),那么AC就不远了。 可是这里需要强调的是,K的最小值,如果K清一色的都是从2开始枚举,那么不用想了[详细]
-
开源ETL工具kettle系列之常见问题
所属栏目:[大数据] 日期:2021-02-06 热度:98
摘要 本文主要介绍使用kettle设计一些ETL任务时一些常见问题,这些问题大部分都不在官方FAQ上,你可以在kettle的论坛上找到一些问题的答案 问题 Join 我得到A 数据流(不管是基于文件或数据库),A包含field1,field2,field3 字段,然后我还有一个B数据流,B[详细]
-
开源ETL工具kettle系列之在应用程序中集成
所属栏目:[大数据] 日期:2021-02-06 热度:79
摘要 本文主要讨论如何在你自己的Java应用程序中集成Kettle 集成 如果你需要在自己的Java应用程序中集成Kettle,一般来说有两种应用需求,一种是通过纯设计器来设计ETL转换任务,然后保存成某种格式,比如xml或者在数据库中都可以,然后自己调用程序解析这个[详细]
-
开源ETL工具kettle系列之增量更新设计
所属栏目:[大数据] 日期:2021-02-06 热度:110
前言 ETL中增量更新是一个比较依赖与工具和设计方法的过程,Kettle中主要提供Insert / Update 步骤,Delete 步骤和Database Lookup 步骤来支持增量更新,增量更新的设计方法也是根据应用场景来选取的,虽然本文讨论的是Kettle的实现方式,但也许对其他工具也[详细]
-
开源ETL工具kettle系列之动态转换
所属栏目:[大数据] 日期:2021-02-06 热度:80
摘要 本文主要讨论使用Kettle来设计一些较为复杂和动态的转换可能使用到的一些技巧,这些技巧可能会让你在使用Kettle的时候更加容易的设计更强大的ETL任务。 动态参数的传递 Kettle 在处理运行时输入参数可以使用JavaScript 来实现,大部分工作只是按照一个[详细]
-
开源ETL工具kettle系列之建立缓慢增长维
所属栏目:[大数据] 日期:2021-02-06 热度:50
摘要 本文主要介绍使用kettle 来建立一个Type 2的Slowly Changing Dimension 以及其中一些细节问题 Kettle 简介 Kettle 是一个强大的,元数据驱动的ETL工具被设计用来填补商业和IT之前的差距,将你公司的数据变成可增长的利润. 我们先来看看Kettle能做什么:[详细]
-
白帽笔记:我的“一日一洞”高效漏洞挖掘之旅
所属栏目:[大数据] 日期:2021-02-05 热度:88
作者:Shubham Shah,澳大利亚安全研究人员,专注于程序开发、渗透测试和黑客技术。2016年初被安全媒体评为10大著名“漏洞赏金猎人”之一。本文原名《高效漏洞挖掘:120天120个漏洞》 2016年初,我就给自己设定了一个目标:在这一年中,平均每天挖掘出一个漏[详细]
-
HDU 1402及51 nod1028 大数乘法 V2(FFT 快速傅里叶变换)
所属栏目:[大数据] 日期:2021-02-05 热度:115
1028?大数乘法?V2 基准时间限制:2?秒 空间限制:131072?KB 分值:?80? 难度:5级算法题 ?收藏 ?关注 给出2个大整数A,B,计算A*B的结果。 Input 第1行:大数A第2行:大数B(A,B的长度?=?100000,A,B?=?0) Output 输出A?*?B Input示例 123456234567 Output示例[详细]
-
白帽笔记 | 我的“一日一洞”高效漏洞挖掘之旅
所属栏目:[大数据] 日期:2021-02-05 热度:192
作者:Shubham Shah,澳大利亚安全研究人员,专注于程序开发、渗透测试和黑客技术。2016年初被安全媒体评为10大著名“漏洞赏金猎人”之一。本文原名《高效漏洞挖掘:120天120个漏洞》 2016年初,我就给自己设定了一个目标:在这一年中,平均每天挖掘出一个漏[详细]
-
大数据分析公司Kentik完成230万美元B轮融资
所属栏目:[大数据] 日期:2021-02-04 热度:114
点击上方蓝色字体关注。 您还可以搜索公众号“ D1net ”选择关注D1net旗下的各领域(云计算,数据中心,大数据,CIO,企业协作,网络数通,信息安全,企业移动应用,系统集成,服务器,存储,呼叫中心,视频会议,视频监控等)的子公众号。 ======= 数据的可[详细]
-
互联网金融之量化投资深度文本挖掘——附源码文档
所属栏目:[大数据] 日期:2021-02-04 热度:93
?? 【重!磅!干!货[详细]
-
hdu1042 N!(大数)
所属栏目:[大数据] 日期:2021-02-04 热度:172
N! Time Limit: 10000/5000 MS (Java/Others)????Memory Limit: 262144/262144 K (Java/Others) Total Submission(s): 75069????Accepted Submission(s): 21870 Problem Description Given an integer N(0 ≤ N ≤ 10000),your task is to calculate N! ? In[详细]
-
桑文锋:深入浅出大数据分析(PPT)
所属栏目:[大数据] 日期:2021-02-04 热度:158
导读 在DTCC 2016中国数据库技术大会“大数据创业”专场,Sensors Data CEO 桑文锋分享了主题为《深入浅出大数据分析》的演讲, 作为一名资深大数据牛人, 从大数据思维讲起,深入浅出剖析数据驱动的理念,常用的数据分析方法,推荐的思路,多维数据分析技术[详细]
-
文本相识度算法(余弦相似性、简单共有词、编辑距离、SimHash、
所属栏目:[大数据] 日期:2021-02-04 热度:183
文本相似度计算在信息检索、数据挖掘、机器翻译、文档复制检测等领域有着广泛的应用。 比如舆论控制,我们假设你开发了一个微博网站,并且已经把世界上骂人的句子都已经收录进了数据库,那么当一个用户发微博时会先跟骂人句子的数据库进行比较,如果符合里面[详细]
-
余弦计算相似度度量
所属栏目:[大数据] 日期:2021-02-04 热度:104
余弦计算相似度度量 相似度度量(Similarity),即计算个体间的相似程度,相似度度量的值越小,说明个体间相似度越小,相似度的值越大说明个体差异越大。 对于多个不同的文本或者短文本对话消息要来计算他们之间的相似度如何,一个好的做法就是将这些文本中[详细]
-
大数运算和大数类
所属栏目:[大数据] 日期:2021-02-04 热度:198
1、首先看一个小问题: 整型数组、字符型数组、vector在未初始化的情况下: int main(){int data[5];char c[5];vectorint v(5);vectorchar v1(5);vectorint v2;cout "int[]:";for (int i = 0; i 5; i++){cout data[i] " ";}cout endl endl;cout "char[]:";fo[详细]
-
数据处理之——plyr
所属栏目:[大数据] 日期:2021-02-04 热度:162
本文主要介绍如何利用R中的plyr包对数据进行处理。 plyr是R中做数据处理和加工的包,它可以用来做类似EXCEL数据透视表的操作。 split-apply-combine split-apply-combine是plyr包的基本思想,首先把大的数据集按照一定的规则对数据进行拆分(split),然后对每[详细]
-
金融行业的BI应用分析
所属栏目:[大数据] 日期:2021-02-04 热度:193
商业智能是一种提高企业智能化的手段,它可以满足企业发展的需要、提高企业的竞争力。同时,对于提高金融行业的风险管理、提升对外服务的质量都能够起到关键性的作用。 在市场竞争和银行业务转型期间,商业智能对于业务以及内部管理水平的提升起到了重要的作[详细]
-
HDOJ -- 1002 大数A+B
所属栏目:[大数据] 日期:2021-02-04 热度:114
A + B Problem II Time Limit: 2000/1000 MS (Java/Others)????Memory Limit: 65536/32768 K (Java/Others) Problem Description I have a very simple problem for you. Given two integers A and B,your job is to calculate the Sum of A + B. ? Input Th[详细]
-
BI进行中,重新设计改造质检数据管理系统(图文)
所属栏目:[大数据] 日期:2021-02-03 热度:165
最近在做一个质检系统BI项目的过程中个,发现原有的系统设计有很大问题,数据特别混乱,主要问题有:指标设计结构不合理,将指标直接与产品关联,而且每个车间的产品都使用独立id加以区分,这样的后果就是有很多重复的产品和大量的指标,当在BI系统中对数据[详细]
-
51nod1030 大数进制转换
所属栏目:[大数据] 日期:2021-02-03 热度:118
题目描述 给出一个36进制的大数A(0-9,A-Z),将其转为10进制并输出。 每一位用’0-9”,’A-Z’来表示,A的长度 = 100000) a进制数k转b进制问题 第一位(最低位)=k%b 第二位=k/b%b 第三位=k/b^2%b …… (这个应该是比较显然的) 然而A的长度 = 100000,太大了,[详细]