在巨大的数据集中进行筛选的最好工具是什么? 通过和数据骇客的交流，我们知道了他们用于硬核数据分析最喜欢的语言和工具包。

上海数据分析网

R 语言

上海数据分析网

在这些语言名单中，如果 R 语言排第二，那就没其他能排第一。自 1997 年以来，作为昂贵的统计软件，如 Matlab 和 SAS 的免费替代品，它渐渐风靡全球。

在过去的几年时间中，R 语言已经成为了数据科学的宠儿——数据科学现在不仅仅在书呆子一样的统计学家中人尽皆知，而且也为华尔街交易员，生物学家，和硅谷开发者所家喻户晓。各种行业的公司，例如 Google，Facebook，美国银行，以及纽约时报都使用 R 语言，R 语言正在商业用途上持续蔓延和扩散。

R 语言有着简单而明显的吸引力。使用 R 语言，只需要短短的几行代码，你就可以在复杂的数据集中筛选，通过先进的建模函数处理数据，以及创建平整的图形来代表数字。它被比喻为是 Excel 的一个极度活跃版本。

R 语言最伟大的资本是已围绕它开发的充满活力的生态系统：R 语言社区总是在不断地添加新的软件包和功能到它已经相当丰富的功能集中。据估计，超过 200 万的人使用 R 语言，并且最近的一次投票表明，R 语言是迄今为止在科学数据中最流行的语言，被 61% 的受访者使用 (其次是 Python，39%)。

此外，它的身影也渐渐出现在了华尔街。以前，银行分析师会全神贯注于 Excel 文件直到深夜，但现在 R 语言被越来越多地用于金融建模 R，特别是作为一种可视化工具，Niall O’Connor，美国银行的副总裁如是说。 “R 语言使我们平凡的表格与众不同，” 他说。

R 语言的日渐成熟，使得它成为了数据建模的首选语言，虽然当企业需要生产大型产品时它的能力会变得有限，也有的人说这是因为它的地位正在被其他语言篡夺。

“R 更适合于做一个草图和大概，而不是详细的构建，”Michael Driscoll，Metamarkets 的首席执行官说。 “你不会在谷歌的网页排名以及 Facebook 的朋友推荐算法的核心找到 R 语言。工程师会用 R 语言做原型，然后移交给用 Java 或 Python 写的模型。”

话说回来，早在 2010 年，Paul Butler 就以 R 语言打造了全球的 Facebook 地图而著名，这证明了该语言丰富的可视化功能。尽管他现在已经不像以前那样频繁地使用 R 语言了。

“R 正在一点点地过时，因为它的缓慢和处理大型数据集的笨重，”Butler 说。

Python

上海数据分析网

如果说 R 语言是一个神经质又可爱的高手，那么 Python 是它随和又灵活的表兄弟。作为一种结合了 R 语言快速对复杂数据进行挖掘的能力并构建产品的更实用语言，Python 迅速得到了主流的吸引力。Python 是直观的，并且比 R 语言更易于学习，以及它的生态系统近年来急剧增长，使得它更能够用于先前为 R 语言保留的统计分析。

“这是这个行业的进步。在过去的两年时间中，从 R 语言到 Python 已经发生了非常明显的转变，”Butler 说。

在数据处理中，在规模和复杂性之间往往会有一个权衡，于是 Python 成为了一种折中方案。IPython notebook 和 NumPy 可以用作轻便工作的一种暂存器，而 Python 可以作为中等规模数据处理的强大工具。丰富的数据社区，也是 Python 的优势，因为可以提供了大量的工具包和功能。

美国银行使用 Python 在银行的基础架构中构建新的产品和接口，同时也用 Python 处理财务数据。“Python 广泛而灵活，因此人们趋之若鹜，”O’Donnell 说。

不过，它并非最高性能的语言，只能偶尔用于大规模的核心基础设施，Driscoll 这样说道。

Julia

上海数据分析网

虽然当前的数据科学绝大多数是通过 R 语言，Python，Java，MatLab 和 SAS 执行的。但依然有其他的语言存活于夹缝中，Julia 就是值得一看的后起之秀。

业界普遍认为 Julia 过于晦涩难懂。但数据骇客在谈到它取代 R 和 Python 的潜力时会不由得眉飞色舞。Julia 是一种高层次的，极度快速的表达性语言。它比 R 语言快，比 Python 更可扩展，且相当简单易学。

“它正在一步步成长。最终，使用 Julia，你就能够办到任何用 R 和 Python 可以做到的事情，”Butler 说。

但是至今为止，年轻人对 Julia 依然犹豫不前。Julia 数据社区还处于早期阶段，要能够和 R 语言和 Python 竞争，它还需要添加更多的软件包和工具。

“它还很年轻，但它正在掀起浪潮并且非常有前途，”Driscoll 说。

JAVA

上海数据分析网

Java，以及基于 Java 的框架，被发现俨然成为了硅谷最大的那些高科技公司的骨骼支架。 “如果你去看 Twitter，LinkedIn 和 Facebook，那么你会发现，Java 是它们所有数据工程基础设施的基础语言，”Driscoll 说。

Java 不能提供 R 和 Python 同样质量的可视化，并且它并非统计建模的最佳选择。但是，如果你移动到过去的原型制作并需要建立大型系统，那么 Java 往往是你的最佳选择。

hadoop 和 Hive

一群基于 Java 的工具被开发出来以满足数据处理的巨大需求。Hadoop 作为首选的基于 Java 的框架用于批处理数据已经点燃了大家的热情。Hadoop 比其他一些处理工具慢，但它出奇的准确，因此被广泛用于后端分析。它和 Hive——一个基于查询并且运行在顶部的框架可以很好地结对工作。

Scala

Scala 是另一种基于 Java 的语言，并且和 Java 相同的是，它正日益成为大规模机器学习，或构建高层次算法的工具。它富有表现力，并且还能够构建健壮的系统。

“Java 就像是建造时的钢铁，而 Scala 则像黏土，因为你之后可以将之放入窑内转变成钢铁，”Driscoll 说。

Kafka 和 Storm

那么，当你需要快速实时的分析时又该怎么办呢? Kafka 会成为你的好朋友。它大概 5 年前就已经出现了，但是直到最近才成为流处理的流行框架。

Kafka，诞生于 LinkedIn 内部，是一个超快速的查询消息系统。Kafka 的缺点? 好吧，它太快了。在实时操作时会导致自身出错，并且偶尔地会遗漏东西。

“有精度和速度之间有一个权衡，”Driscoll 说， “因此，硅谷所有的大型高科技公司都会使用两条管道：Kafka 或 Storm 用于实时处理，然后 Hadoop 用于批处理系统，此时虽然是缓慢的但超级准确。”

Storm 是用 Scala 编写的另一个框架，它在硅谷中因为流处理而受到了大量的青睐。它被 Twitter 纳入其中，勿庸置疑的，这样一来，Twitter 就能在快速事件处理中得到巨大的裨益。

MatLab

MatLab 一直以来长盛不衰，尽管它要价不菲，但它仍然被广泛使用在一些非常特殊的领域：研究密集型机器学习，信号处理，图像识别，仅举几例。

Octave

Octave 和 MatLab 非常相似，但它是免费的。不过，它在学术性信号处理圈子之外很少见到。

GO

GO 是另一个正在掀起浪潮的后起之秀。它由 Google 开发，从 C 语言松散地派生，并在构建健壮基础设施上，正在赢得竞争对手，例如 Java 和 Python 的份额。