PRF:20170915 Deep learning wars- Facebook-backed PyTorch vs Google-s TensorFlow.md

@Wuod3n
This commit is contained in:
wxy 2018-04-10 16:38:07 +08:00
parent 81ae2ecf5e
commit 7ba1b6d873

View File

@ -1,58 +1,60 @@
深度学习战争Facebook支持的PyTorch与Google的TensorFlow
深度学习战争Facebook 支持的 PyTorch Google TensorFlow
======
有一个令人震惊的事实,即人工智能和机器学习的工具和技术在近期迅速兴起。深度学习或者说“注射了激素的机器学习”是数据科学家和机器学习专家在可用的库和框架方面被宠坏的一个领域。很多这样的框架都是基于Python的因为Python是一个更通用相对简单的语言。[Theano] [1][Keras] [2] [TensorFlow] [3]是一些基于Python构建的流行的深度学习库目的是使机器学习专家更轻松。
Google的TensorFlow是一个广泛使用的机器学习和深度学习框架。 TensorFlow开源于2015年得到了机器学习专家的广泛支持TensorFlow已经迅速成长为许多机构为其机器学习和深度学习需求所选择的框架。 另一方面PyTorch最近开发的用于训练神经网络的Python包被改编自基于Lua的深度学习库Torch。 PyTorch是少数可用的DL框架之一它使用基于磁带的autograd系统tape-based autograd system以快速和灵活的方式构建动态神经网络。
![](https://hub.packtpub.com/wp-content/uploads/2018/03/iStock-621901930-1068x832.jpg)
在这篇文章中我们将PyTorch与TensorFlow进行不同方面的比较。
有一个令人震惊的事实,即人工智能和机器学习的工具和技术在近期迅速兴起。深度学习,或者说“注射了激素的机器学习”,数据科学家和机器学习专家在这个领域有数不胜数等可用的库和框架。很多这样的框架都是基于 Python 的,因为 Python 是一个更通用,相对简单的语言。[Theano] [1]、[Keras] [2]、 [TensorFlow] [3] 是几个基于 Python 构建的流行的深度学习库,目的是使机器学习专家更轻松。
Google 的 TensorFlow 是一个被广泛使用的机器学习和深度学习框架。 TensorFlow 开源于 2015 年得到了机器学习专家社区的广泛支持TensorFlow 已经迅速成长为许多机构根据其机器学习和深度学习等需求而选择的框架。 另一方面PyTorch 是由 Facebook 最近开发的用于训练神经网络的 Python 包,改编自基于 Lua 的深度学习库 Torch。 PyTorch 是少数可用的深度学习框架之一,它使用<ruby>基于磁带的自动梯度系统<rt>tape-based autograd system</rt></ruby>,以快速和灵活的方式构建动态神经网络。
在这篇文章中,我们将 PyTorch 与 TensorFlow 进行不同方面的比较。
让我们开始吧!
###什么编程语言支持 PyTorch和TensorFlow
### 什么编程语言支持 PyTorch TensorFlow
虽然主要是用C ++和CUDA编写的但Tensorflow包含一个位于核心引擎上的Python API使得更便于被Pythonistas使用。 除了Python它还包括C ++HaskellJavaGo和Rust等其他API这意味着开发人员可以用他们的首选语言进行编码。
虽然主要是用 C++ 和 CUDA 编写的,但 TensorFlow 包含一个位于核心引擎上的 Python API使得更便于被<ruby>Python 支持者<rt>Pythonistas</rt></ruby>使用。 除了 Python它还包括 C++、Haskell、Java、Go 和 Rust 等其他 API这意味着开发人员可以用他们的首选语言进行编码。
虽然PyTorch是一个Python软件包但你也可以提供使用基本的C / C ++语言的API进行编码。 如果你习惯使用Lua编程语言你也可以使用Torch API在PyTorch中编写神经网络模型。
虽然 PyTorch 是一个 Python 软件包,但你也可以提供使用基本的 C/C++ 语言的 API 进行编码。 如果你习惯使用 Lua 编程语言,你也可以使用 Torch API PyTorch 中编写神经网络模型。
###PyTorch和TensorFlow有多么易于使用
### PyTorch TensorFlow 有多么易于使用?
如果将TensorFlow作为一个独立的框架使用它可能会有点复杂并且会给深度学习模型的训练带来一些困难。 为了减少这种复杂性可以使用位于TensorFlow复杂引擎之上的Keras封装简化深度学习模型的开发和训练。 TensorFlow也支持PyTorch目前没有的[分布式培训] [4]。 由于包含Python APITensorFlow也可以在生产环境中使用即可用于培训练和部署企业级深度学习模型。
如果将 TensorFlow 作为一个独立的框架使用,它可能会有点复杂,并且会给深度学习模型的训练带来一些困难。 为了减少这种复杂性,可以使用位于 TensorFlow 复杂引擎之上的 Keras 封装,简化深度学习模型的开发和训练。 TensorFlow 也支持 PyTorch 目前没有的[分布式培训] [4]。 由于包含 Python APITensorFlow 也可以在生产环境中使用,即可用于培训练和部署企业级深度学习模型。
PyTorch由于Torch的复杂而被Python重写。 这使得PyTorch对于开发人员更为原生。 它有一个易于使用的框架,提供最大化的灵活和速度。 它还允许在训练过程中快速更改代码而不妨碍其性能。 如果你已经有了一些深度学习的经验,并且以前使用过Torch那么基于它的速度效率和易用性你会更喜欢PyTorch。 PyTorch包含定制的GPU分配器这使得深度学习模型具有高度的内存效率。 由此,训练大型深度学习模型变得更容易。 因此Pytorch
FacebookTwitterSalesforce等大型组织广受欢迎。
PyTorch 由于 Torch 的复杂用 Python 重写。 这使得 PyTorch 对于开发人员更为原生。 它有一个易于使用的框架,提供最大化的灵活和速度。 它还允许在训练过程中快速更改代码而不妨碍其性能。 如果你已经有了一些深度学习的经验,并且以前使用过 Torch那么基于它的速度、效率和易用性你会更喜欢 PyTorch。 PyTorch 包含定制的 GPU 分配器,这使得深度学习模型具有更高的内存效率。 由此,训练大型深度学习模型变得更容易。 因此Pytorch
Facebook、Twitter、Salesforce 等大型组织广受欢迎。
###用PyTorch和TensorFlow训练深度学习模型
### PyTorch TensorFlow 训练深度学习模型
PyTorch和TensorFlow都可以用来建立和训练神经网络模型。
PyTorch TensorFlow 都可以用来建立和训练神经网络模型。
TensorFlow在SCG静态计算图上工作,包括在模型开始执行之前定义静态图。 但是,一旦开始执行,在模型内的调整更改的唯一方法是使用[tf.session and tf.placeholder tensors][5]。
TensorFlow 工作于 SCG静态计算图,包括在模型开始执行之前定义静态图。 但是,一旦开始执行,在模型内的调整更改的唯一方法是使用 [tf.session and tf.placeholder tensors][5]。
PyTorch非常适合训练RNNs(递归神经网络),因为它们在[PyTorch] [6]中比在TensorFlow中运行得更快。 它适用于DCG动态计算图可以随时在模型中定义和更改。 在DCG中每个模块可以单独调试这使得神经网络的训练更简单。
PyTorch 非常适合训练 RNN递归神经网络因为它们在 [PyTorch] [6] 中比在 TensorFlow 中运行得更快。 它适用于 DCG动态计算图可以随时在模型中定义和更改。 在 DCG 中,每个模块可以单独调试,这使得神经网络的训练更简单。
TensorFlow最近提出了TensorFlow Fold这是一个旨在创建TensorFlow模型的库用于处理结构化数据。 像PyTorch一样它实现了DCGs在CPU上提供高达10倍的计算速度在GPU上提供超过100倍的计算速度 在[Dynamic Batching] [7]的帮助下,你现在可以执行尺寸和结构都不相同的深度学习模型。
TensorFlow 最近提出了 TensorFlow Fold这是一个旨在创建 TensorFlow 模型的库,用于处理结构化数据。 像 PyTorch 一样,它实现了 DCG CPU 上提供高达 10 倍的计算速度,在 GPU 上提供超过 100 倍的计算速度! 在 [Dynamic Batching] [7] 的帮助下,你现在可以执行尺寸和结构都不相同的深度学习模型。
###GPU和CPU优化的比较
### GPU CPU 优化的比较
TensorFlow的编译时间比PyTorch短为构建真实世界的应用程序提供了灵活性。 它可以从CPUGPUTPU移动设备到Raspberry Pi物联网设备等各种处理器上运行。
TensorFlow 的编译时间比 PyTorch 短,为构建真实世界的应用程序提供了灵活性。 它可以从 CPU、GPU、TPU、移动设备到 Raspberry Pi物联网设备等各种处理器上运行。
另一方面PyTorch包括张量tensor计算可以使用GPU将深度神经网络模型加速到[50倍或更多] [8]。 这些张量可以停留在CPU或GPU上。 CPU和GPU都是独立的库, 无论神经网络大小如何PyTorch都可以高效地利用。
另一方面PyTorch 包括<ruby>张量<rt>tensor</rt></ruby>计算,可以使用 GPU 将深度神经网络模型加速到 [50 倍或更多] [8]。 这些张量可以停留在 CPU 或 GPU 上。 CPU 和 GPU 都是独立的库, 无论神经网络大小如何PyTorch 都可以高效地利用。
###社区支持
### 社区支持
TensorFlow是当今最流行的深度学习框架之一由此也给它带来了庞大的社区支持。 它有很好的文档和一套详细的在线教程。 TensorFlow还包括许多预先训练过的模型这些模型在[github] [9]上托管和提供。 这些模型提供给热衷于使用TensorFlow开发者和研究人员一些现成的材料来节省他们的时间和精力。
TensorFlow 是当今最流行的深度学习框架之一,由此也给它带来了庞大的社区支持。 它有很好的文档和一套详细的在线教程。 TensorFlow 还包括许多预先训练过的模型,这些模型托管和提供于 [GitHub] [9]。 这些模型提供给热衷于使用 TensorFlow 开发者和研究人员一些现成的材料来节省他们的时间和精力。
另一方面PyTorch的社区相对较小因为它最近才发展起来。 与TensorFlow相比文档并不是很好代码也不是很容易获得。 然而PyTorch确实允许个人与他人分享他们的预训练模型。
另一方面PyTorch 的社区相对较小,因为它最近才发展起来。 与 TensorFlow 相比,文档并不是很好,代码也不是很容易获得。 然而PyTorch 确实允许个人与他人分享他们的预训练模型。
### PyTorch和TensorFlow-力量悬殊的故事
### PyTorch 和 TensorFlow —— 力量悬殊的故事
就目前而言由于各种原因Tensorflow显然比PyTorch更受青睐。
就目前而言由于各种原因TensorFlow 显然比 PyTorch 更受青睐。
Tensorflow很大,经验丰富,最适合实际应用。 是大多数机器学习和深度学习专家明显的选择,因为它提供了大量的功能,最重要的是它在市场上的成熟应用。 它具有更好的社区支持以及多语言API可用。 它有一个很好的文档库,由于从准备到使用的代码使之易于生产。 因此,它更适合想要开始深度学习的人,或者希望开发深度学习模型的组织。
TensorFlow 很大,经验丰富,最适合实际应用。 是大多数机器学习和深度学习专家明显的选择,因为它提供了大量的功能,最重要的是它在市场上的成熟应用。 它具有更好的社区支持以及多语言 API 可用。 它有一个很好的文档库,由于从准备到使用的代码使之易于生产。 因此,它更适合想要开始深度学习的人,或者希望开发深度学习模型的组织。
虽然PyTorch相对较新社区较小但它速度快效率高。 总之它给你所有的优势在于Python的有用性和易用性。 由于其效率和速度,对于基于研究的小型项目来说,这是一个很好的选择。 如前所述FacebookTwitter等公司正在使用Pytorch来训练深度学习模型。 但是,使用它尚未成为主流。 PyTorch的潜力是显而易见的但它还没有准备好去挑战这个TensorFlow的野兽。 然而考虑到它的增长PyTorch进一步优化并提供更多功能的日子并不遥远直到与TensorFlow可以比较。
虽然 PyTorch 相对较新,社区较小,但它速度快,效率高。 总之,它给你所有的优势在于 Python 的有用性和易用性。 由于其效率和速度,对于基于研究的小型项目来说,这是一个很好的选择。 如前所述Facebook、Twitter 等公司正在使用 PyTorch 来训练深度学习模型。 但是,使用它尚未成为主流。 PyTorch 的潜力是显而易见的,但它还没有准备好去挑战这个 TensorFlow 野兽。 然而考虑到它的增长PyTorch 进一步优化并提供更多功能的日子并不遥远,直到与 TensorFlow可以 比较。
###Savia Lobo
非常喜欢数据科学。 喜欢更新世界各地的科技事件。 喜欢歌唱和创作歌曲。 相信才智上的艺术。
作者: Savia Lobo非常喜欢数据科学。 喜欢更新世界各地的科技事件。 喜欢歌唱和创作歌曲。 相信才智上的艺术。
--------------------------------------------------------------------------------
@ -60,7 +62,7 @@ via: https://datahub.packtpub.com/deep-learning/dl-wars-pytorch-vs-tensorflow/
作者:[Savia Lobo][a]
译者:[Wuod3n](https://github.com/Wuod3n)
校对:[校对者ID](https://github.com/校对者ID)
校对:[wxy](https://github.com/wxy)
本文由 [LCTT](https://github.com/LCTT/TranslateProject) 原创编译,[Linux中国](https://linux.cn/) 荣誉推出
@ -77,33 +79,3 @@ via: https://datahub.packtpub.com/deep-learning/dl-wars-pytorch-vs-tensorflow/