matlab中神經(jīng)網(wǎng)絡(luò)激活函數(shù)怎么設(shè)置？

由于每個(gè)網(wǎng)絡(luò)層的功能不同，所選擇的激活函數(shù)的不同結(jié)果也會(huì)不同。所以需要注意的是，輸出層一般采用logsigpur

Python能否進(jìn)行大規(guī)模數(shù)值計(jì)算？

Python非常適合數(shù)值計(jì)算，幾乎可以說是除了老Fortran，C，C之外最適合數(shù)據(jù)科學(xué)的計(jì)算機(jī)語言，這一點(diǎn)從Python這幾年的發(fā)展勢(shì)頭就可以看出來。Python壓過R，壓過Matlab，在數(shù)據(jù)科學(xué)領(lǐng)域風(fēng)生水起。在TIOBE9月發(fā)布的最新編程語言排行榜中，Python以4.67%的增長率和0.26%的優(yōu)勢(shì)擊敗C，成功進(jìn)入Top3。

Python是一種免費(fèi)、靈活、強(qiáng)大的開源語言。使用Python可以減少大量開發(fā)時(shí)間，并提供簡潔易讀的語法。Python可以方便地用于數(shù)據(jù)操作、數(shù)據(jù)分析和可視化。Python為科學(xué)計(jì)算和機(jī)器學(xué)習(xí)相關(guān)的應(yīng)用提供了一套強(qiáng)大的庫。

Python的數(shù)值計(jì)算基于numpy庫。Numpy是Python中最常用的數(shù)值計(jì)算庫，它提供了一個(gè)通用而強(qiáng)大的高維數(shù)組結(jié)構(gòu)和大量的科學(xué)計(jì)算函數(shù)(相當(dāng)一部分是跨scipy的)，是Python中幾乎所有其他科學(xué)計(jì)算庫的基礎(chǔ)。

Python基于numpy構(gòu)建了完整的科學(xué)計(jì)算生態(tài)系統(tǒng)，其中最常用的有:

在numpy的基礎(chǔ)上，scipy:提供了解決科學(xué)計(jì)算中各種常見問題的工具，包括數(shù)學(xué)物理中的各種特殊函數(shù)、數(shù)值積分、最優(yōu)化、插值、傅立葉變換、線性代數(shù)、信號(hào)處理、圖像處理、隨機(jī)數(shù)和概率分布、統(tǒng)計(jì)學(xué)等等。sympy:Python中的符號(hào)計(jì)算庫支持符號(hào)計(jì)算、高精度計(jì)算、模式匹配、繪圖、方程求解、微積分、組合數(shù)學(xué)、離散數(shù)學(xué)、幾何、概率統(tǒng)計(jì)、物理等功能，可以在很大程度上替代Mathematica和Matlab的符號(hào)計(jì)算功能。Python的交互式開發(fā)和計(jì)算環(huán)境IPython:比Python自己的殼。它支持變量的自動(dòng)完成和縮進(jìn)，bashsh:Python是科學(xué)計(jì)算最常用和最重要的繪圖和數(shù)據(jù)可視化工具包。Pandas:Python常用的數(shù)據(jù)分析包，適合時(shí)間序列和金融數(shù)據(jù)分析。scikit-learn:python;的機(jī)器學(xué)習(xí)庫。它擁有多種分類、回歸和聚類算法，包括支持向量機(jī)、隨機(jī)森林、梯度增強(qiáng)、K-means等機(jī)器學(xué)習(xí)算法，并能與Python數(shù)值和科學(xué)計(jì)算庫numpy和scipy互操作。

以上是Python中基本的數(shù)值和科學(xué)計(jì)算工具，一般來說只適合在單機(jī)上計(jì)算，雖然可以使用多個(gè)線程或joblib等工具進(jìn)行并行加速(模塊除外，可以在多臺(tái)計(jì)算機(jī)組成的集群上運(yùn)行)。如果要進(jìn)行大規(guī)模的數(shù)值和科學(xué)計(jì)算，就必須使用并行和分布式計(jì)算。Python也提供了相應(yīng)的工具來支持大規(guī)模并行分布式計(jì)算。可以使用的工具有:

Dask:Dask是一個(gè)用于數(shù)值和科學(xué)計(jì)算的靈活的并行計(jì)算庫，它提供了一個(gè)優(yōu)化的并行任務(wù)調(diào)度器和幾種并行數(shù)據(jù)結(jié)構(gòu):DaskArray是分布式并行numpy值，DaskBag是分布式并行Python序列集，DaskDataframe是分布式并行Pandasdataframe。此外，Dask-ML將scikit-learn中的所有機(jī)器學(xué)習(xí)算法并行化，可以處理更大規(guī)模的數(shù)據(jù)操作。

Mpip4py:MPI(消息傳遞)庫mpi4py:Python。Mpi4py庫與numpy數(shù)組緊密結(jié)合，可以在包括不同計(jì)算節(jié)點(diǎn)在內(nèi)的不同Mpi進(jìn)程之間高效交換numpy數(shù)組數(shù)據(jù)。使用mpi4py可以很容易地在Python中編寫基于MPI的并行計(jì)算程序，然后在大型計(jì)算集群或超級(jí)計(jì)算機(jī)上運(yùn)行。我個(gè)人的【簡書主題】()和【CSDN博客專欄】()有專門介紹mpi4py并行計(jì)算的文章，并提供了大量的程序?qū)嵗Ｓ行枰蛘哂信d趣的可以了解一下。

:支持多種形式的并行計(jì)算，包括單程序多數(shù)據(jù)流(SPMD)并行、多程序多數(shù)據(jù)流(MPMD)并行、MPI并行、數(shù)據(jù)并行等。，而且整合計(jì)算任務(wù)部門非常容易。程序到集群并行執(zhí)行。

PySpark:PythonAPIforSpark，可用于Python中的大數(shù)據(jù)分析和大規(guī)模機(jī)器學(xué)習(xí)應(yīng)用。可能不太適合大規(guī)模高性能數(shù)值和科學(xué)計(jì)算。

大規(guī)模數(shù)值和科學(xué)計(jì)算往往涉及大量的數(shù)據(jù)I/O操作，I/O操作往往是高性能計(jì)算的瓶頸。MPI的ROMIO庫提供了高效的并行I/O支持，mpi4py可用于并行I/O操作，或支持并行I/O的科學(xué)數(shù)據(jù)存儲(chǔ)文件格式，如HDF5(層次數(shù)據(jù)格式)。Python中的H5py和PyTable提供了對(duì)HDF5文件的數(shù)據(jù)操作支持，Pandas中也有相應(yīng)的函數(shù)讀取或存儲(chǔ)HDF5文件中的數(shù)據(jù)。