亚洲精品一区二区三区大桥未久_亚洲春色古典小说自拍_国产人妻aⅴ色偷_国产精品一区二555

神經(jīng)網(wǎng)絡(luò)研究現(xiàn)狀8篇

時(shí)間:2023-08-24 09:27:41

緒論:在尋找寫作靈感嗎?愛發(fā)表網(wǎng)為您精選了8篇神經(jīng)網(wǎng)絡(luò)研究現(xiàn)狀,愿這些內(nèi)容能夠啟迪您的思維,激發(fā)您的創(chuàng)作熱情,歡迎您的閱讀與分享!

神經(jīng)網(wǎng)絡(luò)研究現(xiàn)狀

篇1

>> 大規(guī)模自組織人工神經(jīng)網(wǎng)絡(luò)技術(shù)在智能建筑中的應(yīng)用方法研究 基于自組織增量神經(jīng)網(wǎng)絡(luò)的碼書產(chǎn)生方法在圖像分類中的應(yīng)用 基于Matlab的自組織神經(jīng)網(wǎng)絡(luò)在油氣層識(shí)別中的應(yīng)用研究 基于自組織競(jìng)爭(zhēng)神經(jīng)網(wǎng)絡(luò)的地震預(yù)測(cè) 自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)在測(cè)井資料巖性識(shí)別中的應(yīng)用 自組織特征映射網(wǎng)絡(luò)在探地雷達(dá)數(shù)據(jù)處理中的應(yīng)用 氣體識(shí)別自組織神經(jīng)網(wǎng)絡(luò) 一種基于自組織過(guò)程神經(jīng)網(wǎng)絡(luò)的動(dòng)態(tài)樣本半監(jiān)督學(xué)習(xí)算法 自組織灰色神經(jīng)網(wǎng)絡(luò)中的基于電力系統(tǒng)短期負(fù)荷預(yù)測(cè)方法應(yīng)用研究 基于自組織映射神經(jīng)網(wǎng)絡(luò)的邊坡樣本分析方法 基于SOM神經(jīng)網(wǎng)絡(luò)技術(shù)的區(qū)域卷煙消費(fèi)狀態(tài)自組織分類 人工神經(jīng)網(wǎng)絡(luò)模型在水動(dòng)力模型數(shù)據(jù)缺失中的應(yīng)用 基于人工神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)挖掘技術(shù)在臨床中應(yīng)用進(jìn)展 自組織特征映射網(wǎng)絡(luò)在壓縮編碼設(shè)計(jì)中的應(yīng)用 液壓控制系統(tǒng)中自組織雙模糊神經(jīng)網(wǎng)絡(luò)控制模型關(guān)鍵點(diǎn)研究 淺談人工神經(jīng)網(wǎng)絡(luò)在林業(yè)中的應(yīng)用 人工神經(jīng)網(wǎng)絡(luò)在空調(diào)系統(tǒng)中的應(yīng)用 一種改進(jìn)的動(dòng)態(tài)二叉樹的自組織神經(jīng)網(wǎng)絡(luò)算法 基于SOM神經(jīng)網(wǎng)絡(luò)技術(shù)的卷煙零售客戶自組織分類 基于自組織神經(jīng)網(wǎng)絡(luò)SOM的汽車安全氣囊裝配故障診斷 常見問(wèn)題解答 當(dāng)前所在位置:百度百科 移動(dòng)學(xué)習(xí)2012-12-7

[2] 葉成林 徐福蔭 許駿 移動(dòng)學(xué)習(xí)研究綜述 電化教育研究 2004 No.3

[3] 陳偉超 國(guó)內(nèi)移動(dòng)學(xué)習(xí)研究現(xiàn)狀及發(fā)展建議[J].中國(guó)電力教育,2009 No.9

[4] 詞匯語(yǔ)義知識(shí)庫(kù)淺述 劉興林 福建電腦 2009 No.9

篇2

人工神經(jīng)網(wǎng)絡(luò)屬于一種對(duì)人腦結(jié)構(gòu)及功能進(jìn)行反映的數(shù)學(xué)抽象模型,對(duì)人的思維以及存儲(chǔ)知識(shí)等功能進(jìn)行模擬,從而完成某項(xiàng)工作。對(duì)于巖土工程來(lái)說(shuō),主要包括巖體和土體兩項(xiàng)內(nèi)容,且這兩項(xiàng)內(nèi)容均具備很高的復(fù)雜性。在巖土工程研究過(guò)程中,有必要借助人工神經(jīng)網(wǎng)絡(luò),從而使巖土工程的研究得到有效進(jìn)步發(fā)展。本文在分析人工神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上,進(jìn)一步對(duì)人工神經(jīng)網(wǎng)絡(luò)在巖土工程中的應(yīng)用進(jìn)行分析,以期為巖土工程研究的進(jìn)展提供一些具有價(jià)值的參考建議。

關(guān)鍵詞:

人工神經(jīng)網(wǎng)絡(luò);巖土工程;應(yīng)用

巖土工程的研究對(duì)象分為兩大類:其一為巖體;其二為土體。巖土工程涉及的介質(zhì)存在兩大特性,即模糊性和隨機(jī)性,這兩大特性又統(tǒng)稱為不確定性。近年來(lái),不少學(xué)者在巖土工程研究過(guò)程中,提出了人工神經(jīng)網(wǎng)絡(luò)這一概念,即利用人工神經(jīng)網(wǎng)絡(luò),將其應(yīng)用到巖土工程研究領(lǐng)域當(dāng)中,從而為深入了解巖土工程的某些介質(zhì)特征奠定有效基礎(chǔ)[1]。從巖土工程研究的優(yōu)化及完善角度考慮,本文對(duì)“人工神經(jīng)網(wǎng)絡(luò)在巖土工程中的應(yīng)用”進(jìn)行分析意義重大。

1人工神經(jīng)網(wǎng)絡(luò)分析

1.1人工神經(jīng)網(wǎng)絡(luò)概念

對(duì)于人工神經(jīng)網(wǎng)絡(luò)來(lái)說(shuō),是一種對(duì)人腦結(jié)構(gòu)與功能進(jìn)行反映的數(shù)學(xué)抽象模型;主要通過(guò)數(shù)理策略,經(jīng)信息處理,進(jìn)一步對(duì)人腦神經(jīng)網(wǎng)絡(luò)構(gòu)建某種簡(jiǎn)化模型,進(jìn)一步采取大量神經(jīng)元節(jié)點(diǎn)互連,從而形成復(fù)雜網(wǎng)絡(luò),最終完成人類思維及儲(chǔ)存知識(shí)的能力的模擬。神經(jīng)網(wǎng)絡(luò)無(wú)需構(gòu)建反映系統(tǒng)物理規(guī)律的數(shù)學(xué)模型,與別的方法比較,在噪聲容忍度方面更強(qiáng)[2]。與此同時(shí),還擁有很強(qiáng)的非線性映射功能,對(duì)于大量非結(jié)構(gòu)性以及非精準(zhǔn)性規(guī)律存在自適應(yīng)能力,具備超強(qiáng)的計(jì)算能力,可完成信息的記憶以及相關(guān)知識(shí)的推理,且其自身還具備自主學(xué)習(xí)能力;與常規(guī)算法相比,優(yōu)勢(shì)、特點(diǎn)突出。

1.2BP網(wǎng)絡(luò)簡(jiǎn)述

從研究現(xiàn)狀來(lái)看,基于實(shí)際應(yīng)用過(guò)程中,人工神經(jīng)網(wǎng)絡(luò)模型大多數(shù)采取BP網(wǎng)絡(luò)。BP網(wǎng)絡(luò)即指的是多層前饋網(wǎng)絡(luò),因多層前饋網(wǎng)絡(luò)的訓(xùn)練通常使用誤差反向傳播算法,所以將BP網(wǎng)絡(luò)稱之為屬于一類誤差反向傳播的多層前饋網(wǎng)絡(luò)。對(duì)于其網(wǎng)絡(luò)而言,具備輸入節(jié)點(diǎn)和輸出節(jié)點(diǎn),同時(shí)還具備一層隱層節(jié)點(diǎn)與多層隱層節(jié)點(diǎn),基于同層節(jié)點(diǎn)當(dāng)中不存在耦合狀態(tài)。其中的輸入信號(hào)從輸出層節(jié)點(diǎn)依次傳過(guò)各個(gè)隱層節(jié)點(diǎn),進(jìn)一步傳輸至輸出節(jié)點(diǎn),每一層節(jié)點(diǎn)的輸出只對(duì)下一層的節(jié)點(diǎn)輸出產(chǎn)生影響。

2人工神經(jīng)網(wǎng)絡(luò)在巖土工程中的應(yīng)用分析

在上述分析過(guò)程中,對(duì)人工神經(jīng)網(wǎng)絡(luò)的概念有一定的了解,由于其模型算法的優(yōu)越性,可將其應(yīng)用到巖土工程研究領(lǐng)域當(dāng)中,從而為解決巖土工程問(wèn)題提供有效憑據(jù)。從現(xiàn)狀來(lái)看,人工神經(jīng)網(wǎng)絡(luò)在巖土工程中的應(yīng)用主要體現(xiàn)在以下幾大方面。

2.1在巖石力學(xué)工程中的應(yīng)用

巖石力學(xué)工程是巖土工程中尤為重要的一部分,將神經(jīng)網(wǎng)絡(luò)應(yīng)用到巖石力學(xué)工程當(dāng)中,主要對(duì)巖石非線性系統(tǒng)加以識(shí)別,同時(shí)還能夠?yàn)楣こ處r體分類提供有效幫助,此外在爆破效應(yīng)預(yù)測(cè)方面也具備一定的應(yīng)用價(jià)值。對(duì)于人工神經(jīng)網(wǎng)絡(luò)來(lái)說(shuō),存在從有限數(shù)據(jù)中獲取系統(tǒng)近似關(guān)系的優(yōu)良特性,而巖石當(dāng)中的各項(xiàng)參數(shù)之間又存在很復(fù)雜的關(guān)系,并且難以獲取完整的參數(shù)集。在這樣的情況下,使用人工神經(jīng)網(wǎng)絡(luò)技術(shù),便能夠使巖石非線性系統(tǒng)識(shí)別問(wèn)題得到有效解決[3]。此外,有研究者將巖石抗壓強(qiáng)度、抗拉強(qiáng)度以及彈性能量指數(shù)等作為巖爆預(yù)測(cè)的評(píng)判指標(biāo),進(jìn)一步對(duì)巖爆預(yù)測(cè)的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行構(gòu)建,然后預(yù)測(cè)了巖爆的發(fā)生與烈度。通過(guò)計(jì)算得出結(jié)論:采取人工神經(jīng)網(wǎng)絡(luò)方法進(jìn)行巖爆預(yù)測(cè)行之有效,值得采納借鑒。

2.2在邊坡工程中的應(yīng)用

對(duì)于巖土工程中的邊坡工程來(lái)說(shuō),邊坡失穩(wěn)狀況突出,且是由多因素造成的,比如邊坡失穩(wěn)的地質(zhì)形成條件、誘發(fā)因素的復(fù)雜性以及隨機(jī)性等。與此同時(shí),由于邊坡動(dòng)態(tài)監(jiān)測(cè)技術(shù)從目前來(lái)看尚且不夠成熟,因此邊坡失穩(wěn)在巖土工程研究領(lǐng)域一直視為是一項(xiàng)難以解決的工程項(xiàng)目。而對(duì)于神經(jīng)網(wǎng)絡(luò)方法來(lái)說(shuō),因其具備非常好的預(yù)測(cè)功能,因此相關(guān)巖土工程研究工作者通常會(huì)采取人工神經(jīng)網(wǎng)絡(luò)對(duì)巖土工程中的邊坡工程問(wèn)題進(jìn)行求解。并且,從現(xiàn)有研究成果來(lái)看,將人工神經(jīng)網(wǎng)絡(luò)應(yīng)用于巖土工程的成果突出。有學(xué)者對(duì)影響巖質(zhì)邊坡的穩(wěn)定性的相關(guān)因素進(jìn)行了分析,包括地形因素、巖體因素以及外部環(huán)境因素等,并構(gòu)建了邊坡穩(wěn)定性分析的BP網(wǎng)絡(luò)模型[4]。此外,還有學(xué)者將大量水電邊坡工程的穩(wěn)定狀況作為學(xué)習(xí)訓(xùn)練樣本及預(yù)測(cè)樣本,對(duì)以人工神經(jīng)網(wǎng)絡(luò)技術(shù)的邊坡巖體的穩(wěn)定性進(jìn)行了研究,結(jié)果顯示,采取人工神經(jīng)網(wǎng)絡(luò)對(duì)邊坡巖體的穩(wěn)定狀況進(jìn)行預(yù)測(cè)可行性高。

2.3在基坑工程中的應(yīng)用

采取人工神經(jīng)網(wǎng)絡(luò)對(duì)基坑變形進(jìn)行預(yù)測(cè)主要分為兩種情況:其一,對(duì)會(huì)影響基坑變形的各大因素及位移的神經(jīng)網(wǎng)絡(luò)模型加以構(gòu)建;其二,把變形監(jiān)測(cè)數(shù)據(jù)作為一個(gè)時(shí)間序列,以歷史數(shù)據(jù)為依據(jù),將系統(tǒng)演變規(guī)律查找出來(lái),進(jìn)一步完成系統(tǒng)未來(lái)發(fā)展趨勢(shì)的分析及預(yù)測(cè)。有學(xué)者針對(duì)基坑變形利用了人工神經(jīng)網(wǎng)絡(luò)方法進(jìn)行預(yù)測(cè),結(jié)果表明:對(duì)前期實(shí)測(cè)結(jié)果加以應(yīng)用,使用此方法能夠?qū)罄m(xù)階段的基坑變形實(shí)時(shí)預(yù)測(cè)出來(lái),并且預(yù)測(cè)結(jié)果和實(shí)測(cè)結(jié)果保持一致性。此外,還有學(xué)者根據(jù)具體工程項(xiàng)目,采取人工神經(jīng)網(wǎng)絡(luò),對(duì)深基坑施工中地下連續(xù)墻的位移進(jìn)行了深入分析及預(yù)測(cè),結(jié)果顯示:使用人工神經(jīng)網(wǎng)絡(luò)方法進(jìn)行分析及預(yù)測(cè),在精準(zhǔn)度上非常高,值得在深基坑工程相關(guān)預(yù)測(cè)項(xiàng)目中使用[5]。

2.4在地鐵隧道工程中的應(yīng)用

在地鐵隧道施工過(guò)程中,存在地表變形和隧道圍巖變形等狀況,為了深入了解這些狀況,可將人工神經(jīng)網(wǎng)絡(luò)應(yīng)用其中。有學(xué)者在對(duì)地層的影響因素進(jìn)行分析過(guò)程中,列出了可能的影響因素:盾構(gòu)施工參數(shù)、盾構(gòu)物理參數(shù)以及地質(zhì)環(huán)境條件,進(jìn)一步利用人工神經(jīng)網(wǎng)絡(luò),構(gòu)建了人工神經(jīng)網(wǎng)絡(luò)模型,進(jìn)一步針對(duì)盾構(gòu)施工期間的地層移動(dòng)進(jìn)行實(shí)時(shí)動(dòng)態(tài)預(yù)測(cè),最終得到了不錯(cuò)的預(yù)測(cè)成果。此外,還有學(xué)者對(duì)BP網(wǎng)絡(luò)算法進(jìn)行改進(jìn),然后對(duì)某地鐵工程中隧道上方的地表變形進(jìn)行了未來(lái)趨勢(shì)預(yù)測(cè),結(jié)果表明:和其他地表變形預(yù)測(cè)方法相比,人工神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法的應(yīng)用價(jià)值更為顯著。

3結(jié)語(yǔ)

通過(guò)本文的探究,認(rèn)識(shí)到基于人工神經(jīng)網(wǎng)絡(luò)模型的算法具備很高的優(yōu)越性,由于巖土工程地質(zhì)條件復(fù)雜,為了深入研究巖土工程,可將人工神經(jīng)網(wǎng)絡(luò)應(yīng)用其中。結(jié)合現(xiàn)狀研究成果可知,人工神經(jīng)網(wǎng)絡(luò)在巖石力學(xué)工程、邊坡工程、基坑工程以及地鐵隧道工程中均具備顯著應(yīng)用價(jià)值。例如:將人工神經(jīng)網(wǎng)絡(luò)應(yīng)用于巖石力學(xué)工程當(dāng)中,能夠預(yù)測(cè)巖爆的發(fā)生與烈度;應(yīng)用于邊坡工程當(dāng)中,能夠邊坡工程的穩(wěn)定性進(jìn)行精準(zhǔn)預(yù)測(cè);應(yīng)用于基坑工程當(dāng)中,實(shí)現(xiàn)對(duì)基坑工程變形的實(shí)時(shí)動(dòng)態(tài)監(jiān)測(cè);應(yīng)用于地鐵隧道工程當(dāng)中,能夠進(jìn)一步了解地鐵工程中隧道上方的地表變形情況。

總而言之,人工神經(jīng)網(wǎng)絡(luò)在巖土工程中的應(yīng)用價(jià)值高,值得相關(guān)工作者采納應(yīng)用。

作者:張洪飛 單位:山東正元建設(shè)工程有限責(zé)任公司

參考文獻(xiàn)

[1]鄭惠娜.章超樺.秦小明.肖秀春,等.人工神經(jīng)網(wǎng)絡(luò)在食品生物工程中的應(yīng)用[J].食品工程,2012(01):16-19.

[2]鄒義懷.江成玉.李春輝,等.人工神經(jīng)網(wǎng)絡(luò)在邊坡穩(wěn)定性預(yù)測(cè)中的應(yīng)用[J].礦冶,2011(04):38-41.

[3]曹建智.張?。斯ど窠?jīng)網(wǎng)絡(luò)在白洋淀水質(zhì)評(píng)價(jià)中的應(yīng)用[J].電子技術(shù)與軟件工程,2016(08):261-262.

篇3

【關(guān)鍵詞】壓電方程;BP神經(jīng)網(wǎng)絡(luò);預(yù)測(cè)

0 研究背景

材料從使用性能上可以分為結(jié)構(gòu)材料和功能材料兩大類[1],其中結(jié)構(gòu)材料以其強(qiáng)度、韌性、硬度、彈性等力學(xué)特性為 應(yīng)用依據(jù),功能材料以其電、磁、光、聲、熱等物理性能為基礎(chǔ),用以制作有特殊功能的器件。壓電材料是實(shí)現(xiàn)機(jī)械能與電能相互轉(zhuǎn)換的功能材料[2],是一類對(duì)機(jī)、電、聲、光、熱敏感的電子材料,外力和電場(chǎng)之間的耦合為壓電材料提供了一種機(jī)制,用于感測(cè)力學(xué)載荷所誘發(fā)電位變化,并通過(guò)外部電場(chǎng)改變結(jié)構(gòu)應(yīng)。壓電材料的結(jié)構(gòu)可靠性已引起越來(lái)越多的關(guān)注,因?yàn)樗鼈兇蠖嗍潜粦?yīng)用在微機(jī)電系統(tǒng)中,而微機(jī)電系統(tǒng)的大量應(yīng)用也決定了研究壓電材料的重要意義。

1 壓電材料的本構(gòu)方程

2 神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)(簡(jiǎn)稱神經(jīng)網(wǎng)絡(luò))是由人工神經(jīng)元互連組成 的網(wǎng)絡(luò),是一種非線性動(dòng)力學(xué)系統(tǒng),它采用類似于“黑箱”的方法,通過(guò)學(xué)習(xí)和記憶而不是假設(shè),找出輸入、輸出變量之間的非線性關(guān)系(映射),在執(zhí)行問(wèn)題和求解的時(shí)候,將所獲取的數(shù)據(jù)輸入給訓(xùn)練好的網(wǎng)絡(luò),依據(jù)網(wǎng)絡(luò)學(xué)習(xí)的知識(shí)進(jìn)行網(wǎng)絡(luò)推理,得出合理的答案與結(jié)果。其中BP神經(jīng)網(wǎng)絡(luò)是目前發(fā)展比較成熟的一種人工神經(jīng)網(wǎng)絡(luò),約有80%的神經(jīng)網(wǎng)絡(luò)系統(tǒng)采用BP網(wǎng)絡(luò)。它是一種反饋式全連接多層神經(jīng)網(wǎng)絡(luò),具有結(jié)構(gòu)簡(jiǎn)單,工作狀態(tài)穩(wěn)定等優(yōu)點(diǎn),并且具有較強(qiáng)的聯(lián)想、記憶和推廣能力,可以以任意精度逼近任何非線性連接函數(shù)[4]。

3 壓電陶瓷平面方程驗(yàn)證

本文將針對(duì)PZT-4壓電陶瓷的本構(gòu)方程進(jìn)行研究。對(duì)于此種壓電材料,本構(gòu)方程里面的常系數(shù)c與ζ均為已知常數(shù)。此壓電材料屬于線性壓電材料的范疇,為減少數(shù)據(jù)量的運(yùn)算,方便神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè),本文將著重針對(duì)該材料的二維平面方程進(jìn)行驗(yàn)證。對(duì)于平面問(wèn)題,不妨設(shè)坐標(biāo)x2方向上的應(yīng)力大小為0,則根據(jù)彈性力學(xué)中平面應(yīng)力基本模型,此時(shí)可知坐標(biāo)系x2方向上的電位移D2=0,且凡是下標(biāo)帶有x2的應(yīng)力與應(yīng)變大小均為0。故可以得出以下關(guān)系式(3)。

4 結(jié)論

平面壓電本構(gòu)方程中的線性常數(shù)已經(jīng)給出,通過(guò)輸入多組輸入數(shù)據(jù)根據(jù)本構(gòu)方程得到準(zhǔn)確的輸出數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的樣本訓(xùn)練數(shù)據(jù),借由神經(jīng)網(wǎng)絡(luò)極強(qiáng)的模擬映射關(guān)系,訓(xùn)練好的網(wǎng)絡(luò)可以預(yù)測(cè)出任意數(shù)據(jù)關(guān)系模型,包括此處的線性關(guān)系模型。本文通過(guò)神經(jīng)網(wǎng)絡(luò)驗(yàn)證壓電方程中數(shù)據(jù)之間的線性關(guān)系,是一種很好的驗(yàn)證方法,具有一定的使用意義。

【參考文獻(xiàn)】

[1]蓋學(xué)周.壓電材料的研究發(fā)展方向和現(xiàn)狀[J].中國(guó)陶瓷,2008,5(44):9-13.

[2]裴先茹,高海榮.壓電材料的研究和應(yīng)用現(xiàn)狀[D].鄭州:鄭州師范學(xué)院.

篇4

關(guān)鍵詞人工神經(jīng)網(wǎng)絡(luò);發(fā)展;應(yīng)用

中圖分類號(hào):TP183 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1671-7597(2014)12-0003-01

隨著科學(xué)技術(shù)的發(fā)展,各個(gè)行業(yè)和領(lǐng)域都在進(jìn)行人工智能化的研究工作,已經(jīng)成為專家學(xué)者研究的熱點(diǎn)。人工神經(jīng)網(wǎng)絡(luò)就是在人工智能基礎(chǔ)上發(fā)展而來(lái)的重要分支,對(duì)人工智能的發(fā)展具有重要的促進(jìn)作用。人工神經(jīng)網(wǎng)絡(luò)從形成之初發(fā)展至今,經(jīng)歷了不同的發(fā)展階段,并且在經(jīng)濟(jì)、生物、醫(yī)學(xué)等領(lǐng)域得到了廣泛的應(yīng)用,解決了許多技術(shù)上的難題。

1人工神經(jīng)網(wǎng)絡(luò)概述

關(guān)于人工神經(jīng)網(wǎng)絡(luò),到目前為止還沒(méi)有一個(gè)得到廣泛認(rèn)可的統(tǒng)一定義,綜合各專家學(xué)者的觀點(diǎn)可以將人工神經(jīng)網(wǎng)絡(luò)簡(jiǎn)單的概括為是模仿人腦的結(jié)構(gòu)和功能的計(jì)算機(jī)信息處理系統(tǒng)[1]。人工神經(jīng)網(wǎng)絡(luò)具有自身的發(fā)展特性,其具有很強(qiáng)的并行結(jié)構(gòu)以及并行處理的能力,在實(shí)時(shí)和動(dòng)態(tài)控制時(shí)能夠起到很好的作用;人工神經(jīng)網(wǎng)絡(luò)具有非線性映射的特性,對(duì)處理非線性控制的問(wèn)題時(shí)能給予一定的幫助;人工神經(jīng)網(wǎng)絡(luò)可以通過(guò)訓(xùn)練掌握數(shù)據(jù)歸納和處理的能力,因此在數(shù)學(xué)模型等難以處理時(shí)對(duì)問(wèn)題進(jìn)行解決;人工神經(jīng)網(wǎng)絡(luò)的適應(yīng)性和集成性很強(qiáng),能夠適應(yīng)不同規(guī)模的信息處理和大規(guī)模集成數(shù)據(jù)的處理與控制;人工神經(jīng)網(wǎng)絡(luò)不但在軟件技術(shù)上比較成熟,而且近年來(lái)在硬件方面也得到了較大發(fā)展,提高了人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)的信息處理能力。

2人工神經(jīng)網(wǎng)絡(luò)的發(fā)展歷程

2.1 萌芽時(shí)期

在20世紀(jì)40年代,生物學(xué)家McCulloch與數(shù)學(xué)家Pitts共同發(fā)表文章,第一次提出了關(guān)于神經(jīng)元的模型M-P模型,這一理論的提出為神經(jīng)網(wǎng)絡(luò)模型的研究和開發(fā)奠定了基礎(chǔ),在此基礎(chǔ)上人工神經(jīng)網(wǎng)絡(luò)研究逐漸展開。1951年,心理學(xué)家Hebb提出了關(guān)于連接權(quán)數(shù)值強(qiáng)化的法則,為神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)功能開發(fā)進(jìn)行了鋪墊。之后生物學(xué)家Eccles通過(guò)實(shí)驗(yàn)證實(shí)了突觸的真實(shí)分流,為神經(jīng)網(wǎng)絡(luò)研究突觸的模擬功能提供了真實(shí)的模型基礎(chǔ)以及生物學(xué)的依據(jù)[2]。隨后,出現(xiàn)了能夠模擬行為以及條件反射的處理機(jī)和自適應(yīng)線性網(wǎng)絡(luò)模型,提高了人工神經(jīng)網(wǎng)絡(luò)的速度和精準(zhǔn)度。這一系列研究成果的出現(xiàn)為人工神經(jīng)網(wǎng)絡(luò)的形成和發(fā)展提供了可能。

2.2 低谷時(shí)期

在人工神經(jīng)網(wǎng)絡(luò)形成的初期,人們只是熱衷于對(duì)它的研究,卻對(duì)其自身的局限進(jìn)行了忽視。Minskyh和Papert通過(guò)多年對(duì)神經(jīng)網(wǎng)絡(luò)的研究,在1969年對(duì)之前所取得的研究成果提出了質(zhì)疑,認(rèn)為當(dāng)前研究出的神經(jīng)網(wǎng)絡(luò)只合適處理比較簡(jiǎn)單的線性問(wèn)題,對(duì)于非線性問(wèn)題以及多層網(wǎng)絡(luò)問(wèn)題卻無(wú)法解決。由于他們的質(zhì)疑,使神經(jīng)網(wǎng)絡(luò)的發(fā)展進(jìn)入了低谷時(shí)期,但是在這一時(shí)期,專家和學(xué)者也并沒(méi)有停止對(duì)神經(jīng)網(wǎng)絡(luò)的研究,針對(duì)他們的質(zhì)疑也得出一些相應(yīng)的研究成果。

2.3 復(fù)興時(shí)期

美國(guó)的物理學(xué)家Hopfield在1982年提出了新的神經(jīng)網(wǎng)絡(luò)模型,并通過(guò)實(shí)驗(yàn)證明在滿足一定的條件時(shí),神經(jīng)網(wǎng)絡(luò)是能夠達(dá)到穩(wěn)定的狀態(tài)的。通過(guò)他的研究和帶動(dòng),眾多專家學(xué)者又重新開始了對(duì)人工神經(jīng)網(wǎng)絡(luò)方面的研究,推動(dòng)了神經(jīng)網(wǎng)絡(luò)的再一次發(fā)展[3]。經(jīng)過(guò)專家學(xué)者的不斷努力,提出了各種不同的人工神經(jīng)網(wǎng)絡(luò)的模型,神經(jīng)網(wǎng)絡(luò)理論研究不斷深化,新的理論和方法層出不窮,使神經(jīng)網(wǎng)絡(luò)的研究和應(yīng)用進(jìn)入了一個(gè)嶄新的時(shí)期。

2.4 穩(wěn)步發(fā)展時(shí)期

隨著人工神經(jīng)網(wǎng)絡(luò)研究在世界范圍內(nèi)的再次興起,我國(guó)也迎來(lái)了相關(guān)理論研究的熱潮,在人工神經(jīng)網(wǎng)絡(luò)和計(jì)算機(jī)技術(shù)方面取得了突破性的進(jìn)展。到20世紀(jì)90年代時(shí),國(guó)內(nèi)對(duì)于神經(jīng)網(wǎng)絡(luò)領(lǐng)域的研究得到了進(jìn)一步的完善和發(fā)展,而且能夠利用神經(jīng)網(wǎng)絡(luò)對(duì)非線性的系統(tǒng)控制問(wèn)題進(jìn)行解決,研究成果顯著。隨著各類人工神經(jīng)網(wǎng)絡(luò)的相關(guān)刊物的創(chuàng)建和相關(guān)學(xué)術(shù)會(huì)議的召開,我國(guó)人工神經(jīng)網(wǎng)絡(luò)的研究和應(yīng)用條件逐步改善,得到了國(guó)際的關(guān)注。

隨著人工神經(jīng)網(wǎng)絡(luò)的穩(wěn)步發(fā)展,逐漸建立了光學(xué)神經(jīng)網(wǎng)絡(luò)系統(tǒng),利用光學(xué)的強(qiáng)大功能,提高了人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力和自適應(yīng)能力。對(duì)非線性動(dòng)態(tài)系統(tǒng)的控制問(wèn)題,采取有效措施,提高超平面的光滑性,對(duì)其精度進(jìn)行改進(jìn)。之后有專家提出了關(guān)于人工神經(jīng)網(wǎng)絡(luò)的抽取算法,雖然保證了精度,但也加大了消耗,在一定程度上降低了神經(jīng)網(wǎng)絡(luò)的效率,因此在此基礎(chǔ)上又提出了改進(jìn)算法FERNN。混沌神經(jīng)網(wǎng)絡(luò)的發(fā)展也得到了相應(yīng)的進(jìn)步,提高了神經(jīng)網(wǎng)絡(luò)的泛化能力。

3人工神經(jīng)網(wǎng)絡(luò)的應(yīng)用

3.1 在信息領(lǐng)域中的應(yīng)用

人工神經(jīng)網(wǎng)絡(luò)在信息領(lǐng)域中的應(yīng)用主要體現(xiàn)在信息處理和模式識(shí)別兩個(gè)方面。由于科技的發(fā)展,當(dāng)代信息處理工作越來(lái)越復(fù)雜,利用人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)可以對(duì)人的思維進(jìn)行模仿甚至是替代,面對(duì)問(wèn)題自動(dòng)診斷和解決,能夠輕松解決許多傳統(tǒng)方法無(wú)法解決的問(wèn)題,在軍事信息處理中的應(yīng)用極為廣泛[4]。模式識(shí)別是對(duì)事物表象的各種信息進(jìn)行整理和分析,對(duì)事物進(jìn)行辨別和解釋的一個(gè)過(guò)程,這樣對(duì)信息進(jìn)行處理的過(guò)程與人類大腦的思維方式很相像。模式識(shí)別的方法可以分為兩種,一種是統(tǒng)計(jì)模式識(shí)別,還有一種是結(jié)構(gòu)模式識(shí)別,在語(yǔ)音識(shí)別和指紋識(shí)別等方面得到了廣泛的應(yīng)用。

3.2 在醫(yī)學(xué)領(lǐng)域的應(yīng)用

人工神經(jīng)網(wǎng)絡(luò)對(duì)于非線性問(wèn)題處理十分有效,而人體的構(gòu)成和疾病形成的原因十分復(fù)雜,具有不可預(yù)測(cè)性,在生物信號(hào)的表現(xiàn)形式和變化規(guī)律上也很難掌握,信息檢測(cè)和分析等諸多方面都存在著復(fù)雜的非線性聯(lián)系,所以應(yīng)用人工神經(jīng)網(wǎng)絡(luò)決解這些非線性問(wèn)題具有特殊意義[5]。目前,在醫(yī)學(xué)領(lǐng)域中的應(yīng)用涉及到理論和臨床的各個(gè)方面,最主要的是生物信號(hào)的檢測(cè)和自動(dòng)分析以及專家系統(tǒng)等方面的應(yīng)用。

3.3 在經(jīng)濟(jì)領(lǐng)域中的應(yīng)用

經(jīng)濟(jì)領(lǐng)域中的商品價(jià)格、供需關(guān)系、風(fēng)險(xiǎn)系數(shù)等方面的信息構(gòu)成也十分復(fù)雜且變幻莫測(cè),人工神經(jīng)網(wǎng)絡(luò)可以對(duì)不完整的信息以及模糊不確定的信息進(jìn)行簡(jiǎn)單明了的處理,與傳統(tǒng)的經(jīng)濟(jì)統(tǒng)計(jì)方法相比具有其無(wú)法比擬的優(yōu)勢(shì),數(shù)據(jù)分析的穩(wěn)定性和可靠性更強(qiáng)。

3.4 在其他領(lǐng)域的應(yīng)用

人工神經(jīng)網(wǎng)絡(luò)在控制領(lǐng)域、交通領(lǐng)域、心理學(xué)領(lǐng)域等方面都有很廣泛的應(yīng)用,能夠?qū)Ω唠y度的非線性問(wèn)題進(jìn)行處理,對(duì)交通運(yùn)輸方面進(jìn)行集成式的管理,以其高適應(yīng)性和優(yōu)秀的模擬性能解決了許多傳統(tǒng)方法無(wú)法解決的問(wèn)題,促進(jìn)了各個(gè)領(lǐng)域的快速發(fā)展。

4總結(jié)

隨著科技的發(fā)展,人工智能系統(tǒng)將進(jìn)入更加高級(jí)的發(fā)展階段,人工神經(jīng)網(wǎng)絡(luò)也將得到更快的發(fā)展和更加廣泛的應(yīng)用。人工神經(jīng)網(wǎng)絡(luò)也許無(wú)法完全對(duì)人腦進(jìn)行取代,但是其特有的非線性信息處理能力解決了許多人工無(wú)法解決的問(wèn)題,在智能系統(tǒng)的各個(gè)領(lǐng)域中得到成功應(yīng)用,今后的發(fā)展趨勢(shì)將向著更加智能和集成的方向發(fā)展。

參考文獻(xiàn)

[1]徐用懋,馮恩波.人工神經(jīng)網(wǎng)絡(luò)的發(fā)展及其在控制中的應(yīng)用[J].化工進(jìn)展,1993(5):8-12,20.

[2]湯素麗,羅宇鋒.人工神經(jīng)網(wǎng)絡(luò)技術(shù)的發(fā)展與應(yīng)用[J].電腦開發(fā)與應(yīng)用,2009(10):59-61.

[3]李會(huì)玲,柴秋燕.人工神經(jīng)網(wǎng)絡(luò)與神經(jīng)網(wǎng)絡(luò)控制的發(fā)展及展望[J].邢臺(tái)職業(yè)技術(shù)學(xué)院學(xué)報(bào),2009(5):44-46.

篇5

本文建立相應(yīng)的BP神經(jīng)網(wǎng)絡(luò)模型,根據(jù)民生銀行信貸信用評(píng)級(jí)指標(biāo)體系,選取BP神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練樣本和檢驗(yàn)樣本。將訓(xùn)練樣本輸入BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,BP神經(jīng)網(wǎng)絡(luò)模型完成訓(xùn)練后,用檢驗(yàn)樣本對(duì)本文建立的BP神經(jīng)網(wǎng)絡(luò)模型進(jìn)行檢驗(yàn)。完成訓(xùn)練的BP神經(jīng)網(wǎng)絡(luò)模型將根據(jù)企業(yè)的信用評(píng)級(jí)信息計(jì)算出企業(yè)信用得分的預(yù)測(cè)值,從而使商業(yè)銀行規(guī)避信貸過(guò)程中的信用風(fēng)險(xiǎn),起到風(fēng)險(xiǎn)預(yù)警功能。

關(guān)鍵詞:

BP神經(jīng)網(wǎng)絡(luò);信貸信用;風(fēng)險(xiǎn)預(yù)警

我國(guó)一直沒(méi)有建立起符合市場(chǎng)規(guī)范的信用體系,信用風(fēng)險(xiǎn)是商業(yè)銀行面臨的最傳統(tǒng)最基本的風(fēng)險(xiǎn)形式,也是最難于控制和管理的風(fēng)險(xiǎn)形式。本文建立相應(yīng)的BP神經(jīng)網(wǎng)絡(luò)模型,根據(jù)民生銀行信貸信用評(píng)級(jí)指標(biāo)體系,選取20個(gè)企業(yè)的信用評(píng)級(jí)信息作為BP神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練樣本,選取10個(gè)企業(yè)的信用評(píng)級(jí)信息作為BP神經(jīng)網(wǎng)絡(luò)模型的檢驗(yàn)樣本。將訓(xùn)練樣本輸入BP神經(jīng)網(wǎng)絡(luò),讓BP神經(jīng)網(wǎng)絡(luò)根據(jù)信貸企業(yè)信用得分的輸出值與真實(shí)值之間的誤差不斷調(diào)節(jié)各個(gè)神經(jīng)元之間的權(quán)值與閥值,當(dāng)誤差滿足要求時(shí),BP神經(jīng)網(wǎng)絡(luò)模型完成訓(xùn)練。BP神經(jīng)網(wǎng)絡(luò)模型完成訓(xùn)練后,對(duì)本文建立的BP神經(jīng)網(wǎng)絡(luò)模型進(jìn)行檢驗(yàn)[1]。完成訓(xùn)練的BP神經(jīng)網(wǎng)絡(luò)模型將根據(jù)企業(yè)的信用評(píng)級(jí)信息計(jì)算出企業(yè)信用得分的預(yù)測(cè)值,為商業(yè)銀行信貸過(guò)程中的信用風(fēng)險(xiǎn)進(jìn)行預(yù)測(cè)評(píng)價(jià),從而使商業(yè)銀行規(guī)避信貸過(guò)程中的信用風(fēng)險(xiǎn),起到風(fēng)險(xiǎn)預(yù)警功能。

一、BP神經(jīng)網(wǎng)絡(luò)理論

BP神經(jīng)網(wǎng)絡(luò)理論是學(xué)習(xí)過(guò)程由信號(hào)的正向傳播與誤差的反向傳播兩個(gè)過(guò)程組成。正向傳播時(shí),輸入樣本從輸入層傳人,經(jīng)各隱層逐層處理后,傳向輸出層。若輸出層的實(shí)際輸出與期望的輸出(教師信號(hào))不符,則轉(zhuǎn)入誤差的反向傳播階段。誤差反傳是將輸出誤差以某種形式通過(guò)隱層向輸入層逐層反傳,并將誤差分?jǐn)偨o各層的所有單元,從而獲得各層單元的誤差信號(hào),此誤差信號(hào)即作為修正各單元權(quán)值的依據(jù)。這種信號(hào)正向傳播與誤差反向傳播的各層權(quán)值調(diào)整過(guò)程是周而復(fù)始地進(jìn)行的[2]。權(quán)值不斷調(diào)整的過(guò)程,也就是網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練過(guò)程。此過(guò)程一直進(jìn)行到網(wǎng)絡(luò)輸出的誤差減少到可接受的程度,或進(jìn)行到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止。

(一)BP網(wǎng)絡(luò)模型

采用BP算法的多層感知器是至今為止應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò),在多層感知器的應(yīng)用中,單隱層網(wǎng)絡(luò)的應(yīng)用最為普遍。一般習(xí)慣將單隱層感知器稱為三層感知器,所謂三層包括了輸入層、隱層和輸出層。三層感知器中,輸入向量為()T12,,...,,...,inX=xxxx;隱層輸出向量為()T12,,...,,...,jmY=yyyy;輸出層輸出向量為()T12,,...,,...,klO=oooo;期望輸出向量為()T12,,...,,...,kld=dddd。輸入層到隱層之間的權(quán)值矩陣用V表示,()T12,,...,,...,jmV=VVVV,其中列向量jV為隱層第j個(gè)神經(jīng)元對(duì)應(yīng)的權(quán)向量;隱層到輸出層之間的權(quán)值矩陣用W表示,()T12,,...,,...,kiW=WWWW,其中列向量kW為輸出層第k個(gè)神經(jīng)元對(duì)應(yīng)的權(quán)向量[3]。下面分析各層信號(hào)之間的數(shù)學(xué)關(guān)系。對(duì)于輸出層,有:(net)kko=fk=1,2,...,l(1)0netmkjkjjwy==∑k=1,2,...,l(2)對(duì)于隱層,有:(net)jjy=fj=1,2,...,m(3)0netnjijiivx==∑j=1,2,...,m(4)以上兩式中,轉(zhuǎn)移函數(shù)f(x)均為單極性Sigmoid函數(shù):1()1xfxe−=+(5)f(x)具有連續(xù)、可導(dǎo)的特點(diǎn),且有:f′(x)=f(x)[1−f(x)](6)根據(jù)應(yīng)用需要,也可以采用雙極性Sigmoid函數(shù)(或稱雙曲線正切函數(shù)):1()1xxefxe−−−=+(7)式(1)~式(7)共同構(gòu)成了三層感知器的數(shù)學(xué)模型。

(二)網(wǎng)絡(luò)訓(xùn)練與檢驗(yàn)

網(wǎng)絡(luò)設(shè)計(jì)完成后,要應(yīng)用訓(xùn)練樣本進(jìn)行訓(xùn)練。訓(xùn)練時(shí)對(duì)所有樣本正向運(yùn)行一輪并反向修改權(quán)值一次稱為一次訓(xùn)練。在訓(xùn)練過(guò)程中要反復(fù)使用樣本集數(shù)據(jù),但每一輪最好不要按固定的順序取數(shù)據(jù),通常訓(xùn)練一個(gè)網(wǎng)絡(luò)需要很多次。網(wǎng)絡(luò)的性能好壞主要看其是否具有很好的泛化能力,而對(duì)泛化能力的測(cè)試不能用訓(xùn)練集的數(shù)據(jù)進(jìn)行,要用訓(xùn)練集以外的測(cè)試數(shù)據(jù)來(lái)進(jìn)行檢驗(yàn)[4]。一般的做法是,將收集到的可用樣本隨機(jī)地分為兩部分,一部分作為訓(xùn)練樣本,另一部分作為檢驗(yàn)樣本。

二、基于BP神經(jīng)網(wǎng)絡(luò)的民生銀行信用風(fēng)險(xiǎn)評(píng)價(jià)研究

(一)建立保險(xiǎn)公司投資風(fēng)險(xiǎn)評(píng)價(jià)指標(biāo)體系

貸款信用評(píng)級(jí)財(cái)務(wù)指標(biāo)包括貸款企業(yè)經(jīng)營(yíng)管理能力、貸款企業(yè)債務(wù)償還能力和貸款企業(yè)持續(xù)發(fā)展能力。貸款企業(yè)經(jīng)營(yíng)管理能力包括五個(gè)指標(biāo),分別是資產(chǎn)報(bào)酬率、流動(dòng)資產(chǎn)周轉(zhuǎn)率、應(yīng)收賬款周轉(zhuǎn)率、主營(yíng)收入現(xiàn)金含量、成本費(fèi)用利潤(rùn)率;貸款企業(yè)債務(wù)償還能力包括五個(gè)指標(biāo),分別是流動(dòng)比率、利息保障倍數(shù)、資產(chǎn)負(fù)債率、現(xiàn)金流與流動(dòng)負(fù)債比、凈資產(chǎn)與貸款余額比;貸款企業(yè)持續(xù)發(fā)展能力包括三個(gè)指標(biāo),分別是凈資產(chǎn)增長(zhǎng)率、主營(yíng)利潤(rùn)增長(zhǎng)率、工資福利增長(zhǎng)率。貸款信用評(píng)級(jí)非財(cái)務(wù)指標(biāo)包括五個(gè)指標(biāo),分別財(cái)務(wù)報(bào)表質(zhì)量評(píng)價(jià)、企業(yè)員工能力、企業(yè)經(jīng)營(yíng)者履歷、企業(yè)經(jīng)營(yíng)者信譽(yù)、行業(yè)現(xiàn)狀及前景。

(二)BP神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練

選取20個(gè)企業(yè)的信用評(píng)級(jí)信息作為BP神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練樣本。根據(jù)民生銀行信貸信用評(píng)級(jí)指標(biāo)體系,訓(xùn)練樣本的輸入向量X由18個(gè)指標(biāo)組成,分別是資產(chǎn)報(bào)酬率1x、流動(dòng)資產(chǎn)周轉(zhuǎn)率2x、應(yīng)收賬款周轉(zhuǎn)率3x、主營(yíng)收入現(xiàn)金含量4x、成本費(fèi)用利潤(rùn)率5x、流動(dòng)比率6x、利息保障倍數(shù)7x、資產(chǎn)負(fù)債率8x、現(xiàn)金流與流動(dòng)負(fù)債比9x、凈資產(chǎn)與貸款余額比10x、凈資產(chǎn)增長(zhǎng)率11x、主營(yíng)利潤(rùn)增長(zhǎng)率12x、工資福利增長(zhǎng)率13x、財(cái)務(wù)報(bào)表質(zhì)量評(píng)價(jià)14x、企業(yè)員工能力15x、企業(yè)經(jīng)營(yíng)者履歷16x、企業(yè)經(jīng)營(yíng)者信譽(yù)17x、行業(yè)現(xiàn)狀及前景18x。訓(xùn)練樣本的輸入向量T121718X=(x,x,,x,x)。訓(xùn)練樣本的輸出向量為Y,代表企業(yè)的信用得分。輸入BP神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練樣本如表1所示。建立的BP神經(jīng)網(wǎng)絡(luò)模型為三層網(wǎng)絡(luò),拓?fù)浣Y(jié)構(gòu)為18-5-1。將20個(gè)訓(xùn)練樣本輸入BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,讓BP神經(jīng)網(wǎng)絡(luò)根據(jù)信貸企業(yè)信用得分的輸出值與真實(shí)值之間的誤差不斷調(diào)節(jié)各個(gè)神經(jīng)元之間的權(quán)值與閥值[5]。采用MATLAB7.0神經(jīng)網(wǎng)絡(luò)工具箱進(jìn)行運(yùn)算,當(dāng)誤差平方和小于10-5時(shí),訓(xùn)練終止。訓(xùn)練樣本中各個(gè)信貸企業(yè)的真實(shí)信用得分和BP神經(jīng)網(wǎng)絡(luò)模型輸出值。

(三)BP神經(jīng)網(wǎng)絡(luò)模型檢驗(yàn)

由表1可以看出BP神經(jīng)網(wǎng)絡(luò)模型輸出值與信貸企業(yè)真實(shí)信用得分的誤差很小,下面對(duì)本文設(shè)計(jì)的BP神經(jīng)網(wǎng)絡(luò)模型進(jìn)行檢驗(yàn)。BP神經(jīng)網(wǎng)絡(luò)模型采用10個(gè)企業(yè)的信用評(píng)級(jí)信息作為檢驗(yàn)樣本。對(duì)本文建立的BP神經(jīng)網(wǎng)絡(luò)模型進(jìn)行檢驗(yàn),將10個(gè)企業(yè)的信用評(píng)級(jí)信息作為檢驗(yàn)樣本輸入完成訓(xùn)練的BP神經(jīng)網(wǎng)絡(luò)模型,完成訓(xùn)練的BP神經(jīng)網(wǎng)絡(luò)模型將根據(jù)10個(gè)企業(yè)的信用評(píng)級(jí)信息計(jì)算出企業(yè)信用得分的預(yù)測(cè)值。檢驗(yàn)樣本中各個(gè)信貸企業(yè)的真實(shí)信用得分和BP神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)值如表2所示。根據(jù)表2的數(shù)據(jù),得到信貸企業(yè)的真實(shí)信用得分和BP神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)值之間誤差曲線。檢驗(yàn)樣本中信貸企業(yè)的真實(shí)信用得分和BP神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)值的擬合度較高,部分樣本真實(shí)值與預(yù)測(cè)值基本重合。檢驗(yàn)樣本中信貸企業(yè)的真實(shí)信用得分和BP神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)值誤差值整體較小,最大誤差11.7%,最小誤差0.27%。假設(shè)以絕對(duì)誤差小于5%為容忍度,那么本文建立的BP神經(jīng)網(wǎng)絡(luò)模型的準(zhǔn)確率為70%。假設(shè)以絕對(duì)誤差小于10%為容忍度,那么本文建立的BP神經(jīng)網(wǎng)絡(luò)模型的準(zhǔn)確率為90%。

三、結(jié)論

1、檢驗(yàn)樣本中信貸企業(yè)的真實(shí)信用得分和BP神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)值的擬合度較高,樣本21、26、28的真實(shí)值與預(yù)測(cè)值基本重合,樣本24、25的真實(shí)值與預(yù)測(cè)值偏差較大。

2、檢驗(yàn)樣本中信貸企業(yè)的真實(shí)信用得分和BP神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)值誤差值整體較小,最大誤差11.7%,最小誤差0.27%。

3、假設(shè)以絕對(duì)誤差小于5%為容忍度,那么本文建立的BP神經(jīng)網(wǎng)絡(luò)模型的準(zhǔn)確率為70%。假設(shè)以絕對(duì)誤差小于10%為容忍度,那么本文建立的BP神經(jīng)網(wǎng)絡(luò)模型的準(zhǔn)確率為90%。計(jì)算結(jié)果表明本文建立的BP神經(jīng)網(wǎng)絡(luò)模型準(zhǔn)確率較高,可以為商業(yè)銀行信貸過(guò)程中的信用風(fēng)險(xiǎn)進(jìn)行預(yù)測(cè)評(píng)價(jià),從而使商業(yè)銀行規(guī)避信貸過(guò)程中的信用風(fēng)險(xiǎn),起到風(fēng)險(xiǎn)預(yù)警功能。

參考文獻(xiàn):

[1]許美玲,齊曉娜,李倩等.基于BP神經(jīng)網(wǎng)絡(luò)的村鎮(zhèn)銀行信用風(fēng)險(xiǎn)預(yù)警模型的構(gòu)建[J].河南科技,2014(22).

[2]黃夢(mèng)宇.基于BP神經(jīng)網(wǎng)絡(luò)的手機(jī)銀行風(fēng)險(xiǎn)預(yù)警模型研究[J].時(shí)代金融(下旬),2014(4).

[3]遲國(guó)泰,陳國(guó)斌,遲楓等.基于神經(jīng)網(wǎng)絡(luò)的中國(guó)商業(yè)銀行效率綜合評(píng)價(jià)[J].哈爾濱工業(yè)大學(xué)學(xué)報(bào),2006,38(4).

[4]于彤,李海東.基于BP神經(jīng)網(wǎng)絡(luò)的客戶信用風(fēng)險(xiǎn)評(píng)價(jià)[J].現(xiàn)代電子技術(shù),2014(10).

篇6

關(guān)鍵詞:深度學(xué)習(xí);機(jī)器學(xué)習(xí);卷積神經(jīng)網(wǎng)絡(luò)

1概述

深度學(xué)習(xí)(Deep Learning)是人工智能、圖像建模、模式識(shí)別、神經(jīng)網(wǎng)絡(luò)、最優(yōu)化理論和信號(hào)處理等領(lǐng)域的交叉學(xué)科,主要構(gòu)建和模擬人腦進(jìn)行分析學(xué)習(xí),它屬于機(jī)器學(xué)習(xí)的新興領(lǐng)域。

2大數(shù)據(jù)與深度學(xué)習(xí)

目前,光學(xué)檢測(cè)、互聯(lián)網(wǎng)、用戶數(shù)據(jù)、互聯(lián)網(wǎng)、金融公司等許多領(lǐng)域都出現(xiàn)了海量數(shù)據(jù),采用BP算法對(duì)于訓(xùn)練神經(jīng)網(wǎng)絡(luò)出現(xiàn)了梯度越來(lái)越稀疏、收斂到局部最小值只能用有標(biāo)簽的數(shù)據(jù)來(lái)訓(xùn)練等缺點(diǎn)。Hinton于2006年提出了深度學(xué)習(xí)的概念,Lecun等人提出了卷積神經(jīng)網(wǎng)絡(luò),卷積神經(jīng)網(wǎng)絡(luò)利用空間關(guān)系減少參數(shù)數(shù)目以提高訓(xùn)練性能。

CPU和GPU計(jì)算能力大幅提升,為深度學(xué)習(xí)提供了硬件平臺(tái)和技術(shù)手段,在海量大數(shù)據(jù)處理技術(shù)上解決了早期神經(jīng)網(wǎng)絡(luò)訓(xùn)練不足出現(xiàn)的過(guò)擬合、泛化能力差等問(wèn)題。

大數(shù)據(jù)和深度學(xué)習(xí)必將互相支撐,推動(dòng)科技發(fā)展。

3深度學(xué)習(xí)模型

深度學(xué)習(xí)模型實(shí)際上是一個(gè)包含多個(gè)隱藏層的神經(jīng)網(wǎng)絡(luò),目前主要有卷積神經(jīng)網(wǎng)絡(luò),深深度置信神經(jīng)網(wǎng)絡(luò),循環(huán)神經(jīng)網(wǎng)絡(luò)。

1)卷積神經(jīng)網(wǎng)絡(luò)

在機(jī)器學(xué)習(xí)領(lǐng)域,卷積神經(jīng)網(wǎng)絡(luò)屬于前饋神經(jīng)網(wǎng)絡(luò)的一種,神經(jīng)元不再是全連接的模式,而是應(yīng)用了局部感受區(qū)域的策略。然而傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)使用神經(jīng)元間全連接的網(wǎng)絡(luò)結(jié)構(gòu)來(lái)處理圖像任務(wù),因此,出現(xiàn)了很多缺陷,導(dǎo)致模型⑹急劇增加,及其容易過(guò)擬合。

在卷積神經(jīng)網(wǎng)絡(luò)中,網(wǎng)絡(luò)中的神經(jīng)元只與前一層的部分神經(jīng)元連接,利用圖像數(shù)據(jù)的空間結(jié)構(gòu),鄰近像素間具有更強(qiáng)的相關(guān)性,單個(gè)神經(jīng)元僅對(duì)局部信息進(jìn)行響應(yīng),相鄰神經(jīng)元感受區(qū)域存在重疊,因此,綜合所有神經(jīng)元可以得到全局信息的感知。

另外,一個(gè)卷積層中的所有神經(jīng)元均由同一個(gè)卷積核對(duì)不同區(qū)域數(shù)據(jù)響應(yīng)而得到,即共享同一個(gè)卷積核,使得卷積層訓(xùn)練參數(shù)的數(shù)量急劇減少,提高了網(wǎng)絡(luò)的泛化能力。

一般在卷積層后面會(huì)進(jìn)行降采樣操作,對(duì)卷積層提取的特征進(jìn)行聚合統(tǒng)計(jì)。降采樣區(qū)域一般不存在重疊現(xiàn)象。降采樣簡(jiǎn)化了卷積層的輸出信息,進(jìn)一步減少了訓(xùn)練參數(shù)的數(shù)量,增強(qiáng)了網(wǎng)絡(luò)的泛化能力。

卷積神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)了局部特征的自動(dòng)提取,使得特征提取與模式分類同步進(jìn)行,適用于處理高分辨率的圖像數(shù)據(jù)。目前,卷積神經(jīng)網(wǎng)絡(luò)在圖像分類、自然語(yǔ)言處理等領(lǐng)域得到廣泛應(yīng)用。

2)深度置信網(wǎng)絡(luò)

深度置信網(wǎng)絡(luò)是一種生成模型,網(wǎng)絡(luò)中有若干隱藏層,同一隱藏層內(nèi)的神經(jīng)元沒(méi)有連接,隱藏層間的神經(jīng)元全連接。神經(jīng)網(wǎng)絡(luò)經(jīng)過(guò)“反向運(yùn)行”得到輸入數(shù)據(jù)。

深度置信網(wǎng)絡(luò)可以用做生成模型,通過(guò)前期的逐層無(wú)監(jiān)督學(xué)習(xí),神經(jīng)網(wǎng)絡(luò)可以較好的對(duì)輸入數(shù)據(jù)進(jìn)行描述,然后把訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)看作深度神經(jīng)網(wǎng)絡(luò),最后得到分類任務(wù)的深度神經(jīng)網(wǎng)絡(luò)。

深度置信網(wǎng)絡(luò)可以用于圖像識(shí)別、圖像生成等領(lǐng)域,深度置信網(wǎng)絡(luò)可以進(jìn)行無(wú)監(jiān)督或半監(jiān)督的學(xué)習(xí),利用無(wú)標(biāo)記數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練,提高神經(jīng)網(wǎng)絡(luò)性能。但近幾年由于卷積神經(jīng)網(wǎng)絡(luò)的飛速發(fā)展,深度置信網(wǎng)絡(luò)已經(jīng)很少被提及。

3)循環(huán)神經(jīng)網(wǎng)絡(luò)

循環(huán)神經(jīng)網(wǎng)絡(luò)是一種專門用于處理時(shí)序數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò),它與典型的前饋型神經(jīng)網(wǎng)絡(luò)最大區(qū)別在于網(wǎng)絡(luò)中存在環(huán)形結(jié)構(gòu),隱藏層內(nèi)部的神經(jīng)元是互相連接的,可以存儲(chǔ)網(wǎng)絡(luò)的內(nèi)部狀態(tài),其中包含序列輸入的歷史信息,實(shí)現(xiàn)了對(duì)時(shí)序動(dòng)態(tài)行為的描述。這里的時(shí)序并非僅僅指代時(shí)間概念上的順序,也可以理解為序列化數(shù)據(jù)間的相對(duì)位置。如語(yǔ)音中的發(fā)音順序,某個(gè)英語(yǔ)單詞的拼寫順序等。序列化輸入的任務(wù)都可以用循環(huán)神經(jīng)網(wǎng)絡(luò)來(lái)處理。如語(yǔ)音、視頻、文本等。對(duì)于序列化數(shù)據(jù),每次處理時(shí)輸入為序列中的一個(gè)元素,比如單個(gè)字符、單詞、音節(jié),期望輸出為該輸入在序列數(shù)據(jù)中的后續(xù)元素。循環(huán)神經(jīng)網(wǎng)絡(luò)可以處理任意長(zhǎng)度的序列化數(shù)據(jù)。

循環(huán)神經(jīng)網(wǎng)絡(luò)可以用于機(jī)器翻譯、連寫字識(shí)別、語(yǔ)音識(shí)別等。循環(huán)神經(jīng)網(wǎng)絡(luò)和卷積網(wǎng)絡(luò)結(jié)合,將卷積神經(jīng)網(wǎng)絡(luò)用于檢測(cè)并識(shí)別圖像中的物體,循環(huán)神經(jīng)網(wǎng)絡(luò)用于識(shí)別出物體的名稱為輸入,生成合理的語(yǔ)句,從而實(shí)現(xiàn)對(duì)圖像內(nèi)容的描述。

4深度學(xué)習(xí)應(yīng)用

1)語(yǔ)音識(shí)別

語(yǔ)音識(shí)別技術(shù)主要包括特征提取技術(shù)、模式匹配準(zhǔn)則及模型訓(xùn)練技術(shù)三個(gè)方面。其應(yīng)用領(lǐng)域主要有語(yǔ)音輸入系統(tǒng)、語(yǔ)音控制系統(tǒng)和智能對(duì)話查詢系統(tǒng),語(yǔ)音識(shí)別極大地推動(dòng)了人工智能的快速發(fā)展。1952年Davis等人研究了世界上第一個(gè)能識(shí)別10個(gè)英文數(shù)字發(fā)音的實(shí)驗(yàn)系統(tǒng)。大規(guī)模的語(yǔ)音識(shí)別研究是在20世紀(jì)70年代以后,在小詞匯量、孤立詞的識(shí)別方面取得了實(shí)質(zhì)性的進(jìn)展。2012年,微軟研究院使用深度神經(jīng)網(wǎng)絡(luò)應(yīng)用在語(yǔ)音識(shí)別上將識(shí)別錯(cuò)誤率降低了20%,取得了突破性的進(jìn)展。2015年11月17日,浪潮集團(tuán)聯(lián)合全球可編程芯片巨頭Altera,以及中國(guó)最大的智能語(yǔ)音技術(shù)提供商科大訊飛,共同了一套DNN語(yǔ)音識(shí)別方案。

2)圖像分析

圖像是深度學(xué)習(xí)最早嘗試的應(yīng)用領(lǐng)域。1989年,LeCun和他的同事們就發(fā)表了卷積神經(jīng)網(wǎng)絡(luò)的工作。2012年10月,Hinton和他的兩個(gè)學(xué)生用更深的CNN在ImageNet挑戰(zhàn)上獲得了第一名,使圖像識(shí)別向前躍進(jìn)了一大步。

自2012年以來(lái),深度學(xué)習(xí)應(yīng)用于圖像識(shí)別使得準(zhǔn)確率大大上升,避免了消耗人工特征抽取的時(shí)間,極大地提升了效率,目前逐漸成為主流的圖像識(shí)別與檢測(cè)方法。

篇7

關(guān)鍵詞:人工神經(jīng)網(wǎng)絡(luò)模型;衛(wèi)生人力;人力資源測(cè)算

衛(wèi)生人力是指經(jīng)過(guò)專業(yè)培訓(xùn)、在衛(wèi)生系統(tǒng)工作、提供衛(wèi)生服務(wù)的人員,包括直接從事醫(yī)療、衛(wèi)生、保健服務(wù)的衛(wèi)生技術(shù)人員以及管理、工勤等其他人員。由于衛(wèi)生系統(tǒng)本身具有復(fù)雜性和時(shí)變性的雙重特性,因此衛(wèi)生人力受許多因素影響,如人口、經(jīng)濟(jì)、社會(huì)與文化、資源利用效率、健康狀況等等,而且多個(gè)因素間相互作用、相互影響。

我國(guó)的衛(wèi)生事業(yè)雖然取得了很大的發(fā)展,但卻存在明顯的衛(wèi)生人力資源失衡現(xiàn)象,突出表現(xiàn)在:衛(wèi)生人員總量過(guò)剩、人員地區(qū)分布不均衡尤其是城鄉(xiāng)差距較大、衛(wèi)生人員總體素質(zhì)不高。因而迫切需要加強(qiáng)衛(wèi)生人力預(yù)測(cè)研究,使其更合理地從數(shù)量上、質(zhì)量上和分布上調(diào)整現(xiàn)有存量、優(yōu)化增量,以推動(dòng)整個(gè)衛(wèi)生事業(yè)的發(fā)展進(jìn)程[1,2]。

人工神經(jīng)網(wǎng)絡(luò)作為一種綜合信息處理和模擬技術(shù),其特有的非線性適應(yīng)性信息處理能力,克服了傳統(tǒng)方法的局限性,而且還具有學(xué)習(xí)預(yù)測(cè)精度高、容錯(cuò)能力強(qiáng)和預(yù)測(cè)速度快的特點(diǎn)[3]。本研究基于人工神經(jīng)網(wǎng)絡(luò)方法,構(gòu)建出一套合理、有效的測(cè)算衛(wèi)生人力需求量的指標(biāo)體系。

1人工神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介

人工神經(jīng)網(wǎng)絡(luò)基本組成單位是神經(jīng)元(節(jié)點(diǎn)),神經(jīng)元之間按一定的方式相互連接,構(gòu)成神經(jīng)網(wǎng)絡(luò)系統(tǒng),可以通過(guò)預(yù)先提供的一批相互對(duì)應(yīng)的輸入--輸出數(shù)據(jù),分析掌握兩者之間潛在的規(guī)律,最終根據(jù)這些規(guī)律,用新的輸入數(shù)據(jù)來(lái)推算輸出結(jié)果[4,5]。

迄今為止,已有多種人工神經(jīng)網(wǎng)絡(luò)模型被開發(fā)和應(yīng)用。本文應(yīng)用較為成熟的誤差反向傳播學(xué)習(xí)算法人工神經(jīng)網(wǎng)絡(luò)(BP-ANN)。BP神經(jīng)網(wǎng)絡(luò)從模擬生物的神經(jīng)網(wǎng)絡(luò)出發(fā)[6],其最基本的結(jié)構(gòu)是3層前饋網(wǎng)絡(luò),即輸入層、隱含層、輸出層(見圖1),層與層之間多采用全互連方式,同一層單元間不存在相互連接。

圖1 人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

BP網(wǎng)絡(luò)模型的應(yīng)用過(guò)程包括訓(xùn)練和預(yù)測(cè)兩個(gè)過(guò)程。訓(xùn)練時(shí),輸入信息從輸入層經(jīng)隱含層逐層處理,并傳向輸出層。如果輸出層得不到期望的輸出,則將誤差信號(hào)沿原來(lái)的連接通道返回,通過(guò)修改各層神經(jīng)元的連接權(quán)值,使得誤差最小。網(wǎng)絡(luò)重復(fù)以上過(guò)程進(jìn)行迭代計(jì)算,直至收斂,由此構(gòu)成了非線性映射模型,掌握了隱含在樣本內(nèi)部各元素間的特殊關(guān)系[7]。經(jīng)訓(xùn)練后的人工神經(jīng)網(wǎng)絡(luò)不僅對(duì)擬合過(guò)的樣本有效,而且對(duì)未經(jīng)擬合的樣本也可以較準(zhǔn)確地預(yù)測(cè)。人工神經(jīng)網(wǎng)絡(luò)以其獨(dú)特的信息儲(chǔ)存方式、良好的容錯(cuò)性、大規(guī)模的非線性并行處理方式[8]以及強(qiáng)大的自組織自擬合和自適應(yīng)能力,已應(yīng)用于信號(hào)處理、模式識(shí)別、綜合評(píng)價(jià)、預(yù)測(cè)分析等領(lǐng)域。

2指標(biāo)篩選

本文的研究對(duì)象是衛(wèi)生人力的數(shù)量。人工神經(jīng)網(wǎng)絡(luò)要求選擇那些影響輸出的主要因素作為輸入層,選定的輸入變量數(shù)必須足夠且具有代表性[9,10],基于這一點(diǎn),經(jīng)過(guò)文獻(xiàn)評(píng)閱分析及專家小組討論,本研究對(duì)于輸入變量,即測(cè)算指標(biāo)的選擇主要從以下幾方面進(jìn)行:

2.1人口數(shù)量變化 人口數(shù)量的變化是影響衛(wèi)生人力需求量的最重要的因素。人口的增減會(huì)引起衛(wèi)生服務(wù)需求量的增減,從而引起衛(wèi)生人力需求量的波動(dòng)。對(duì)應(yīng)的變量選擇了總?cè)丝跀?shù)、就診人次數(shù)、住院人次數(shù)。

2.2經(jīng)濟(jì)發(fā)展水平 隨著社會(huì)經(jīng)濟(jì)迅猛發(fā)展,居民的生活水平不斷提高,人們對(duì)生活質(zhì)量要求也逐步提高,而健康是衡量生活質(zhì)量的重要指標(biāo)之一,所以隨著居民對(duì)健康意識(shí)的增強(qiáng),衛(wèi)生服務(wù)需求量將會(huì)加大,衛(wèi)生人力的需求量也隨之增加[11,12]。對(duì)應(yīng)的變量選擇了衛(wèi)生總費(fèi)用、人均衛(wèi)生費(fèi)用、人均國(guó)民生產(chǎn)總值。

2.3醫(yī)院發(fā)展規(guī)模 醫(yī)院規(guī)模直接影響整個(gè)衛(wèi)生人力需求量和衛(wèi)生人力內(nèi)部構(gòu)成。醫(yī)院規(guī)模的大小通常是以病床數(shù)來(lái)衡量的,而病床數(shù)又是人員編配的重要標(biāo)準(zhǔn)[13]。對(duì)應(yīng)的變量選擇了醫(yī)院機(jī)構(gòu)數(shù)、總床位數(shù)。

2.4衛(wèi)生人力供給 每年都有大量的醫(yī)學(xué)生走向工作崗位,為醫(yī)療系統(tǒng)注入新的血液。對(duì)應(yīng)的變量選擇了高等醫(yī)學(xué)院校畢業(yè)生數(shù)、中等醫(yī)學(xué)院校畢業(yè)生數(shù)[14]。

3結(jié)果與討論

得到衛(wèi)生人力的測(cè)算指標(biāo)包括總?cè)丝跀?shù)(萬(wàn)人)、就診人次數(shù)(億次)、住院人次數(shù)(萬(wàn)人)、衛(wèi)生總費(fèi)用(億元)、人均衛(wèi)生費(fèi)用(元)、人均國(guó)民生產(chǎn)總值(元)、醫(yī)院機(jī)構(gòu)數(shù)、總床位數(shù)(萬(wàn)張)、高等醫(yī)學(xué)院校畢業(yè)生數(shù)、中等醫(yī)學(xué)院校畢業(yè)生數(shù)10項(xiàng)指標(biāo)。鑒于年鑒收錄自國(guó)家及各省市地方統(tǒng)計(jì)局的歷年統(tǒng)計(jì)資料,具有資料翔實(shí),信息密集的特點(diǎn),所有數(shù)據(jù)均從統(tǒng)計(jì)年鑒中獲取,按照年份順序進(jìn)行整理,過(guò)濾缺失的數(shù)據(jù),建立起從1990~2008年的有關(guān)衛(wèi)生人力資源的數(shù)據(jù)庫(kù)。

參考文獻(xiàn):

[1]薛婭,高歌,沈月平.常州市衛(wèi)生人力需要量統(tǒng)計(jì)預(yù)測(cè)研究[J].中國(guó)衛(wèi)生統(tǒng)計(jì),2007,24(3):287.

[2]Francis Omaswa. Human resources for global health: time for action is now[J].The Lancet.2008,371:625.

[3]蔣宗禮.人工神經(jīng)網(wǎng)絡(luò)導(dǎo)論[M].北京:高等教育出版社,2002.

[4]任宏,姜慶五.人工神經(jīng)網(wǎng)絡(luò)及其在預(yù)防醫(yī)學(xué)領(lǐng)域的應(yīng)用[J].上海預(yù)防醫(yī)學(xué),2003,15(1):22.

[5]黎衍云,李銳,張勝年.人工神經(jīng)網(wǎng)絡(luò)及其在疾病篩查中的應(yīng)用前景[J].環(huán)境與職業(yè)醫(yī)學(xué),2006,23(1):71.

[6]錢玲,施侶元,程茂金.應(yīng)用人工神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)糖尿病/糖耐量異常[J].中國(guó)公共衛(wèi)生,2003,19(10):1272.

[7]Qian AI,Shrestha GB.An ANN based load model for fast transient stability calculations[J].Elec Power Syst Res,2006,76:217.

[8]RiccardoB,DarioG,LauroC,works and robust Bayesian classfiers for risk stratification following uncomplicated myocardial infarction[J].Int J Cardiol,2005,101:481.

[9]薛婭,高歌. 衛(wèi)生人力需求量預(yù)測(cè)研究綜述[J].上海預(yù)防醫(yī)學(xué)雜志,2005,17(12):589.

[10]鐘珞,饒文碧,鄒承明.人工神經(jīng)網(wǎng)絡(luò)及其融合應(yīng)用技術(shù)[M].北京:科學(xué)出版社,2007:12.

[11]陳力凌.江蘇省衛(wèi)生人力資源現(xiàn)狀及需要量預(yù)測(cè)研究[D].碩士學(xué)位論文,2006:23.

[12]左延莉.廣西衛(wèi)生人力資源配置現(xiàn)狀與預(yù)測(cè)研究[D].碩士學(xué)位論文,2002:12.

篇8

關(guān)鍵詞:

中圖分類號(hào): TP391.4文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):2095-2163(2011)03-0043-04

Analysis of Training Results based on the Selection of

Parameters Influencing BP Neural Network

HAN Xue

Abstract: Pattern recognition includes two aspects : sample training and sample recognition. And sample training is the premise of sample recognition.Of course, there are lots of training samples and the samples are representative, whichis good, but not the more the better. In the process of training the neural network, it is very important how to determine various parameters that is beneficial to the training efficiency such as the weights and threshold values. This paper is aimed at the use of a simple sample for neural network training, changes parameter values for observing the training effect, thus obtains the different output results and the diagrams. Further study and comparison are carried outto find out the optimal parameter settings. And the experiment method and the conclusion are helpful for application in other identification system development.

Key words:

0引言

在對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練的過(guò)程中,很多時(shí)候,一些基本參數(shù)和訓(xùn)練函數(shù)參數(shù)是隨機(jī)生成的,但是訓(xùn)練效率并不高。對(duì)于BP神經(jīng)網(wǎng)絡(luò)所應(yīng)用的不同領(lǐng)域,這些參數(shù)的設(shè)置也有所區(qū)別。怎樣才能使得訓(xùn)練網(wǎng)絡(luò)的效率更高,就需要了解參數(shù)的變化對(duì)于訓(xùn)練結(jié)果的影響。本文要解決的問(wèn)題就是變化其中的各項(xiàng)參數(shù)值,對(duì)得到的不同訓(xùn)練結(jié)果進(jìn)行對(duì)比分析,并找出相關(guān)規(guī)律。

1研究現(xiàn)狀

“神經(jīng)網(wǎng)絡(luò)”的研究?jī)?nèi)容主要包括人工神經(jīng)網(wǎng)絡(luò)、生物神經(jīng)網(wǎng)絡(luò)、認(rèn)知科學(xué)和混沌。

在研究方法上,對(duì)于神經(jīng)網(wǎng)絡(luò)的研究已經(jīng)收獲了很多不同的研究方法,比較重要且已有一定成果的研究有多層網(wǎng)絡(luò) BP算法、Hopfield網(wǎng)絡(luò)模型、自適應(yīng)共振理論和自組織特征映射理論等。

在研究領(lǐng)域上也可以分為理論研究和應(yīng)用研究?jī)纱蠓矫?。理論研究包括兩個(gè)方面:其一是理論上的深入研究,通過(guò)對(duì)已有算法的性能分析來(lái)探索功能更完善、效率更高的神經(jīng)網(wǎng)絡(luò)模型,包括對(duì)穩(wěn)定性、收斂性、容錯(cuò)性、魯棒性等各個(gè)性能的最優(yōu)化研究;其二是朝著智能的方向發(fā)展,利用神經(jīng)生理與認(rèn)知科學(xué)對(duì)人類思維和智能機(jī)理進(jìn)行研究。應(yīng)用研究也包含了兩個(gè)方面,分別是神經(jīng)網(wǎng)絡(luò)的軟硬件研究和神經(jīng)網(wǎng)絡(luò)在各個(gè)領(lǐng)域中應(yīng)用的研究,其中包括:模式識(shí)別、信號(hào)處理、知識(shí)工程、專家系統(tǒng)、優(yōu)化組合、機(jī)器人控制等[1]。

BP神經(jīng)網(wǎng)絡(luò)是當(dāng)前最流行、應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。但是仍存在一些缺陷,如訓(xùn)練速度較慢,所以很多學(xué)者正在尋找快速有效的BP學(xué)習(xí)算法,而且也取得了一些成效,最重要的幾種快速變體有QuickProp[Fah88]、 SuperSAB [Tol90]和共軛梯度法[Bat92][1]。

除了收斂速度較慢之外,BP神經(jīng)網(wǎng)絡(luò)還存在一些缺點(diǎn):容易在優(yōu)化的過(guò)程中產(chǎn)生局部最優(yōu)解而不是全局最優(yōu)解;在對(duì)新樣本訓(xùn)練的同時(shí)容易遺忘舊的樣本?;趯?duì)以上缺陷的改進(jìn),目前已有了一些行之有效的解決方法。

為了提高網(wǎng)絡(luò)訓(xùn)練速度,在調(diào)整權(quán)值時(shí)增加了動(dòng)量項(xiàng),從而對(duì)某時(shí)刻前后的梯度方向都進(jìn)行了必要的考慮;為了加快算法收斂速度,采用了自適應(yīng)學(xué)習(xí)率調(diào)節(jié)的方法,如VLBP神經(jīng)網(wǎng)絡(luò),后面的實(shí)驗(yàn)中還會(huì)進(jìn)一步比較介紹。

目前,BP神經(jīng)網(wǎng)絡(luò)作為很重要的神經(jīng)網(wǎng)絡(luò)模型之一,在很多應(yīng)用領(lǐng)域中發(fā)揮著重要的作用,包括圖像壓縮編碼、人臉識(shí)別、分類、故障診斷、最優(yōu)預(yù)測(cè)等。

2算法原理

BP神經(jīng)網(wǎng)絡(luò)的基本思想是通過(guò)不斷地訓(xùn)練權(quán)值,并設(shè)有一個(gè)標(biāo)準(zhǔn)的輸出,每次訓(xùn)練以后得到的實(shí)際輸出與標(biāo)準(zhǔn)的輸出比較,設(shè)置一個(gè)最小誤差,達(dá)到這個(gè)誤差就表示網(wǎng)絡(luò)訓(xùn)練好了,否則繼續(xù)訓(xùn)練;經(jīng)過(guò)一定的訓(xùn)練次數(shù)后,若還沒(méi)有達(dá)到這個(gè)誤差標(biāo)準(zhǔn),就表示網(wǎng)絡(luò)的設(shè)置有問(wèn)題。本實(shí)驗(yàn)通過(guò)對(duì)參數(shù)的改變,尋找出最優(yōu)參數(shù)設(shè)置的規(guī)律。

3算法實(shí)現(xiàn)

使用matlab開發(fā)平臺(tái),程序編寫分為定義輸入向量和目標(biāo)向量、創(chuàng)建 BP網(wǎng)絡(luò)設(shè)置訓(xùn)練函數(shù)、初始化權(quán)值閾值、設(shè)置訓(xùn)練函數(shù)參數(shù)、訓(xùn)練神經(jīng)網(wǎng)絡(luò)五個(gè)部分。進(jìn)行對(duì)比實(shí)驗(yàn)時(shí),只需將相關(guān)參數(shù)進(jìn)行修改即可。對(duì)基本的BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練時(shí),設(shè)置基本參數(shù):權(quán)值、閾值;訓(xùn)練函數(shù)參數(shù):學(xué)習(xí)率、最后達(dá)到的均方誤差、最大步長(zhǎng)。分別對(duì)學(xué)習(xí)率、均方誤差、初始權(quán)值、初始閾值進(jìn)行修改,對(duì)比實(shí)驗(yàn)結(jié)果;基本的BP神經(jīng)網(wǎng)絡(luò)中無(wú)法對(duì)學(xué)習(xí)率實(shí)現(xiàn)事先最優(yōu),所以用VLBP神經(jīng)網(wǎng)絡(luò)進(jìn)行改進(jìn)。

程序如下:

netbp.trainParam.goal=0.0001//設(shè)置最后達(dá)到的均方誤差為 0.0001

netbp.trainParam.epochs=5000 //設(shè)置最大訓(xùn)練步長(zhǎng)

[netbp,tr]=train(netbp,p,t)

4實(shí)驗(yàn)結(jié)果

初始訓(xùn)練樣本的輸入設(shè)為[1;3],期望輸出設(shè)為[0.95;0.05],第一層的權(quán)值設(shè)為[1 2;-2 0],第二層的權(quán)值設(shè)為[1 1;0 -2],第一層的閾值設(shè)為[-3;1],第二層的閾值設(shè)為[2;3],學(xué)習(xí)率設(shè)為1,均方差設(shè)為0.0001。其實(shí)驗(yàn)仿真圖如圖1所示。

4.1改變學(xué)習(xí)率

只改變學(xué)習(xí)率的訓(xùn)練函數(shù)參數(shù)時(shí),運(yùn)行程序后的對(duì)比結(jié)果如表1所示。

從表1中的實(shí)驗(yàn)結(jié)果可見:在其他條件不變、學(xué)習(xí)率增大的情況下,所需的訓(xùn)練步長(zhǎng)變短,即誤差收斂速度快。但是學(xué)習(xí)率不可以無(wú)限制地增大,增大到一定程度后,誤差收斂速度將減慢,甚至有可能達(dá)不到誤差范圍內(nèi),進(jìn)入局部穩(wěn)定狀態(tài)。

表1中的各組實(shí)驗(yàn)仿真圖如圖2-圖7所示。

4.2改變均方差

將均方差由原來(lái)的0.0001變?yōu)?.001后與原初始樣本參數(shù)對(duì)比結(jié)果如表2所示。

均方差變?yōu)?.001后的仿真圖如圖8所示。

可見,在其他條件一樣的前提下,將最后要達(dá)到的均方誤差值設(shè)置較大時(shí),網(wǎng)絡(luò)訓(xùn)練步長(zhǎng)變短,誤差收斂速度慢些,最后的輸出結(jié)果較為精確些。

4.3改變初始權(quán)值

將初始權(quán)值改變后的對(duì)比結(jié)果如表3所示。

改變初始權(quán)值后的仿真圖如圖9所示。

可見,后者的初始權(quán)值比較合適些,因此訓(xùn)練的時(shí)間變短,誤差收斂速度明顯快些。

4.4改變初始閾值

將初始閾值改變后的對(duì)比結(jié)果如表4所示。

改變初始閾值后的仿真圖如圖10所示。

可見,后者的初始閾值比較合適些,因此訓(xùn)練的時(shí)間變短,誤差收斂速度明顯快些。

4.5學(xué)習(xí)率可變的VLBP神經(jīng)網(wǎng)絡(luò)

用最基本的 BP 算法來(lái)訓(xùn)練 BP神經(jīng)網(wǎng)絡(luò)時(shí),學(xué)習(xí)率、均方誤差、權(quán)值、閾值的設(shè)置都對(duì)網(wǎng)絡(luò)的訓(xùn)練均有影響。選取合理的參數(shù)值會(huì)有利于網(wǎng)絡(luò)的訓(xùn)練。在最基本的 BP算法中,學(xué)習(xí)率在整個(gè)訓(xùn)練過(guò)程是保持不變的。學(xué)習(xí)率過(guò)大,算法可能振蕩而不穩(wěn)定;學(xué)習(xí)率過(guò)小,則收斂速度慢,訓(xùn)練時(shí)間長(zhǎng)。而在對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練之前是無(wú)法選擇最佳學(xué)習(xí)率的。

雖說(shuō)學(xué)習(xí)率在訓(xùn)練前無(wú)法選最優(yōu),但是在訓(xùn)練的過(guò)程中能否可變呢?因此BP神經(jīng)網(wǎng)絡(luò)的一種改進(jìn)算法VLBP可派上用場(chǎng)。也就是說(shuō),另外設(shè)置學(xué)習(xí)增量因子和學(xué)習(xí)減量因子,當(dāng)誤差以減少的方式趨于目標(biāo)時(shí),說(shuō)明修正方向正確,可以使步長(zhǎng)增加,因此學(xué)習(xí)率乘以增量因子k,使學(xué)習(xí)率增加;而修正過(guò)頭時(shí),應(yīng)減少步長(zhǎng),可以乘以減量因子k,使學(xué)習(xí)率減小。

程序設(shè)計(jì)中加入下列語(yǔ)句:

netbp=newff([-1 1;-1 1],[2 2],‘logsig’ ‘logsig’,‘traingdx’)

netbp.trainParam.lr_inc=1.1//增量因子設(shè)為1.1

netbp.trainParam.lr_dec=0.65 //減量因子設(shè)為0.65

經(jīng)過(guò)訓(xùn)練后最后的輸出結(jié)果為[0.963 8;0.050 0],訓(xùn)練步長(zhǎng)為50,訓(xùn)練后第一層的權(quán)值為[1.004 5 2.013 5;-1.408 4 1.774 8],訓(xùn)練后第二層的權(quán)值為[0.766 9 0.768 3;-1.544 7 -2.865 0]。

VLBP神經(jīng)網(wǎng)絡(luò)訓(xùn)練仿真圖如圖11所示。

觀察網(wǎng)絡(luò)的收斂速度,采用學(xué)習(xí)率可變的VLBP算法要比學(xué)習(xí)率不變BP算法收斂速度提高很多。以上兩種算法都是沿著梯度最陡的下降方向修正權(quán)值,誤差減小的速度最快。

5結(jié)束語(yǔ)

通過(guò)上述驗(yàn)證性實(shí)驗(yàn),可以看出參數(shù)的選取對(duì)網(wǎng)絡(luò)的訓(xùn)練結(jié)果有著很大的影響,當(dāng)然BP算法還很多,但沒(méi)有一個(gè)算法適合所有 BP 網(wǎng)絡(luò)。在實(shí)際運(yùn)用時(shí),需根據(jù)網(wǎng)絡(luò)自身的特點(diǎn)、誤差要求、收斂速度要求、存儲(chǔ)空間等來(lái)做具體選擇。

參考文獻(xiàn):

[ 1 ] http://blog.csdn.net/zrjdds/archive/2008/01/02/2010730.a(chǎn)spx.

[ 2 ] 陳兆乾,周志華,陳世福. 神經(jīng)計(jì)算研究現(xiàn)狀及發(fā)展趨勢(shì). 南京

大學(xué)計(jì)算機(jī)軟件新技術(shù)國(guó)家重點(diǎn)實(shí)驗(yàn)室,2008:3-7.

[ 3 ] 趙艷. 神經(jīng)計(jì)算與量子神經(jīng)計(jì)算的研究綜述[J]. 計(jì)算機(jī)與信息

推薦期刊