Language
Country/Area
No result found
從簡單到複雜：ART系統如何演化出多樣的神經網絡？
在人工智慧的領域中，適應共鳴理論（ART，Adaptive Resonance Theory）作為探索大腦資訊處理的一種模型，逐漸受到關注。由史蒂芬·格羅斯貝格（Stephen Grossberg）和蓋爾·卡彭特（Gail Carpenter）共同創立的這一理論，提供了一系列人工神經網絡模型，這些模型利用監督與非監督學習方法，處理圖案辨識和預測等問題。ART的核心理念在於，對象的識別和認知通常是「自上而下」的觀察期望與「自下而上」的感官資訊之間互動的結果。
ART模型假設「自上而下」的期望以記憶模板或原型的形式存在，並與感知對象實際特徵進行比較。
這種比較產生了一種類別屬性程度的量度，只要感知與期望之間的差異不超過一個被稱為「警覺參數」的設定閾值，則感知對象將被視為所期望類別的成員。ART系統由此提出了「可塑性/穩定性」問題的解決方案，即在獲取新知識而不破壞現有知識的情況下進行增量學習。
學習模型
基本的ART系統是一種非監督的學習模型，通常由比較場和識別場組成，並包含神經元、警覺參數以及重置模組。比較場接受輸入向量，並將其轉移到識別場中最匹配的神經元。這一匹配的最優神經元輸出一個負信號，與其他神經元進行抑制，從而使識別場表現出側向抑制的特性，使每個神經元能夠代表一個類別。
在完成輸入向量的分類後，重置模組會將識別匹配的強度與警覺參數進行比較，根據結果決定是否開始訓練。
若識別匹配越過警覺參數，則會開始訓練，並調整贏得認識神經元的權重；若未能越過，則進行搜尋程序，不斷禁用活動的識別神經元，直至找到符合警覺參數的匹配。這一過程及其效果受到警覺參數的顯著影響，高警覺參數產生細緻的記憶，而低警覺參數則產生更一般化的記憶。
訓練方法
基於ART的神經網絡主要有兩種訓練方法：慢學習和快學習。慢學習方法使用微分方程計算權重調整的程度，這取決於輸入向量呈現的時間長度；而快學習則使用代數方程計算所需的權重變化。
雖然快學習在很多任務中高效有效，但慢學習方法在生物學上的可信度更高，並且可以用於連續時間網絡。
不同類型的ART系統
ART的演化過程中衍生出多種不同的類型，例如ART 1專注於二進制輸入、ART 2支援連續輸入。ART 2-A是ART 2的一個精簡型版本，在運行速度上有著顯著的加速。ART 3則是基於ART 2，模擬外部神經遞質對突觸活動的調控，提供了一種更生理學上合理的機制來部分抑制產生不匹配重置的類別。
除了基本的ART類型外，還有其他更複雜的結構，如Fuzzy ART、Fusion ART以及TopoART等，這些都是針對聲音、圖像等多種模式渠道的擴展。
ART系統的挑戰
然而，Fuzzy ART和ART 1所學到的類別受到訓練數據處理順序的重大影響。即使使用較慢的學習率，也無法完全消除這一影響，這一問題被認為是確保兩個網絡穩定學習的機制的副作用。在沒有考慮類別成立順序的情況下，更新更高級的ART網絡如TopoART和Hypersphere TopoART提供了一種解決方案。
這些網絡可以總結至集群中，其中集群的形狀不受創建的相關類別順序影響。
隨著科技的進步和學術界對ART理論持續的深入研究，關於這一模型的應用和改進仍在進行。未來的ART系統將能如何進一步適應複雜的環境，以促進智能科技的發展？
