在人工智慧的领域中,适应共鸣理论(ART,Adaptive Resonance Theory)作为探索大脑资讯处理的一种模型,逐渐受到关注。由史蒂芬·格罗斯贝格(Stephen Grossberg)和盖尔·卡彭特(Gail Carpenter)共同创立的这一理论,提供了一系列人工神经网络模型,这些模型利用监督与非监督学习方法,处理图案辨识和预测等问题。 ART的核心理念在于,对象的识别和认知通常是「自上而下」的观察期望与「自下而上」的感官资讯之间互动的结果。
ART模型假设「自上而下」的期望以记忆模板或原型的形式存在,并与感知对象实际特征进行比较。
这种比较产生了一种类别属性程度的量度,只要感知与期望之间的差异不超过一个被称为「警觉参数」的设定阈值,则感知对象将被视为所期望类别的成员。 ART系统由此提出了「可塑性/稳定性」问题的解决方案,即在获取新知识而不破坏现有知识的情况下进行增量学习。
基本的ART系统是一种非监督的学习模型,通常由比较场和识别场组成,并包含神经元、警觉参数以及重置模组。比较场接受输入向量,并将其转移到识别场中最匹配的神经元。这一匹配的最优神经元输出一个负信号,与其他神经元进行抑制,从而使识别场表现出侧向抑制的特性,使每个神经元能够代表一个类别。
在完成输入向量的分类后,重置模组会将识别匹配的强度与警觉参数进行比较,根据结果决定是否开始训练。
若识别匹配越过警觉参数,则会开始训练,并调整赢得认识神经元的权重;若未能越过,则进行搜寻程序,不断禁用活动的识别神经元,直至找到符合警觉参数的匹配。这一过程及其效果受到警觉参数的显著影响,高警觉参数产生细致的记忆,而低警觉参数则产生更一般化的记忆。
基于ART的神经网络主要有两种训练方法:慢学习和快学习。慢学习方法使用微分方程计算权重调整的程度,这取决于输入向量呈现的时间长度;而快学习则使用代数方程计算所需的权重变化。
虽然快学习在很多任务中高效有效,但慢学习方法在生物学上的可信度更高,并且可以用于连续时间网络。
ART的演化过程中衍生出多种不同的类型,例如ART 1专注于二进制输入、ART 2支援连续输入。 ART 2-A是ART 2的一个精简型版本,在运行速度上有着显著的加速。 ART 3则是基于ART 2,模拟外部神经递质对突触活动的调控,提供了一种更生理学上合理的机制来部分抑制产生不匹配重置的类别。
除了基本的ART类型外,还有其他更复杂的结构,如Fuzzy ART、Fusion ART以及TopoART等,这些都是针对声音、图像等多种模式渠道的扩展。
然而,Fuzzy ART和ART 1所学到的类别受到训练数据处理顺序的重大影响。即使使用较慢的学习率,也无法完全消除这一影响,这一问题被认为是确保两个网络稳定学习的机制的副作用。在没有考虑类别成立顺序的情况下,更新更高级的ART网络如TopoART和Hypersphere TopoART提供了一种解决方案。
这些网络可以总结至集群中,其中集群的形状不受创建的相关类别顺序影响。
随着科技的进步和学术界对ART理论持续的深入研究,关于这一模型的应用和改进仍在进行。未来的ART系统将能如何进一步适应复杂的环境,以促进智能科技的发展?