порог огня
• Верхний порог огня
• Выбор уровня выходного сигнала («1» или «Активация»)
• Время восстановления выхода
Смысл термина «огонь» заключается в том, что выход нейрона имеет значение <> 0.
Строка 1: Если активация меньше или равна нижнему порогу огня, то нейрон не будет срабатывать в любом случае.
Строка №2: Если число вычислений активации с момента последнего запуска нейрона меньше, чем время восстановления выхода, нейрон не будет срабатывать в любом случае. Наименьшее допустимое значение для времени восстановления выхода равно 1, что обычно позволяет нейрону срабатывать при каждом шаге вычисления. (Используйте настройку 1, если вы хотите отключить настройку Output Recovery Time)
Строка №3 и строка №4: Если активация больше, чем Upper Fire Threshold, то нейрон сработает в любом случае, если это позволяет настройка времени восстановления выхода (см. Строку №2).
То, какое значение появляется на выходе при срабатывании нейрона, определяется выходным уровнем срабатывания, который имеет две возможные настройки: «1» или «Активация». Если установлено значение «1», то нейрон всегда срабатывает с выходным уровнем 1. В последнем случае нейрон выдает свою активацию при стрельбе.
Строка №5 и строка №6:
Когда активация больше, чем нижний порог огня, и меньше или равна верхнему порогу огня, тогда нейрон срабатывает с вероятностью, которая непрерывно возрастает от 0 до 1 (= 100%) с увеличением активации. Опять же, параметр «Время восстановления выхода» должен учитывать это, как описано в строке №2.
Это приводит к некоторому случайному поведению нейрона, когда нижний порог огня и верхний порог огня не идентичны. Если вы не хотите иметь это случайное поведение, тогда используйте одинаковые настройки для обоих порогов. Выходной сигнал в случае, если нейрон срабатывает, снова определяется настройкой уровня выходного сигнала, как уже описано в строке №3 и строке №4.
Задание.
1. Задание по ознакомлению с возможностями по настройке нейронов.
Составить справочник по изменению параметров нейронов для каждого типа активации:
Лучше использовать те архитектуры, свойства которых вам наиболее знакомы, так как это упростит интерпретацию результатов. На выбор может повлиять наличие или отсутствие в вашем распоряжении соотвествующих программ.
Скрытые слои характеризуются все одинаково: число нейронов в каждом скрытом слое, активационная функция нейронов каждого скрытого слоя. По умолчанию они имеют нейроны с сигмоидальной активационной функцией.
Выходной слой характеризуется так же, как входной. По умолчанию они оба имеют нейроны с линейной активационной функцией.
Различные активационные функции могут быть по-разному настроены. Так, линейная активационная функция для настройки имеет коэффициент А и смещение B. Если их изменять, изменяется и внешний вид функции,