Практическая работа №1 по дисциплине
«Проектирование вычислительных комплексов»
Введение
Цель работы: получить навыки практической реализации и обучения нейронных сетей для
решения
задач машинного обучения, а также представление о влиянии гиперпараметров и
архитектуры.
1.
Нейронные сети (краткая теоретическая справка)
Основные типы задач, которые
решаются с использованием
искусственных нейронных
сетей
(НС) – это классификация и регрессия. По сравнению с некоторыми другими методами
машинного
обучения, НС обладают рядом преимуществ: возможностью самостоятельно
определять значимые для решения задачи факторы, способностью к
обучению и дообучению,
устойчивостью к «шуму» в данных, универсальность. К недостаткам НС относят высокую
требовательность к вычислительным ресурсам, к объемам и разнообразию обучающих данных, но
вместе с тем опасность «переобучения». Кроме
того, результаты, получаемые НС, с
трудом
поддаются объяснению с точки зрения человека.
Исторически, первой широко известной моделью НС стал перцептрон, в котором
поступающие от датчиков сигналы передаются ассоциативным элементам, а затем реагирующим
элементам. Выход перцептрона – это линейная комбинация значений на его входах (x
i
) и
соответствующих весов в «связях» (w
i
) – см. Рис. 1. Используемые в настоящее время НС, как
правило, имеют
входной слой
,
выходной слой
и произвольное количество промежуточных
(
скрытых
) слоёв.
Рис. 1. Принципиальная схема классического перцептрона.
В современных НС узлами являются искусственные
нейроны
, распределённые по слоям НС.
Нейроны фактически реализуют некоторую математическую функцию (