December 18th, 2014

AI (или я и и_диод)

Делал простую нейронную сеть. 1024 входа, пара десятков выводов, 1 скрытый слой.

Не хочет учиться. То есть совсем. Среднеквадратичная ошибка получается где-то 0.027 и дальше не уменьшается. Если подать на вход даже что-то из тех данных, на которых сеть училась, эффект сравним с броском кубика (ну вещественного кубика в смысле, не целого), то есть нет распознавания.

После вдумчивого чтения документации с непойми какого раза обнаружил, что сеть содержала в скрытом слое ровно ОДИН нейрон, вот его я и учил до посинения, а он синел, да не учился.

__hedin говорит, что у меня депутат получился.

Сделал скрытый слой из 100 нейронов - сеть обучилась хотя бы настолько, чтоб однозначно распознавать образы их выборки, на которой училась. Можно и дальше продолжать.

P.S. А в аббревиатуре AI вторая буква на этот раз всяко от слова Idiot.