Задача распознавания изображений является одной из наиболее массовых задач, успешно решаемых с помощью ИНС. Здесь возможны самые разные постановки проблемы, один из наиболее простых вариантов – распознавание фиксированного набора символов.
Пример 3.11. Распознавание букв. В системе MatLab предусмотрена специальная функция
>> = prprob;
Эта функция возвращает две двоичные матрицы: в матрице alphabet (размером 35×26) каждый столбец кодирует одну букву, а матрица targets (размером 26×26) является диагональной и служит для идентификации столбца.
Каждому столбцу alphabet соответствует матрица 7×5, представляющая собой двоичное изображение буквы.
Следующая функция отображает все столбцы alphabet в виде букв (функцию требуется поместить в рабочий каталог MatLab):
function plotletters(alphabet)
fprintf("plotletters is plotting the first 25 letters\n");
Size(alphabet);
error("plotletters needs columns 35 numbers long");
MM=colormap(gray);
MM=MM(end:-1:1,:);
imagesc(reshape(alphabet(:,j),5,7)");
Результат выполнения функции показан на рис. 3.12:
>> plotletters(alphabet);
Рисунок 3.12. Двоичное кодирование алфавита.
Исходя из структуры матрицы targets, нейронная сеть должна иметь 26 выходных нейронов. Количество нейронов скрытого слоя положим равным 10.
>> net = newff(minmax(alphabet),,{"logsig" "logsig"},"traingdx");
>> P = alphabet; T = targets;
Зададим количество эпох и запустим процесс обучения:
>> net.trainParam.epochs = 1000;
>> = train(net,P,T);
Кривая обучения показана на рис. 3.13.
Рисунок 3.13. Изменение ошибки в процессе обучения
Для проверки качества работы обученной сети рассмотрим зашумленные изображения букв (рис. 3.14):
>> noisyP = alphabet+randn(size(alphabet)) * 0.2;
>> plotletters(noisyP);
С помощью следующей команды выполняется запуск сети для зашумленного входного множества:
>> A2 = sim(net,noisyP);
Матрица А2 здесь содержит различные числа в диапазоне . С помощью функции compet можно выделить в каждом столбце максимальный элемент, затем присвоить ему значение 1, а остальные элементы столбца обнулить:
Рисунок 3.14. Изображения букв в присутствии шума
>> for j=1:26
A3 = compet(A2(:,j));
answer(j) = find(compet(A3) == 1);
Затем можно визуально оценить ответы сети для зашумленных входных векторов с помощью команд:
>> NetLetters=alphabet(:,answer);
>> plotletters(NetLetters);
На рис. 3.15 показан окончательный результат распознавания.
Рисунок 3.15. Результат выполнения распознавания нейронной сетью
Очевидно, некоторые буквы идентифицированы ошибочно. Это может быть либо следствием плохой обученности сети, либо слишком высокого уровня шума, либо неправильного выбора количества нейронов внутреннего слоя.
Пусть перед нами экран, разбитый на двенадцать клеток, 4 x 3. Клетки отображают дискретность элементов изображения. При фокусировании изображения клетка либо засвечивается, либо нет. "Засветка" определяет единичное значение величины ее возбуждения, "не засветка" - нулевое. Так, буква О определяет засветку клеток, определяемую на рис.2.1 . Буква А засвечивает экран, как показано на рис.2.2 .
Что надо сделать, чтобы некий конструируемый нами прибор мог сказать, какая это буква?
Очевидно, надо все сигналы возбуждения клеток экрана, засвечиваемые буквой О, подать на конъюнктор , реализующий схему И. Единичный сигнал на выходе конъюнктора , как показано на рис.2.1 , сформируется тогда и только тогда, когда засветятся все клетки экрана, на которое ложится изображение буквы О. Наличие единичного сигнала на выходе конъюнктора и определит ответ: "Это буква О".
Рис.
2.1.
Обучение букве "О"
Рис. 2.2. Обучение букве "А"
То же необходимо сделать и для буквы А.
Пометим каждую клетку экрана ее координатами. Тогда на языке математической логики сделанное нами можно записать в виде логических высказываний - предикатов :
Эти предикаты определяют "электронное" воплощение методами схемотехники.
При этом буквы не будут "мешать" друг другу, так как засветка соответствующих им клеток экрана частично не совпадает, и единичное значение конъюнкции определится только для одной из них.
А если на экран подать букву К? Тогда ни один из двух конъюнкторов не выработает единичное значение, так как не произойдет полное совпадение засветки соответствующих им клеток экрана. Чтобы "научить" систему букве К, необходимо ввести еще один конъюнктор и проделать те же построения, что и выше.
Таким образом, мы можем говорить, что построили систему распознавания двух "правильно" заданных букв.
Но что делать, если буквы на экране пишутся дрожащей рукой? Тогда мы должны разрешить альтернативную засветку каких-то соседних клеток экрана и учитывать это с помощью операции дизъюнкции , ИЛИ. Как известно, в результате выполнения этой операции формируется единичный сигнал в том случае, если на входе есть хоть один единичный сигнал.
Рассмотрим возможность распознавания буквы О, допустив возможность засветки клеток (1,1), (1,3), (4,1), (4,3). Тогда ранее построенный предикат примет вид:
Аналогично, для буквы А допустим засветку клеток (4,1) и (4,3):
Рис. 2.3. Совместное обучение буквам "О" и "А"
Объединив оба предиката, получим схему на рис.2.3 .
Таким образом, мы реализовали для обучения и распознавания "схемотехнический" подход, основанный на применении булевых функций и оперирующий булевыми переменными 0, 1.
Построение логической нейронной сети, обученной распознаванию букв
Теперь совершим тот шаг, тот переход, который и определяет гениальную простоту природного воплощения, рассчитанного на неполноту данных, недостоверность, "зашумленность", требование высокого быстродействия, высокой надежности и унифицированности. Ибо мы не можем представить себе электронную схему, укрытую в черепной коробке.
Природа и мы, как ее часть, никогда не располагает точной, определенной и достоверной информацией. Засветка клеток экрана, как и рецепторов нашего глаза, не бывает полной, образ не бывает правильным, присутствуют шумы, пропуски и т.д. Тогда жизненную важность обретают понятия похожести, ассоциаций. "На что более всего похож "показанный" образ, возникшая ситуация, и какие ответные действия наиболее обоснованы?" - вот вопрос, определяющий принцип нашей жизни среди многих опасностей и свершений. Ассоциативность нашего мышления является абсолютной.
Значит, надо уйти от вполне определенных булевых переменных (0, 1, "да - нет", "белое - черное" и т.д.) в сторону неопределенности, достоверности или других оценок информации, - в сторону действительных переменных.
Но тогда необходимо уйти и от булевой алгебры , так как понятия конъюнкции и дизъюнкции для действительных переменных не определены. Тут и приходит на помощь анализ и применение принципов природной реализации - принципов нейронной сети , воплощенных в нашем мозге.
Преобразуем полученную нами обученную схему в нейронную сеть (рис.2.4).
Каждая клетка экрана - это нейрон -рецептор, который в результате засветки обретает некоторую величину возбуждения, принимающую значение между нулем и единицей. Рецепторы , заменившие экран, образуют входной, или рецепторный, слой нейросети. Каждый конъюнктор и дизъюнктор заменим единой для всей сети моделью нейрона . Введем выходной слой сети, состоящий в нашем примере из двух нейронов , возбуждение которых определяет результат распознавания. Назовем нейроны выходного слоя по названиям букв - О и А.
Рецепторы , подобно экрану, возбуждаются извне. Все же другие нейроны , имитируя распространение возбуждения в мозге, реализуют передаточную функцию (в терминах теории автоматического регулирования) или функцию активации (в терминах теории нейронных сетей). Эта функция преобразует сигналы на входе нейрона , с учетом весов этих входов (пока отложим их рассмотрение), в величину возбуждения данного нейрона , передаваемого далее по сети в соответствии со связями нейронов и достигающего одного или более нейронов выходного слоя .
Рис. 2.4. Нейронная сеть для распознавания букв "О" и "А"
Поскольку работа мозга имитируется на логическом уровне, функция активации выбирается достаточно простой. Так, в нашем примере достаточно выбрать следующую функцию активации для нахождения величины возбуждения i-го нейрона :
Первоначально находим 
Затем положим 
Книги Майкла Нильсона "Neural Networks and Deep Learning".
Перевод я разбил на несколько статей на хабре, чтобы было удобнее читать:
Часть 1) Введение в нейронные сети
Часть 2) Построение и градиентный спуск
Часть 3) Реализация сети для распознавания цифр
Часть 4) Немного о глубоком обучении
Введение
Человеческая визуальная система - одна из самых удивительных на свете. В каждом полушарии нашего мозга есть зрительная кора, содержащая 140 млн. нейронов с десятками млрд. связей между ними, но такая кора не одна, их несколько, и вместе они образуют настоящий суперкомпьютер в нашей голове, лучшим образом адаптированный в ходе эволюции под восприятие визуальной составляющей нашего мира. Но трудность распознавания визуальных образов становится очевидной, если вы попытаетесь написать программу для распознавания, скажем, рукописных цифр.
Простую интуицию - "у 9-тки есть петля сверху, и вертикальный хвост внизу" не так просто реализовать алгоритмически. Нейронные сети используют примеры, выводят некоторые правила и учатся на них. Более того чем больше примеров мы покажем сети, тем больше она узнает о рукописных цифрах, следовательно классифицирует их с большей точностью. Мы напишем программу в 74 строчки кода, которая будет определять рукописные цифры с точностью >99%. Итак, поехали!
Персептрон
Что такое нейронная сеть? Для начала объясню модель искусственного нейрона. Персептрон был разработан в 1950 г. Фрэнком Розенблатом , и сегодня мы будем использовать одну из основных его моделей - сигмоидный персептрон. Итак, как он работает? Персепрон принимает на вход вектор и возвращает некоторое выходное значение .
Розенблат предложил простое правило для вычисления выходного значения. Он ввел понятие "значимости", далее "веса" каждого входного значения . В нашем случае будет зависеть от того, будет ли больше или меньше некоторого порогового значения .
И это все, что нам нужно! Варьируя и вектор весов , можно получить совершенно разные модели принятия решения. Теперь вернемся к нейронной сети.
Итак, мы видим, что сеть состоит из нескольких слоев нейронов. Первый слой называется входным слоем или рецепторами (), следующий слой - скрытый (), и последний - выходной слой (). Условие довольно громоздко, давайте заменим на скалярное произведение векторов . Далее положим , назовем его смещением персептрона или и перенесем в левую часть. Получим:
Проблема обучения
Чтобы узнать, как может работать обучение, предположим что мы немного изменили некоторый вес или смещение в сети. Мы хотим, чтобы это небольшое изменение веса вызывало небольшое соответствующее изменение на выходе из сети. Схематически это выглядит так:
Если бы это было возможно, то мы могли бы манипулировать весами в выгодную нам сторону и постепенно обучать сеть, но проблема состоит в том, что при некотором изменение веса конкретного нейрона - его выход может полностью "перевернуться" с 0 на 1. Это может привести к большой ошибке прогноза всей сети, но есть способ обойти эту проблему.
Сигмоидный нейрон
Мы можем преодолеть эту проблему, введя новый тип искусственного нейрона, называемый сигмоидным нейроном. Сигмоидные нейроны подобны персептронам, но модифицированы так, что небольшие изменения в их весах и смещении вызывают лишь небольшое изменение на их выходе. Структура сигмоидного нейрона аналогичная, но теперь на вход он может принимать , а на выходе выдавать , где
Казалось бы, совершенно разные случаи, но я вас уверяю, что персептрон и сигмоидный нейрон имеют много общего. Допустим, что , тогда и, следовательно . Верно и обратное, если , то и . Очевидно, что работая с сигмоидным нейроном мы имеем более сглаженный персептрон. И действительно:
Архитектура нейронных сетей
Проектирование входных и выходных слоев нейросети - достаточно просто занятие. Для примера, предположим, что мы пытаемся определить, изображена ли рукописная "9" на изображении или нет. Естественным способом проектирования сети является кодирование интенсивностей пикселей изображения во входные нейроны. Если изображение имеет размер , то мы имеем входных нейрона. Выходной слой имеет один нейрон, который содержит выходное значение, если оно больше, чем 0.5, то на изображении "9", иначе нет. В то время как проектирование входных и выходных слоев - достаточно простая задача, выбор архитектуры скрытых слоев - искусство. Исследователи разработали множество эвристик проектирования скрытых слоев, например такие, которые помогают скомпенсировать количество скрытых слоев против времени обучения сети.
До сих пор мы использовали нейронные сети, в которых выход из одного слоя - использовался как сигнал для следующего, такие сети называются прямыми нейронными сетями или сетями прямого распространения(). Однако существуют и другие модели нейронных сетей, в которых возможны петли обратной связи. Эти модели называются рекуррентными нейронными сетями (). Рекуррентные нейронные сети были менее влиятельными, чем сети с прямой связью, отчасти потому, что алгоритмы обучения для рекуррентных сетей (по крайней мере на сегодняшний день) менее эффективны. Но рекуррентные сети по-прежнему чрезвычайно интересны. Они гораздо ближе по духу к тому, как работает наш мозг, чем сети с прямой связью. И вполне возможно, что повторяющиеся сети могут решать важные проблемы, которые могут быть решены с большим трудом с помощью сетей прямого доступа.
Итак, на сегодня все, в следующей статье я расскажу о градиентом спуске и обучении нашей будущей сети. Спасибо за внимание!
Упражнение на распознание букв. Различные уровни сложности. На букву накладывается маска с шумом. Иногда требуется проявить сообразительность, чтобы методом исключения понять, что за буква была в задании.
Обучение детей чтению и буквам русского алфавита. Какая буква изображена? Выбери правильный ответ справа.
Какая буква спряталась. Онлайн игра для раннего развития детей. Распознавание букв русского алфавита
Как учить буквы русского алфавита
Часто буквы русского алфавита начинают учить по порядку, так как это написано в в букваре. На самом деле, буквы нужно учить в порядке их частоты употребления. Дам небольшую подсказку - буквы в центре клавиатуры используются чащще чем те, что на перефирии. Поэтому, сначала нужно запоминать А, П, Р, О.... и на закуску оставлять такие, как Й, Х, Ж, Щ...
Что лучше - учить ребенка читать по буквам или слогами
Многие преподаватели учат сразу слогами. Я предлагаю обойти эту небольшую проблему и вместо того, чтобы учить слоги, играть в онлайн игры. Так ребенок одновременно учится и играет. Вернее, ему кажется что он играет и при этом непроизвольно повторяет нужные звуки.
Преимущество оналйн игр в том, что если не правильно произнес какую либо букву, то тренажер терпеливо будет тебе повторять нужный ответ до тех пор, пока вы не запомните.
Помогают ли учить буквы буквари. Почему бумажные буквари еще используются в практике обучения
Традиционно используют для обучения буквам бумажные буквари. Преимущества их бесспорно. Бумажную версию если уронить на пол, то можно не бояться того, что устройство разобьется. Буквари можно открывать на определенной странице и класть на видное место. Всего этого нет в электронных устройствах.
Однако, у программируемых тренажерах обучения чтению тоже есть определенные преимущества, например, они могут говорить, в отличие от бумажных собратьев. Поэтому можно рекомендовать как бумажные источники, так и электронные.
Помогают ли онлайн упражнения запоминать буквы
Основной упор при использовании электронных и онлайн играх идет на то, что человек непроизвольно повторяет одну и ту же информацию много раз. Чем чаще идет повторение, тем прочнее информация вносится в сознание и мозг. Поэтому онлайн упражнения очень полезное дополнение к традиционным кубикам и бумажным книгам.
С какого возраста следует отдавать ребенка в образовательные центры
Скорость взросления разная. Обычно. девочки до определенного возраста опережают в развитии мальчиков. Девочки начинают раньше говорить, они более социально ориентированы и больше поддаются обучению. мальчики же наоборот, часто являются большими аутистами - которые гуляют сами по себе. Из этого моно сделать вывод, что девочки обучаются чтению чуть раньше чем мальчики. Но, это лишь внешняя схема. Каждый ребенок индивидуален и готовность его к обучению можно проверить на практике. Нравится ли ребенку посещать занятия? остается ли что либо в его сознании после того, как он отучился?
Может быть попробовать самостоятельно заниматься, тем более, что езда на автобусе занимает время, и никто не понимает вашего малыша лучше чем мама и папа.
Что делать, если ребенок не запоминает буквы
Учиться трудно. И, то не зависит от того, взрослый это человек или малыш. Обучаться очень и очень трудно. К тому же дети обучаются только в игре. Другой факт состоит в том, что для того чтобы обучиться чему либо, нужно применять на практике или повторять множество раз. Поэтому ничего нет удивительного в том, что дети очень плохо запоминают буквы.
Есть отдельный ряд детей, которые поздно начинают говорить и при этом путают не только буквы, но и звуки. с такими ребятами нужно рисовать буквы вместе использовать для этого все возможны материалы, и крупы, и спички, и камешки, карандаши - все что есть под руками. Нарисуйте вы - попросите ребенка повторить.
Можно выполнять графические диктанты, можно играть в нарисуй и повтори.
Что делать, если малыш путает буквы, например, Д и Т
Если ребенок путает буквы, то это значит, еще рано переходить на чтение слов. Вернитесь назад и повторите буквы. Часто дети путают звонкие и глухие буквы или похоже по написанию, например, П и Р. Помочь может практика повторения. Например, можно лепить вместе буквы, можно делать буквы из тела, например, раставляя в стороны руки изображать букву Т.
Как научить ребенка запоминать буквы если он не хочет этого
повторение - мать учения. Повторяйте буквы в словах, повторяйте буквы в слогах, пробуйте отгадывать буквы. пусть ребенок напишет букву, а вы попробуйте отгадать. А, можно наоборот - попробуйте сложить букву из зерен риса, а сынишка или дочка путь отгадают, что это за буква. Можно писать палочкой на песке.
Почему буквы не произносит правильно. Как научить ребенка произносить буквы четко и ясно?
Пробелы могут быть на уровне физиологии. Человек не правильно себя слышит. или ему кажется, что он говорит правильно. проверить это очень легко - достаточно записать разговор на диктофон и дать послушать как ребенок читает.
Так же может быть элементарная не натренированность. Разным людям нужно разное количество раз для повторения информации перед тем, как она будет запомнена, не составляет исключение и ребенок. Нужно повторить много раз и в разных ситуациях, прежде чем он начнет правильно произносить буквы и звуки.
Что нужно еще отметить, так это то, что детей любить нужно и заниматься с ними периодически. Не запускать процессы.
Как заниматься с ребенком алфавитом для подготовки к школе
Заниматься с детьми нужно в игровой форме. Как раз так, как указано на этом сайте. Еще один секрет обучения состоит в том, что заниматься нужно малыми порциями. Дети не могут удерживать внимание дольше 5 минут. Поэтому заниматься дольше просто бесполезно.
С каких букв нужно начинать запоминание алфавита
Начинать запоминание букв нужно с общеупотребительных букв. Второй секрет - это запоминать буквы из которых состоит имя ребенка, имя мамы и папы, можно к этим словам добавить имена брата и сестры, бабушки и дедушки. Это самые любимые имена.
Кстати, если вы учитесь печатать в слепую, то первое слово, с которого нужно начать тренировки по набору - это опять таки ваше имя и фамилия.
Нужно ли запоминать малышу буквы английского алфавита
Знание английского алфавита не повредит. В школе не изучают, алфавит, а сразу начинают читать оставляя алфавит на откуп родителям. стоит так же отметить то, что большие и маленькие английские буквы выглядят по разному и их нужно обязательно запоминать. Если ваш ребенок начал поздно говорить, то скорее всего, запоминание латинских букв для него будет представлять проблему.
Можно ли научить ребенка читать сразу словами
Письменный русский язык выглядит так же как и устный в отличие от английского или французского, поэтому запоминать слов
Как запомнить цифры дошкольнику
Рисуйте цифры, считайте палочки, когда гуляете считайте красные и белые машины, считайте кого больше ходит по улице мужчин или женщин. Превращайте все в игры.
Попробуйте и сами прочитать текст по буквам - мало того, что это получится долго, так к тому же и непохоже на то, как мы говорим на самом деле. Взрослые люди не читают по буквам - разве что если слово не знакомое или на иностранном языке. Тогда, для того чтобы услышать его читают медленно и тщательно проговаривая слова.
Почему малыш - дошкольник забывает буквы. Обучение чтению в играхПочему малыш забывает буквы, хотя учил их еще вчера
Обычно, ребенок легко запоминает одни буквы, и не очень другие. Роль взрослого в том, чтобы отмечать то, что не получается у его подопечного и давать дополнительные задания.
Другая важная вещь - регулярность. Поскольку для ребенка все обучение представляет прямо скажем зубрежку и повторение, то процесс занятий должен быть таким, чтобы информация повторялась через определенные промежутки времени.
Эббингауз (почитайте больше об этом в Википедии) изучал как быстро забывается бессмысленная для этого человека информация и пришел к выводу, что за первые двадцать минут забывается 40% информации. А, если невозможно точно сказать что обозначает та или иная буква, то это равносильно тому, что буква незнакома вовсе. Должно быть однозначное 100% узнавание.
Повторять, повторять, повторять
Например, вы тренируете склады (слог, сочетание букв) НА , и ребенок более менее научился распознавать и читать сочетание. Добавьте к заданиям слог НО, и попросите читать слова помогая читать незнакомые еще ребенку буквы. Впрочем, ребенок может сам нажимать на слоги и слушать, как компьютер читает.
и с вероятностью 0,1 – к классу C 2 . Поставленная задача может быть решена с помощью МСП с N входами и M выходами, обученного давать на выходе вектор c , когда на вход подается p .В процессе обучения сеть строит отображение P → C. Целиком получить это отображение не возможно, но можно получить произвольное количество пар (p → c) , связанных отображением. Для произвольного вектора p на входе мы можем получить приближенные вероятности принадлежности к классам на выходе.
Часто оказывается, что компоненты выходного вектора могут быть меньше 0 или больше 1, а второе условие (1) выполняется лишь приблизительно. Неточность - следствие аналоговости нейронных сетей. Большинство результатов, получаемых с помощью нейросетей, неточно. Кроме того, при обучении сети указанные условия, накладываемые на вероятности, не вводятся в сеть непосредственно, а неявно содержатся во множестве данных, на которых обучается сеть. Это - вторая причина некорректности результата.
Существуют и другие способы формализации.
Будем представлять буквы в виде точечных изображений (рис.).
Рис. . Точечное изображение.
Темной клетке-пикселу на изображении соответствует I ij = 1 , светлому - I ij = 0 . Задача состоит в том, чтобы определить по изображению букву, которая была предъявлена.
Построим МСП с N i х N j входами, где каждому входу соответствует один пиксел: x k = I ij . Яркости пикселов будут компонентами входного вектора.
В качестве выходных сигналов выберем вероятности того, что предъявленное изображение соответствует данной букве:
Сеть рассчитывает выход:
где выход c 1 = 0,9 означает, к примеру, что предъявлено изображение буквы "А", и сеть уверена в этом на 90 %, выход c 2 = 0,1 - что изображение соответствовало букве "Б" с вероятностью 10 % и т.д.
Существует другой способ: входы сети выбираются так же, а выход – только один, номер m предъявленной буквы. Сеть учится давать значение m по предъявленному изображению I :
(I ij ) → m
В этом случае недостатком является то, что буквы, имеющие близкие номера m, но непохожие изображения, могут быть перепутаны сетью при распознавании.