Приближается чёрная тень. Мозг человека, машинное обучение, глубокое обучение и мозг дрозофилы обрабатывают эту сцену каждый своим путём. Мы пропустим стимул по всем четырём путям бок о бок, а затем на одной сцене напрямую сравним машинное обучение, где признаки задаёт человек, и глубокое обучение, которое само выучивает даже признаки. В конце разделим случаи, когда в настоящем мозге подтверждены вычисления, похожие на нейросеть, и то, что пока остаётся предположением.
Один стимул одновременно поступает в четыре системы. Различаются число этапов, работа на каждом этапе и то, кто эту работу определил.
У всех четырёх путей общий каркас: принять → упорядочить → решить → действовать. Разница в том, «кто решил, что считать подсказкой (признаком)». В машинном обучении это решает человек (жёлтая рамка), в глубоком обучении это выучивается на данных (зелёная рамка). Цепь обнаружения приближения у дрозофилы не обучается, а формируется в ходе развития (розовая рамка). Можно сказать, что её «заранее задала» эволюция за долгое время.
Для мозга человека показан лишь общий каркас из учебника. В реальном мозге много обратных связей, идущих в противоположную сторону, есть и быстрые обходные пути (например, от глаза к верхнему двухолмию среднего мозга). О последнем этапе «решение» известно лишь то, что в нём совместно участвуют несколько областей, поэтому он нарисован пунктиром. Скорость движения на рисунке не связана с реальным временем обработки.
У каждого чувства свой орган и свой путь. Выберите чувство, проследите путь сигнала и проверьте, насколько надёжно известен каждый этап.
Чтобы измерить сигнал отдельного нейрона, в мозг нужно ввести электрод. У человека это возможно лишь в очень ограниченных случаях, например у пациентов, которым и так нужна операция. Поэтому знания на уровне клеток во многом получены в опытах на животных — кошках, обезьянах, — а у человека опираются в основном на методы вроде нейровизуализации, измеряющие активность больших областей. У дрозофилы генетические инструменты позволяют включать и выключать только нужные нейроны, поэтому можно напрямую проверить, что «этот нейрон нужен для этого поведения». Вот почему эта серия берёт дрозофилу в проводники.
Человек: задаёт признаки → машина: выучивает весаSamuel, 1959
Нужно по двум чёрно-белым сценам 12×12 клеток (начальной и конечной) решить, «приближается ли объект». Сначала человек задаёт подсказки для решения, то есть признаки. Например: «насколько выросла тёмная площадь», «насколько сместился центр тени». 288 пикселей сжимаются до 2 чисел.
По 240 обучающим примерам она выучивает веса для каждого из двух чисел и смещение — всего 3 параметра (логистическая регрессия). Результат — прямая на плоскости справа. После обучения качество проверяется на 160 тестовых сценах, которых модель раньше не видела.
Так же была устроена и программа для игры в шашки Сэмюэла 1959 года, благодаря которой широко распространилось само выражение «машинное обучение». Человек дал список критериев, которые «наверное, важны для игры», а программа, играя партию за партией, выучивала только то, какой вес придавать каждому критерию [R11]. Что смотреть — решает человек, насколько этому доверять — решает машина.
Поэтому качество сильно зависит от удачного выбора признаков. С признаками A сцена, где «темнеет вся комната», ошибочно принимается за приближение. Даже если такие сцены есть в обучающих данных, это не исправляется: в тот момент, когда сцена сжата до 2 чисел, информация, позволяющая отличить её от приближения, уже потеряна. Решить проблему можно, только если человек представит себе эту ситуацию и спроектирует новую подсказку, как в признаках B. Такое придумывание признаков называется конструированием признаков.
288 пикселей → 6 скрытых нейронов → вероятность приближения1 741 вес
Признаки не задаются. Вместо этого человек задаёт форму нейросети (сколько скрытых нейронов, сколько слоёв) и выбирает, какие сцены ей показать, то есть обучающие данные.
Сеть получает 288 пикселей как есть. Каждый из 6 скрытых нейронов выучивает в своих весах, «при каких изменениях каких клеток включаться». Маленькие клеточные картинки на центральном рисунке — результат этого, то есть признаки, которые нейросеть создала сама.
Глубокое обучение ищет признаки в данных вместо человека. Поэтому оно может уловить и подсказки, о которых человек не догадался, и особенно сильно на данных, для которых признаки трудно описать словами, — фото, звук, текст. Нейросеть на этой странице — очень маленькая модель всего с одним скрытым слоем, но принцип тот же, что у моделей с десятками слоёв. Когда слоёв много, ранние слои выучивают простые признаки вроде краёв, а поздние — сложные признаки, составленные из них [R12].
Но это не бесплатно. Машинное обучение выучивает 3 веса, глубокое — 1 741. Чем больше нужно выучить, тем больше нужно примеров. Если запустить код 2, то при 8 обучающих сценах способ с признаками B дал точность на тесте 100%, а способ с пикселями — 93,9%; сравнялись они только при 240 сценах. А как видно на варианте «без изменения освещения», в ситуациях, которых не было в данных, глубокое обучение тоже ошибается. Роль человека, задававшего признаки, просто переходит в роль того, кто выбирает данные.
Рассмотрим четыре места, где опыты показали, насколько верна фраза «нейросеть похожа на мозг». Рисунки — поясняющие реконструкции, передающие лишь направление результатов статей, а не реальные измеренные значения.
| Случай | Подтверждено опытом | Аналог в нейросети | Сила аналогии |
|---|---|---|---|
| LPLC2 дрозофилы | Сильно реагирует только на движение, расходящееся во все стороны, и не реагирует на удаление и на затемнение без движения. Передаёт сигнал в путь бегства [R6] | Детектор признака, включающийся только на определённый шаблон. Цепь делает то, что признаки B из раздела 3 делают по замыслу человека | Прямая Выяснен даже способ вычисления (возбуждение снаружи + торможение внутри) |
| Грибовидное тело дрозофилы | Клетки Кеньона получают входы от нескольких гломерул в почти случайных сочетаниях [R7]. На один запах включается лишь малая их часть [R9], а обучение происходит в связях на выходе [R8] | Широкий скрытый слой со случайными фиксированными связями + обучение только выходного слоя. «Способ дрозофилы» из раздела 6 части 3-2 | Прямая Структуры соответствуют. Но в глубоком обучении скрытые слои обычно тоже обучаются |
| Первичная зрительная кора кошки | Нейроны, сильно реагирующие на полоску, наклонённую под определённым углом [R3] | Признаки краёв разной ориентации, которые выучивает первый слой нейросети для изображений [R12] | Частичная Результат похож, но способ его получения разный |
| Нижневисочная кора обезьяны | Группы нейронов, избирательно реагирующих на лица [R4]. Верхние слои нейросети, обученной хорошо распознавать объекты, хорошо предсказывают реакции этой области [R5] | Чем дальше по слоям, тем сложнее признаки (раздел 4 части 3-2, обучение представлений) | Частичная Хорошее предсказание ещё не доказывает, что вычисления те же |
Данные → обработка → обучение → предсказание → повторение. Ставим рядом то, как ребёнок учится отличать собаку от кошки, и то, как ИИ учится тому же по фотографиям.
| Этап | Человек (ребёнок) | ИИ (модель классификации фото) | Главное различие |
|---|
Оба примера используют только библиотеки, предустановленные в Colab. Нажмите «Скачать блокнот (.ipynb)» и откройте его в Colab через Файл → Загрузить блокнот или скопируйте код и вставьте в ячейку нового блокнота.
Это точный перенос опытов из разделов 3·4 этой страницы. На одних и тех же сценах сравниваются логистическая регрессия на признаках A и B и нейросеть, получающая пиксели как есть (обучающие данные с изменением освещения / без него), а признаки, созданные нейросетью, показываются картинками. Чтобы подставить свои данные, смотрите места в коде с пометкой [Чтобы подставить свои данные].
То же сравнение на библиотеке, которой пользуются на практике. Число обучающих примеров увеличивается с 8 до 240, и строится график точности на тесте для признаков, созданных человеком (машинное обучение), и исходных пикселей (глубокое обучение). Для каждого размера выборка делалась пять раз и результаты усреднялись.
Это промпты, которые можно вставить в ИИ-помощника вроде ChatGPT, Qwen или Claude. Если нажать «Копировать», после промпта будет добавлен выбранный код. Замените текст в 〔 〕 на свою ситуацию.
Ответ ИИ — лишь отправная точка. Предложенные статьи, числа и функции библиотек обязательно проверяйте по первоисточникам и официальной документации. Если для конкурса или статьи вы пользовались помощью ИИ, укажите факт и объём использования согласно правилам организаторов и журнала.
Это тот же словарь, что и жёлтое пунктирное подчёркивание в тексте. Во всей серии используются одни и те же обозначения. Нажмите на название раздела, чтобы перейти к месту первого упоминания.
Аналогия — первый шаг к пониманию, но и семя заблуждения. Для аналогий с дрозофилой и мозгом указана сила. Прямая есть данные, что это действительно делает то же самое · Частичная похожи лишь некоторые свойства · Нет соответствие неизвестно
| Понятие | Бытовая аналогия | Аналогия с дрозофилой и мозгом | Где аналогия ошибается |
|---|---|---|---|
| Признак | Подсказки, на которые смотрят при выборе фруктов (цвет, вес, запах) | Прямая LPLC2 обнаруживает только один признак — «движение, расходящееся во все стороны» | Большинство признаков, выученных нейросетью, — не те подсказки, которым человек может дать название |
| Машинное обучение | Новичок, которому пункты чек-листа задаёт старший коллега, а сам он лишь на опыте учится, сколько баллов давать за каждый пункт | Частичная Мозг насекомого, где поверх заранее заданных эволюцией цепей обнаружения обучением меняется лишь часть связей | Эволюция не «проектирует» признаки с какой-то целью. Это лишь результат отбора за долгое время |
| Глубокое обучение | Подмастерье, который без чек-листа сам вырабатывает критерии, видя множество случаев | Частичная Реакции похожи на многослойную структуру зрительного пути обезьяны | Похожи реакции, но это не значит, что обучение идёт тем же способом. Использует ли мозг обратное распространение ошибки, не подтверждено |
| Многослойная структура | Конвейер на заводе, где деталь за деталью собирают изделие | Частичная Первичная зрительная кора → V2 → V4 → нижневисочная кора | В мозге много обратных связей, поэтому сигнал не течёт только в одну сторону |
| Случайное расширение + обучение выхода | Шкафчики распределяют случайно, а потом лишь заново наклеивают таблички с именами | Прямая Грибовидное тело: почти случайные входы, включается лишь малая часть, обучение на стороне выхода | Тысячи клеток грибовидного тела и детали обучающего сигнала (дофамина) гораздо сложнее модели глубокого обучения |
| Предобработка | Подготовка продуктов перед готовкой | Частичная Сетчатка и ламина сначала упорядочивают изменения яркости | Предобработка у живых организмов — это не правила, заданные человеком, а само устройство органов чувств |
| Обучение | Тренироваться, пока навык не войдёт в привычку | Частичная Изменение силы синаптических связей | Правила другие: по какому критерию, какие синапсы и насколько меняются |
| Ситуация, которой не было в данных | Экзаменационная задача такого типа, какого не было в учебнике | Нет | Человек в незнакомой ситуации может остановиться и сказать «не знаю», а нейросеть порой выдаёт уверенный неверный ответ (раздел 4) |
| Вероятностный выход | Вероятность осадков в прогнозе погоды | Нет | Высокая вероятность, выданная моделью, ещё не значит, что ответ верен. За пределами обучающего диапазона нельзя доверять и вероятности |
E-1 Об авторе · E-2 Научные источники · E-3 Материалы к рисункам
Практические рекомендации для преподавателей, наставников по OJT (обучению на рабочем месте) и тьюторов. Время указано ориентировочно — подстраивайте его под реальное занятие.
| Аудитория | Студенты, работающие специалисты и старшеклассники, впервые изучающие ИИ. Это первая часть серии, её можно читать без формул. При базовом знании Python — вплоть до практики в Colab |
|---|---|
| Предварительные знания | Не нужны. Хорошо бы знать, что «нейроны обмениваются электрическими сигналами» |
| Цели обучения | ① Сравнить и объяснить пути, по которым мозг человека, машинное обучение, глубокое обучение и мозг дрозофилы обрабатывают стимул ② Объяснить разницу между машинным и глубоким обучением через вопрос «кто задаёт признаки» и привести примеры ограничений каждого ③ Отличать установленное в исследованиях мозга от предположений |
| Ориентировочное время | Чтение 30–40 мин · показ анимаций 20 мин · практика в Colab 25 мин (код 1 — 10 мин, код 2 — 15 мин) |
Вступление 5 мин (раздел 1, приближающаяся тень) → раздел 2, четыре чувства, 10 мин → разделы 3·4, поединок с ловушкой освещения, 20 мин → раздел 5, один выбранный случай, 10 мин → проверочные вопросы 5 мин.
Разделы 3·4 15 мин → обсуждение «Какие признаки человек может задать для наших рабочих данных?» 20 мин → практика с кодом 2 25 мин → по таблице раздела 6 сформулировать «пять этапов внедрения ИИ в нашей команде» 20 мин → карточки с промптами 10 мин.
Начинающим — только разделы 1·3·4·6. Учащимся среднего уровня предложите объяснить по рисунку плоскости, почему признаки A из раздела 3 не исправляются добавлением данных, а затем самим спроектировать в коде 1 ещё один признак.
| Раздел | Вопрос, на котором стоит остановиться | Совет по управлению |
|---|---|---|
| 1 Четыре пути | «Что общего делают все четыре пути? Кто определил эту работу?» | Нажимайте по очереди «Путь подробно» и сравнивайте цвета рамок (жёлтый, зелёный, розовый) |
| 2 Мозг человека | «Чем отличается одно лишь обоняние?» | Посмотрите зрение, затем переключитесь на обоняние и обратите внимание, что оно минует таламус |
| 3 Машинное обучение | «Почему затемнение всей комнаты принимается за приближение?» | В признаках A выберите «Свет тускнеет», затем переключитесь на B и посмотрите, как жёлтая точка перемещается на плоскости |
| 4 Глубокое обучение | «Если признаки не задаются, что тогда должен решать человек?» | Сначала покажите провал, обучив на варианте «Без изменения освещения», затем обучите заново на варианте «С изменением освещения» |
| 5 Подтверждённые случаи | «Чем отличаются утверждения “мозг и нейросеть похожи” и “мозг и нейросеть одинаковы”?» | Читайте силу аналогии в таблице (прямая, частичная) вместе с обоснованием |
| 6 Этапы обучения | «Продолжает ли ИИ учиться после развёртывания?» | Пролистайте кнопкой «Следующий этап» до ⑤ Повторение и прочитайте вслух столбец «Главное различие» в таблице |
| Заблуждение | Верное объяснение | Что показать |
|---|---|---|
| Глубокое обучение в точности копирует мозг человека | Заимствован лишь каркас — слои и сила связей. Способ обучения (обратное распространение ошибки) в мозге не подтверждён | Список «предположений» в разделе 2, таблица в разделе 5 |
| Глубокое обучение всегда лучше машинного обучения | Если хорошие признаки известны, а данных мало, машинное обучение бывает лучше | Результат кода 2 в блоке пояснений раздела 4 |
| Глубокому обучению совсем не нужен человек | Вместо признаков человек выбирает данные. В ситуациях, которых не было в данных, модель ошибается | Вариант «Без изменения освещения» в разделе 4 |
| Машинное обучение и глубокое обучение — разные области | Глубокое обучение — одна из ветвей машинного обучения. Это машинное обучение, которое выучивает из данных даже признаки | Сравнение двух строк в разделе 1 |
| Принципы работы мозга полностью выяснены | Общий каркас сенсорных путей выяснен, но правила принятия решений и обучения ещё исследуются | Пунктирные этапы в разделе 2 |
В машинном обучении (традиционный подход) признаки задаёт человек, а машина выучивает веса для каждого признака. В глубоком обучении машина выучивает из исходных данных даже признаки. В разделе 3 выучивалось 3 веса, в разделе 4 — 1 741.
В момент перевода в признаки A (изменение площади, смещение центра) сцена с освещением превращается в точку «площадь сильно выросла, центр на месте» и оказывается на той же стороне, что и приближение, только ещё дальше. Одной прямой её от приближения не отделить. Добавление данных не помогает, потому что признаки уже потеряли информацию.
Обоняние. Путь: обонятельный эпителий → обонятельная луковица → грушевидная кора. Зрение, слух и осязание проходят через таламус.
Оба отличают «объект расширяется во все стороны» от «просто темнеет». LPLC2 не реагирует на затемнение без движения. Разница в том, что признаки B спроектировал человек, а LPLC2 — цепь, сформированная в ходе развития.
Встретив ситуацию, которой не было в обучающих данных (изменение освещения в разделе 4), модель может ошибиться. Нужно измерять качество на новых, не виденных тестовых данных и проверять, входят ли в обучающие данные ситуации, возможные на практике.
Добавьте в типы сцен кода 1 «приближение под углом» (тень растёт, а центр тоже сильно смещается). Сведите в таблицу, как меняется точность на тесте у признаков A·B и нейросети, и объясните причину в трёх предложениях.
Выберите один набор своих рабочих данных и спроектируйте 3 «признака, которые может задать человек». По образцу кода 2 сравните «признаки + логистическая регрессия» и «исходные данные + нейросеть» при разном числе обучающих примеров и обоснованно напишите вывод, что использовать.
| Начинающим | Таблицу в разделе 2 и раздел 5 можно пропустить без потери нити. Достаточно чётко показать один пример «Свет тускнеет» из разделов 3·4 |
|---|---|
| Углублённо | Обсудите, почему на рисунке скрытых нейронов в разделе 4 веса «начальной сцены» и «конечной сцены» получаются противоположного цвета (конечная − начальная = фильтр, видящий изменение). Затем переходите к обратному распространению ошибки в части 3-2 |
| Что изучить дальше | Сансон Ан, конспект лекций «Наука о данных для бизнеса» (наука о данных в целом) · STEP [K-Digital] Обработка естественного языка с помощью ИИ (связано с 3-5·3-8) · STEP [K-Digital] Основы анализа финтех-данных (связано с 3-6) |
| Материалы для преподавателя | Критерии оценки проверочных вопросов и примеры ответов к заданиям — на странице ответов для преподавателей (3-1) |
Вы дочитали часть «3-1 Как работает ИИ» до конца. Обитатели лаборатории подведут итог — каждый по одной фразе.