Колишній інженер Apple створив пристрій, який дозволяє буквально «крутити» нейромережу руками

Розібратися в принципах роботи штучного інтелекту непросто навіть після перегляду десятків лекцій і навчальних відео. Ваги, зміщення, функція втрат і зворотне поширення помилки залишаються абстрактними поняттями, які складно уявити без практичного досвіду.

Колишній інженер Apple і Meta Тайлер Суард вирішив зробити навчання нейромереж максимально наочним та створив фізичний контролер KnobNet.

Пристрій дозволяє користувачеві власноруч змінювати параметри невеликої нейронної мережі, повертаючи ручки на спеціально розробленій панелі. Кожен рух одразу впливає на поведінку моделі, а результат відображається на екрані. Таким чином, замість абстрактних формул людина отримує можливість буквально відчути, як окремі зміни покращують або погіршують точність штучного інтелекту.

Як працює KnobNet

В основі KnobNet лежить компактна нейромережа, навчена розпізнавати цифри від 0 до 9, намальовані на сітці розміром 5 × 5 пікселів. На відміну від сучасних генеративних моделей, які можуть містити мільярди параметрів, ця система навмисно зроблена максимально простою.

Ваги та зміщення нейромережі пов’язані з фізичними регуляторами. Повертаючи одну з ручок, користувач змінює конкретний параметр моделі, після чого KnobNet повторно обчислює результат і показує, наскільки точно система розпізнала введену цифру.

Окремий дисплей демонструє значення функції втрат — числовий показник того, наскільки сильно помиляється нейромережа. Чим нижче це значення, тим точніше працює модель. Якщо поворот ручки покращує результат, пристрій відтворює позитивний звуковий сигнал. Якщо помилка збільшується, користувач чує попереджувальний звук і може повернути параметр у попереднє положення.

Навчання без автоматичного алгоритму

У звичайних нейромережах параметри змінюються автоматично за допомогою методу зворотного поширення помилки. Комп’ютер аналізує результат, визначає внесок кожної ваги у загальну помилку та коригує тисячі або мільйони значень одночасно.

У KnobNet цю роботу виконує сама людина. Процес виглядає так:

1. користувач повертає одну з ручок;
2. система обчислює нове значення помилки;
3. якщо результат покращився, зміна зберігається;
4. якщо точність знизилася, регулятор повертається назад;
5. процес повторюється для інших параметрів.

Спочатку Суард змінював кожну вагу приблизно на 0,2 одиниці. Під час точнішого налаштування крок довелося зменшити до 0,1 одиниці, щоб уникнути занадто різких змін у поведінці моделі.

Нейромережа почала «забувати» вже вивчені цифри

Під час експерименту розробник зіткнувся з проблемою, добре відомою фахівцям із машинного навчання. Спочатку він послідовно навчав систему розпізнавати окремі символи: спочатку цифру «1», потім «2», «3» і так далі.

Однак після налаштування розпізнавання нової цифри мережа могла втратити здатність правильно визначати попередню. Наприклад, навчаючись розпізнавати «3», модель починала помилятися під час обробки «1».

Для розв’язання проблеми Суард почав оцінювати середню помилку одразу для всього набору цифр. Після цього кожна зміна параметрів враховувала не один конкретний символ, а загальну точність нейромережі. Такий підхід дозволив поступово налаштувати модель для розпізнавання всіх десяти цифр.

З чого зібраний незвичайний контролер

За словами автора, для створення KnobNet він самостійно опанував систему проєктування електронних плат EasyEDA та розробив п’ять різних друкованих плат. Перший прототип використовував недорогі потенціометри, однак вони виявилися недостатньо надійними.

Пізніше розробник замінив їх цифровими поворотними енкодерами, які забезпечують стабільніше і точніше керування параметрами. Корпус пристрою був виготовлений на 3D-принтері, а всередині встановили світлодіодні кнопки, дисплеї та інші електронні компоненти.

Обчислення виконує одноплатний комп’ютер Raspberry Pi 4B. Для візуалізації вхідних даних, активності прихованих нейронів і підсумкового прогнозу автор також створив окремий графічний інтерфейс.

Чому KnobNet важливіший, ніж може здатися

KnobNet не здатний конкурувати із сучасними мовними моделями, генераторами зображень або промисловими системами комп’ютерного зору. Його головна цінність полягає не в продуктивності, а в можливості зробити процес навчання нейромереж зрозумілим на інтуїтивному рівні.

Коли користувач бачить, як зміна однієї ваги покращує розпізнавання однієї цифри, але погіршує результат для іншої, він краще розуміє компроміси, з якими стикаються розробники штучного інтелекту. Фізична взаємодія також наочно показує, що автоматичне навчання — це не магічний процес, а величезна кількість послідовних коригувань параметрів.

Саме такі проєкти можуть змінити спосіб вивчення ШІ

Найцікавіший аспект KnobNet полягає в його освітньому потенціалі. Схожі пристрої могли б використовуватися в університетах, школах програмування, технічних гуртках і STEM-лабораторіях. Вони дозволяють пояснювати складні алгоритми без необхідності одразу занурювати учнів у програмний код, лінійну алгебру та математичний аналіз.

Водночас KnobNet варто сприймати саме як авторський експериментальний прототип. Тайлер Суард не оголошував про початок серійного виробництва або продаж пристрою. Інформація про проєкт є офіційною з боку самого розробника, проте незалежних тестів контролера або підтвердження його характеристик сторонніми лабораторіями наразі немає.