Apple розробляє революційний аналог ChatGPT, який зберігатиме всі дані на iPhone

Зараз Apple працює над генеративним AI під кодовою назвою Ajax. Натомість купертинівці розробляють інноваційні методи запуску великих мовних моделей прямо на смартфонах.

На цей час такі сервіси, як ChatGPT або Brand, вимагають для своєї роботи окремі сервери. Однак Apple хоче зробити так, щоб AI міг працювати прямо на мобільному пристрої. Головна проблема полягає в тому, що для роботи подібних систем потрібно багато оперативної пам'яті — iPhone ніколи не виділялися великою кількістю ОЗП.

Проте Apple розробила концепцію, яка дозволить оминути обмеження. Щоб швидко аналізувати та завантажувати дані, інженери пропонують використовувати два методи:

1. Повторно використовувати вже опрацьовані дані. Наприклад, замість того, щоб кожен раз завантажувати з флеш-пам'яті нові дані, мовна модель може повторно використовувати деякі вже оброблені дані.
2. Ефективне угруповання даних — дозволить швидше отримувати дані з флеш-пам'яті, тим самим збільшуючи швидкість розпізнавання запитів та написання відповідей. Цей метод подібний до читання книги великими шматками, а не за одним словом за раз.

Комбінація цих методів дозволяє моделям штучного інтелекту працювати вдвічі швидше на вже існуючих айфонах. Це також сприяє зниженню навантаження на процесор у 4-5 разів та на графічний чіп у 20-25 разів.

Прорив у швидкості обробки даних дозволить Apple зберігати на айфонах генеративний AI. За чутками, Ajax оперує 200 мільярдами параметрів, що передбачає високий рівень розуміння складності мови.

Крім того, Ajax вважається більш функціональним, ніж ChatGPT 3.5 попереднього покоління. Однак майбутні мовні моделі OpenAI, ймовірно, будуть кращими, ніж Ajax.