Пристрій Tiiny AI Pocket Lab здатний локально запускати великі мовні моделі на 120 млрд параметрів без підключення до інтернету.

Американський стартап Tiiny AI оголосив про випуск кишенькового пристрою, офіційно визнаного компактним міні-ПК для локального AI. Гаджет покликаний перенести обчислення з хмарних дата-центрів на особисте користування, забезпечуючи повну приватність даних.

Девайс оснащений 12-ядерним процесором, 80 ГБ оперативної пам'яті та кастомним модулем потужністю 190 TOPS. Це дозволяє запускати нейромережі рівня GPT-4o повністю автономно — вся обробка відбувається на пристрої розміром зі смартфоном та вагою всього 300 грамів.

У роботі пристрою використовуються технології TurboSparse та PowerInfer, що забезпечують серверну продуктивність при споживанні лише 65 Вт. Повноцінну презентацію заплановано на січень 2026 року в рамках виставки CES.