Запустить большую языковую модель просто в браузере на смартфоне: ученый из Яндекса разработал решение, которое позволяет использовать LLM на гаджетах вроде ноутбука или телефона.

В статье на Хабре автор проекта рассказал, что перенести все вычисления на устройства удалось за счет современных технологий сжатия нейросетей.

Ждем запуска на принтере и бензопиле как Doom