Google сделали облегченную версию Gemini и добавили её в Chrome Canary (браузер для разработчиков).

Хоть это и тестовая версия, но работает очень быстро. Задержка перед ответом составляет меньше 100 мс.

Из плюсов: модель работает без интернета и не нагружает устройство. Нейросети можно задать вопрос, попросить перевести на немецкий, изменить стиль сообщения и проверить грамматику.

Устанавливаем локальный ИИ тут.