️ Google выпустила ультракомпактную модель Gemma 3 270M

Структура: около 170 млн параметров выделено под эмбеддинги (поддержка до 256k токенов), остальное — трансформерные блоки.

Производительность и автономность: в режиме INT4 на смартфоне Pixel 9 Pro обработка ~25 диалогов потребляет менее 1% заряда.

Доступность: предлагается как в предобученном варианте, так и с инструкционной настройкой.

Оптимизация: есть чекпоинты для INT4, позволяющие снизить ресурсоёмкость без серьёзной потери качества.

Применение: классификация и анализ текста, извлечение сущностей, маршрутизация запросов, структурирование данных, проверка на соответствие требованиям, офлайн-генерация контента.