Про нейросети замолвлю слово (Wig)

LLM (Large Language Model или большая языковая модель, в простонародье ИИ - искусственный интеллект) интересуют меня сугубо с практической любительской точки зрения, а именно как инструмент помогающий в кодировании. Кодирование на Python различных программок. Парсеров там, различных нейронных сетей по прогнозированию и т.д.

Как только появился нашумевший ChatGPT 3,5, радость была поначалу безпредельной, т.к. представлялось что вот ОНО СЧАСТЬЕ!!! скорми нужные тебе данные и параметры, а LLM тебе выдаст готовый код!

НО......

Для того, чтобы создать парсер ушло дня 2. Это при том, что почти сразу понял, как писать PROMPTы.

Для того, чтобы создать не то чтобы сложную, но немного замороченную прогностическую модель основанную на симбиозе генетических алгоритмов для определения весовых коэффициентов и нейронных сетей мне потребовалось 2!!! месяца.
Цель стояла - создать полностью рабочий проект от парсинга данных в интернете до бота Telegram дающего прогнозы при помощи нейронной сети в realtime исключительно при помощи ChatGPT, т.е. методом:

- постановка задачи
- определение условий, параметров и целей
- CTRL+C ..... CTRL+V в IDE
- корректировка условий, работа над ошибками

и так по кругу, пока не будет достигнут нужный результат.

Осложнялось все дело тем, что работа велась постоянно под VPN, в связи с санкциями.

Проект был закончен, причем довольно успешно. Точность прогнозов колебалась в районе 68% - 69%, время наблюдения - полгода, дальше уже стало неинтересно.
По окончании проекта эмоции были похожи на что-то из этого:

Когда вышел 3,5 Turbo - стало полегче, LLM стал немного умнее, но по-прежнему обожал заниматься выдумыванием.. Но! Проблема основная в том, что ChatGPT 3,5 Turbo:
1. Имел ограничение в сколько-то там токенов (даже не помню), из-за чего писал поначалу часть кода, а следующую часть при команде "Continue" писал вообще от балды.

2. Спустя 3-5 сообщений, он тупо забывал контекст, а если ты начинал настаивать на выполнении нужного тебе задания путем повторных генераций, то тебя тупо банила система. Противоядием служит то, что у меня 6 аккаунтов для работы с ChatGPT.

С выходом 4-й версии хотелось закричать "Ура! Ааррррр, вот сейчас то ууухххх"...

....Ну вы поняли....

Да, 4-я версия превосходит 3,5.
Но санкции...

В общем, к чему я все это.
Для тех, кто хочет потренироваться в общении с LLM, есть вполне сносные локальные версии, аналогичные (почти) ChatGPT 3,5 Turbo.
Причем не требующие особых знаний по установке, без всяких плясок с бубнами, VPN-ов и т.д.

Кому хочется потренироваться в общении с "ИИ", вот отличные варианты, например, GPT4All https://gpt4all.io/index.html. Тут главное, чтобы у вас компьютер был более-менее мощный, видеокарта не меньше 8 Гб, оперативка лучше 32Гб+, скачиваете .exe файл, устанавливаете себе на комп, скачиваете LLM-модель (рекомендую от французов mistral-7b-instruct-v0.1.Q4_0.gguf) и общаетесь с LLM на здоровье, сколько влезет.
Также есть еще https://lmstudio.ai/. Там также - скачиваете .exe, устанавливаете, скачиваете модель и играетесь на здоровье.

Если хотите онлайн, то рекомендую китайцев https://chat.deepseek.com/coder
По многим показателям равна , а то и превосходит (если речь идет о программировании) ChatGPT 3.5 Turbo. И никаких VPN не надо.

По PROMPT-ам попробуйте профессора Синапса.

Act as Professor Synapse, a conductor of expert agents. Your job is to support the user in accomplishing their goals by aligning with their goals and preference, then calling upon an expert agent perfectly suited to the task by initializing "Synapse_COR" = "${name}: I am an expert in ${role}. I know ${context}. I will reason step-by-step to determine the best course of action to achieve ${goal}. I can use ${tools} to help in this process

I will help you accomplish your goal by following these steps:
${reasoned steps}

My task ends when ${completion}.

${first step, question}."

Follow these steps:
1. Start each interaction by gathering context, relevant information and clarifying the user’s goals by asking them questions
2. Once user has confirmed, initialize “Synapse_CoR”
3. and the expert agent, support the user until the goal is accomplished

Commands:
/start - introduce yourself and begin with step one
/save - restate SMART goal, summarize progress so far, and recommend a next step
/reason - Professor Synapse and Agent reason step by step together and make a recommendation for how the user should proceed
/settings - update goal or agent
/new - Forget previous input

Rules:
-End every output with a question or a recommended next step
-List your commands in your first output or if the user asks
-ask before generating a new agent.