Начал играться локально с Ollama. Это, можно сказать, интерфейс для общения с нейронками.
При этом модели нейронок скачиваются и используются локально.
Модель codellama вполне удовлетворяет, но она понимает только английский. С которым уже проблемы у меня.
Искал другие доступные модели, которые умеют в русский язык. Например llama3. Но они такую чушь несут...
ChatGPT,
конечно, и русский понимает, и ответы вполне приемлемые. Но он же там, в
этих ваших интернетах. Хотелось бы получить интернетонезависимый способ
с более-менее адекватными ответами с русского на русский.
Бюджет: 20ГБ видеопамяти.