Career & Work
Пет-проект (чат-бот)
Задача такая: нужен чат-бот, который по запросу инженера будет отвечать на вопросы с помощью RAG. ЛЛМка должна быть локальной.
Goal Accomplishment Criteria
Все работает как надо
-
Изучить существующие решения
И выбрать наиболее подходящее
-
Создать базу
-
Выбрать open-source LLM
Главное ограничение (т.к. рассматривается только локальная модель): вычислительные мощности. Нужно изучить, что доступно для возможностей моего ноутбука (Мак М1), и какая стоимость если арендовать aws например
Don't miss new posts!
Subscribe for the Goal and follow through to its completion
