Карьера и работа
Пет-проект (чат-бот)
Задача такая: нужен чат-бот, который по запросу инженера будет отвечать на вопросы с помощью RAG. ЛЛМка должна быть локальной.
Критерий завершения
Все работает как надо
-
Изучить существующие решения
И выбрать наиболее подходящее
-
Создать базу
-
Выбрать open-source LLM
Главное ограничение (т.к. рассматривается только локальная модель): вычислительные мощности. Нужно изучить, что доступно для возможностей моего ноутбука (Мак М1), и какая стоимость если арендовать aws например
Не пропустите новые записи!
Подпишитесь на цель и следите за ее достижением
