Скриншот: EPISTHERA
Никита Огер из Темиртау, по его словам, в 16 лет развивает EPISTHERA и собственную языковую модель QEVUNI на 126 млн параметров. В начале ноября он описывал GERO как сервис с подключённой Gemini; после ребрендинга сообщил о развитии собственной модели. Домашнюю инфраструктуру Никита собирает сам и совмещает разработку со школой. Из переписки с Никитой raem.kz узнал, почему расходы на сторонний ИИ подтолкнули его к работе над своим.
Никита Огер сам разрабатывает платформу и настраивает сервер
Никита описывает EPISTHERA как ИИ-компаньона для общения и поддержки в повседневных ситуациях. Пользователь обращается к сервису и получает ответы искусственного интеллекта. Сделать такое общение доступным — цель, которую разработчик обозначил ещё под прежним названием проекта.
«Моя цель — сделать искусственный интеллект доступнее и полезнее для людей».
По словам Никиты, он самостоятельно разрабатывает платформу, подключает ИИ и добавляет функции. На нём также настройка серверов. Работу над сервисом он совмещает с учёбой в школе.
Скриншот тёмной главной страницы сервиса для общения и поддержки. · Скриншот: EPISTHERA
GERO получил название EPISTHERA
По словам Никиты, в начале ноября в GERO уже работали регистрация и вход в аккаунт. Подключённый искусственный интеллект отвечал на запросы пользователей. На тот момент разработчик использовал Gemini и параллельно занимался собственной моделью GeroLM.
«Сейчас в проекте используется модель Gemini, однако я активно работаю над созданием и развитием собственной ИИ-модели — GeroLM, с целью постепенно перейти к собственной интеллектуальной системе».
Позже Никита сообщил о ребрендинге: проект стал называться EPISTHERA, а его языковая модель — QEVUNI. Собственную модель он связывает с возможностью в будущем меньше зависеть от сторонних поставщиков. Переход к ней разработчик описывает как цель своей работы.
Белый геометрический логотип и название на чёрном фоне. · Скриншот: EPISTHERA
Покупку Plus отключили, хотя лимиты уже предусмотрели
По словам Никиты, в начале ноября бесплатным пользователям GERO были доступны 30 сообщений в день. Для подписки Plus он предусмотрел лимит до 100 сообщений. При этом возможность купить подписку была отключена.
«Я не хочу делать общение с ИИ платным, поэтому рассматриваю другие способы развития и финансирования проекта».
Тут важная деталь: эти условия Никита описывал ещё до смены названия. Покупка Plus должна была давать пользователю больше сообщений, однако разработчик рассматривает другие способы финансирования.
Форма регистрации на тёмной странице сайта в браузере. · Скриншот: EPISTHERA
Каждый запрос к сторонней модели требует денег
По словам Никиты, финансовая трудность связана с оплатой обращений к сторонним моделям. Когда пользователь отправляет сообщение, проект несёт расходы на запрос. С увеличением аудитории такие затраты будут расти.
Именно эту зависимость разработчик называет причиной работы над собственной нейросетью. Он хочет постепенно обеспечить самостоятельную работу ИИ-компаньона. Снижение зависимости от внешних поставщиков для него связано с возможностью сохранять доступ к общению без оплаты каждого сообщения.
«Gero это ИИ-компаньон, созданный для общения, поддержки и взаимодействия с пользователями».
Тёмная страница входа с логотипом и полями авторизации в браузере. · Скриншот: EPISTHERA
Дома Никита разделил разработку и работу сервисов
По словам Никиты, для проекта у него два компьютера. Один используется как сервер, где размещаются сервисы и идёт работа над нейросетью. Другой служит основным рабочим компьютером для разработки.
Для управления сервером Никита использует SSH. Это подключение позволяет выполнять команды с другого компьютера. По словам разработчика, таким способом он удалённо управляет сервером и выполняет большинство задач.
«Всю инфраструктуру я собираю и настраиваю самостоятельно».
Серверную часть Никита настраивает с помощью Ubuntu Server и Docker. Через эти инструменты он организует работу необходимых проекту сервисов. Домашняя инфраструктура нужна ему и для действующей платформы, и для работы над собственной нейросетью.
Скриншот тёмной формы регистрации с полями для несовершеннолетнего и его родителя или опекуна. · Скриншот: EPISTHERA
QEVUNI развивается на домашнем оборудовании
По словам Никиты, он использует Intel Xeon E5-2640 с шестью ядрами и 12 потоками. В конфигурации также указаны 16 ГБ оперативной памяти, материнская плата X79M2-Q и накопитель на 1 ТБ. Для работы с ИИ он указал NVIDIA GTX 1660 Super с 6 ГБ видеопамяти.
По словам Никиты, у QEVUNI 126 млн параметров. Так он описывает текущий размер собственной модели, которую продолжает развивать. Его намерение — создать свою интеллектуальную систему и постепенно перейти к её использованию в проекте.
Нынешние возможности оборудования разработчик оценивает сдержанно. «Я понимаю, что нынешних серверных мощностей недостаточно для масштабного развития проекта». В дальнейшем он намерен расширять инфраструктуру и приобретать более производительное оборудование.
Доступ несовершеннолетним открывается после подтверждения родителя
По словам Никиты, при регистрации пользователь выбирает возрастную категорию. Если ему меньше 18 лет, сервис запрашивает электронную почту родителя. На этот адрес отправляется письмо с запросом разрешения на использование платформы.
После подтверждения сервис открывает доступ, объясняет разработчик. Он также сообщил, что добавил ограничения ответов чата для несовершеннолетних пользователей. Эту функцию Никита описал уже после ребрендинга проекта.
Ближайшая задача Никиты связана с развитием QEVUNI: он продолжает работать над моделью и планирует расширять домашнюю инфраструктуру.