Context.ai хочет объединить возможности продуктовой аналитики с LLM

С момента выпуска ChatGPT в конце прошлого года мы видели, как компании разрабатывают инструменты генеративного искусственного интеллекта, чтобы помочь клиентам более естественным образом взаимодействовать со своими продуктами и услугами. Однако во многих случаях эти поставщики понятия не имеют, насколько хорошо работают базовые модели больших языков или насколько хороши ответы.

Context.ai был запущен ранее в этом году, чтобы помочь компаниям лучше понять, как пользователи взаимодействуют с их LLM. Сегодня компания объявила о начальных инвестициях в размере 3,5 миллионов долларов для полной реализации этой идеи.

Генеральный директор Генри Скотт-Грин и его соучредитель, технический директор Алекс Гэмбл, несколько лет работали в Google: Скотт-Грин — над продуктом, а Гэмбл — инженером-программистом. Вместе они осознали необходимость в сервисе, который измерял бы, насколько хорошо ведут себя эти модели, но инструментов, которые могли бы помочь, было очень мало.

«Мы поговорили с сотнями разработчиков, создающих LLM, и у них есть действительно постоянный набор проблем. Эти проблемы заключаются в том, что они не понимают, как люди используют их модель, и не понимают, как их модель работает. Фраза, которую я всегда слышу, звучит так: «Моя модель — это черный ящик», — рассказал Скотт-Грин TechCrunch.

Во многих отношениях это мало чем отличается от инструментов анализа продуктов, таких как Amplitude или Mixpanel, которые измеряют, как пользователи взаимодействуют с интерфейсом продукта, например, где они нажимают или как долго они остаются на странице. Однако в случае с Context речь идет о том, чтобы изучить данные, генерируемые LLM, и выяснить, создает ли он действительно полезный контент, который помогает пользователям отвечать на вопросы клиентов. Конечная цель – построение более эффективной модели.

Это работает так: клиенты делятся стенограммами чата с Context через API. Затем он анализирует информацию с помощью обработки естественного языка (NLP). Программное обеспечение группирует и маркирует разговоры по темам, а затем анализирует каждый разговор, чтобы на основе доступных сигналов определить, удовлетворен ли клиент ответом.

После анализа текста из стенограмм чата Context.ai выполняет такой анализ.Кредиты изображений:Контекст.ай

«Мы считаем, что происходит большой сдвиг [с появлением LLM], и в течение следующих нескольких лет будет создано огромное количество таких чатов. И в этом новом мире, где существует огромное количество текстовых интерфейсов, с которыми пользователи взаимодействуют посредством текста, а не графических пользовательских интерфейсов, существует потребность в другом наборе инструментов», — сказал он.

Они начали с создания первоначального прототипа и поделились им с первыми клиентами и партнерами по дизайну и с тех пор постоянно совершенствуют и совершенствуют продукт. Скотт-Грин отмечает, что это непрерывный процесс, но они вызывают большой интерес и имеют платящих клиентов.

Тем, кто беспокоится о безопасности и конфиденциальности, стоит отметить, что Context удаляет личные данные при приеме данных. По словам Скотта-Грина, он не использует контент для построения моделей или маркетинговых целей и хранит его не более 180 дней, после чего удаляет.

Сейчас компания небольшая, в ней шесть сотрудников, но он видит будущее с растущей организацией и считает, что никогда не рано задуматься о создании диверсифицированной компании.

«Очевидно, что перед экосистемой стартапов и технологической экосистемой в целом стоит сложная задача, когда дело доходит до создания представительных, разнообразных и инклюзивных команд. Мы оба твердо верим в это, и, что более важно, мы оба действуем в этом направлении и действительно прилагаем усилия, чтобы обеспечить инклюзивное репрезентативное разнообразие [в нашей базе сотрудников]», — сказал он.

Сегодняшние инвестиции осуществлялись совместно GV (венчурным подразделением Google) и Theory Ventures.