LLM за пределами чата: практическое применение для нечетких задач

О тулинге, вайбкодинге и AI-агентах уже сказано достаточно — как и о ROI, time-to-market и прочих базвордах. Но LLM может работать не только в чате — она способна решать «нечеткие» задачи внутри бэкенд-сервисов: классификация, ранжирование, суммаризация, переформатирование, перевод и многое другое, что сложно или невозможно реализовать прямолинейным кодированием.

Наша компания разрабатывает AI-агента, интегрированного в JetBrains IDE с одной стороны и платформу — с другой. Платформа собирает разнообразные метрики использования агента: вовлеченность, категории использования, долю принятого ИИ-сгенерированного кода и даже тональность общения. Многие из этих метрик рассчитываются не жесткими алгоритмами, а через LLM-as-a-judge.

В докладе мы разберем несколько типовых кейсов, в которых наш агент и платформа вызывают LLM для решения «нечетких» задач, а после доклада слушатели унесут с собой конкретные подходы, основанные на наших продакшен-кейсах.

Целевая аудитория: backend-разработчики, интересующиеся AI-интеграцией в свои сервисы, продуктологи и архитекторы решений, рассматривающие применение LLM для «нечеткого» решения бизнес-задач.