На недавнем мероприятии Dev Day компания OpenAI представила новый сервис под названием Decisions API. Этот инструмент предоставляет модели Luna возможность выбирать один из заранее определённых вариантов, таких как категория для изображения или сценарий поведения программного агента. Открытие новшества ознаменовал глава OpenAI Сэм Альтман.
Согласно словам Альтмана, применение данного подхода значительно ускоряет процесс обработки, при этом сохраняя эффективность распознавания изображений, многоязычную работу и защиту от потенциально опасных действий. Важно отметить, что доступ к сервису в настоящее время ограничен предварительным режимом, и разработчики ещё не имели возможности полностью оценить его практическое сходство с Jev.
Jev, в свою очередь, является моделью компании TypeSafeAI, выпущенной в сентябре и предназначенной для автоматизации программного обеспечения. Разработчики задают системе набор вариантов, а она быстро и недорого рассчитывает вероятность каждого из них. Издание TechCrunch охарактеризовало Decisions API как «сверхмощный классификатор», основанный на большой языковой модели.
Глава TypeSafe AI Диогу Алмейда, ранее работавший инженером в OpenAI, в шутку упомянул о начале «войн клонов» и выразил мнение, что интерес OpenAI к этому подходу свидетельствует о его перспективности. Также стоит отметить, что руководитель стартапа QueryStory Шапор Нагибзаде на хакатоне продемонстрировал, как Jev сопоставляет каждое действие агента с поставленной задачей: явно опасные действия блокируются, сомнительные отправляются на проверку, а остальные получают разрешение.
По оценкам разработчиков, такая проверка действий обойдётся в $2,94, что значительно дешевле, чем $372, необходимых при использовании более продвинутой языковой модели. Таким образом, Decisions API может стать важным инструментом для оптимизации работы программных агентов и повышения их безопасности.