Клон Jev від OpenAI може допомогти прикордонній лабораторії зупинити її ройових агентів

Під час заходу Dev Day, Сем Альтман, очільник OpenAI, анонсував Decisions API. Ця розробка дозволяє моделям штучного інтелекту обирати з наперед визначених варіантів, що може значно оптимізувати їхню роботу. Наприклад, класифікувати зображення або визначати поведінку агентів, фокусуючи модель на конкретних виборах для досягнення швидкості без втрати можливостей.

Decisions API має схожість з моделлю Jev, випущеною TypeSafe AI раніше. Jev – це класифікатор на базі великої мовної моделі (LLM), оптимізований для автоматизації програмного забезпечення, що генерує ймовірності вибору швидко та економічно. Розробники використовують Jev для доповнення LLM, підвищуючи їхню ефективність та знижуючи вартість.

Ці нові моделі вирішують ключову проблему традиційних LLM, які часто є повільними та дорогими для багатьох завдань. Завдяки архітектурі, що дозволяє швидке, інтуїтивне мислення ("System One"), вони забезпечують високу швидкість обробки даних при низьких витратах. Це відрізняє їх від LLM, що орієнтовані на обмірковане, повільне мислення ("System Two").

Одним із перспективних застосувань таких рішень є моніторинг та забезпечення безпеки агентів штучного інтелекту. Наприклад, після інцидентів з некоректною поведінкою агентів OpenAI, компанія шукала способи контролю. Модель на кшталт Jev може перевіряти дії агента на відповідність поставленим завданням, блокуючи небажані вчинки та дозволяючи безпечні. Це забезпечує додатковий рівень перевірки, що покращує надійність систем.

Потенційна економія коштів при використанні таких моделей є значною. За даними тестування, моніторинг кожної дії агента може коштувати близько 2,94 долара з Jev, тоді як з використанням традиційної фронтирної LLM ця сума сягає 372 доларів. Це робить постійний моніторинг економічно доцільним.

На ринку вже з'являються інші подібні API від різних стартапів, що свідчить про зростаючий інтерес до таких рішень. Ключовим завданням для розробників є забезпечення високої точності та калібрування висновків цих моделей до реальних умов.