Чому Gemma знає українську краще за інших та коли лусне бульбашка LLM. Інтерв’ю з керівником LapaLLM

Група українських волонтерів запустила проєкт LapaLLM, щоб вирішити проблему недостатньої якості розуміння та генерації української мови у існуючих великих мовних моделях. Розробники успішно навчили 12-мільярдну модель, використовуючи архітектуру Gemma, демонструючи значний прогрес у цій галузі. Ця ініціатива не лише покращує технологічні рішення, а й сприяє розвитку національного лінгвістичного штучного інтелекту.

Ключовим досягненням LapaLLM є створення публічних датасетів, які були передані для використання іншим дослідникам та компаніям. Це сприяє відкритому розвитку технологій і дозволяє широкому колу фахівців покращувати моделі для української мови. Крім того, проєкт розробив лідерборд — систему оцінки LLM, що надає об'єктивні показники їхньої ефективності на українськомовному контенті.

Наявність спеціалізованих датасетів та бенчмарків є критично важливою для розвитку локалізованих моделей. Популярні глобальні LLM часто мають обмежені можливості через недостатню кількість якісних даних українською мовою. Ініціатива LapaLLM заповнює цю прогалину, створюючи умови для появи конкурентоспроможних та точних україномовних AI-рішень.

Розвиток якісних українськомовних LLM має значний потенціал для бізнесу та державного сектору. Від покращення клієнтської підтримки до автоматизації документообігу та створення інноваційних освітніх продуктів — точні мовні моделі можуть оптимізувати операційні процеси та знизити витрати, підвищуючи ефективність в різних галузях економіки.