Математичні рішення OpenAI ще не відповідають стандартам галузі

OpenAI представила сотні розв'язків складних математичних задач, стверджуючи, що співпрацювала з консультативною групою елітних математиків. Однак ця група, Консультативна рада з математики та штучного інтелекту (AGMAI) при Інституті перспективних досліджень Принстонського університету, висловила зауваження до представленого підходу.

Зокрема, AGMAI рекомендувала припинити тестування складних математичних проблем на пропрієтарних моделях, тоді як OpenAI прямо вказала, що використовує саме такі моделі. Хоча лабораторія дотримувалася деяких принципів, як-от оперативне оприлюднення результатів, вона не надала повних "ланцюгів міркувань" моделі для більшості рішень – лише для 10 із 719 рукописів.

Однією з ключових вимог AGMAI була формалізація доказів, які є незрозумілими для людини. Проте лише 42% доказів, випущених OpenAI, пройшли цей процес. Математична спільнота наголошує на відповідальності за забезпечення людського розуміння нових результатів, що, на їхню думку, не було достатньо враховано.

Проблема також полягає у розбіжностях між поясненнями розв'язків природною мовою та їхнім формальним представленням у мові програмування Lean. Дослідження, проведене математиками з Кембриджського університету та Королівського коледжу в Лондоні, виявило принаймні дві такі невідповідності у рішенні, запропонованому OpenAI для проблеми, пов'язаної з рівняннями Нав'є-Стокса. Ці "помилки перекладу" ставлять під сумнів надійність автоматичної формалізації без належного контролю.

Математики підкреслюють, що людський внесок у виявленні нових результатів включає не лише розв'язання, а й обговорення в спільноті, публікації та семінари, що сприяє глибшому розумінню та застосуванню знань. Наразі, після оприлюднення AI-рішень, людське розуміння їх суті лише починає формуватися.

Що це означає: Підхід OpenAI до представлення математичних рішень вимагає подальшої інтеграції з усталеними науковими практиками. Розбіжності між автоматично згенерованими розв'язками та вимогами до людського розуміння та формалізації створюють виклики для широкого прийняття таких результатів. Фінансовий та інвестиційний сектори, де точність і прозорість є критично важливими, мають враховувати ці аспекти при оцінці потенціалу використання подібних технологій для складних аналітичних завдань.