Математики застерігають від втрати розуміння через ШІ-доведення OpenAI
Математики застерігають, що ШІ-доведення OpenAI може випередити людське розуміння логіки складних математичних задач.
Математики висловили занепокоєння тим, що штучний інтелект може розв’язувати складні задачі швидше, ніж люди встигають зрозуміти логіку отриманих доведень. Приводом стала заява OpenAI про розв’язання задачі існування та гладкості рівнянь Нав’є—Стокса за допомогою тисяч агентів ШІ. Як повідомляє Wired, 166-сторінкове доведення ще перебуває на рецензуванні, а фахівці не мали достатньо часу, щоб перевірити його коректність.
Проблема зрозумілості доведень
Рівняння Нав’є—Стокса описують рух в’язких рідин і використовуються, зокрема, в інженерному моделюванні повітряних потоків. Водночас математиків цікавила сама теоретична задача: чи випливає з цих рівнянь можливість нефізичного «вибуху» рідини за певних умов. За даними видання, OpenAI дійшла висновку, що такі рівняння справді допускають подібний сценарій.
Математик Університету Вандербільта Джаред Спек зазначив, що спільноті важлива не лише відповідь «так» або «ні», а й розуміння отриманого результату. Традиційно автори доведень вибудовують аргументацію на попередніх дослідженнях, посилаються на них та роками обговорюють логіку роботи з колегами. У випадку з розробкою OpenAI порядок виявився зворотним: спочатку результат надала система, після чого математики почали намагатися з’ясувати, як саме він був отриманий.
Заклики до участі математичної спільноти
Математик Університету штату Колорадо Джуспріт Сінгх Сандху підписав онлайн-декларацію «Серйозна невідповідність ШІ в математиці». Її першіми підписантами стали 25 лауреатів Філдсівської медалі. У документі йдеться, що масове генерування доведень може зруйнувати середовище, у якому народжуються нові ідеї. Сандху наголосив, що декларація не спрямована проти застосування ШІ, однак математична культура цінує розуміння, а не лише швидке отримання відповідей.
Експерти також критикували недостатню прозорість щодо процесу створення доведення. Математик Нью-Йоркського університету Трістан Бакмастер припустив, що OpenAI могла використати його та інших дослідників роботи без належної атрибуції. Компанія повідомила, що цього тижня сформувала консультативну групу математиків, яка має спрямовувати використання ШІ, та заявила про потребу змістовного діалогу між розробниками і математичною спільнотою.
Теоретичний фізик Кембриджського університету Лоренцо Гавассіно вважає, що системи ШІ можуть бути корисним інструментом, але застерігає від заміни ними дослідників. За його словами, саме складні й виснажливі обчислення нерідко спонукають учених створювати нові поняття та методи. Видання також зазначає, що OpenAI витратила на обчислювальні потужності для доведення мільйони доларів — суму, співставну з річною оплатою праці десятків академічних математиків.
