Директор з досліджень OpenAI назвав безпеку пріоритетом розвитку ШІ
OpenAI посилює фокус на безпеці ШІ та планує використовувати моделі для наукових досліджень і розробки нових систем.
Директор з досліджень OpenAI Марк Чен заявив, що компанія зміщує фокус на безпеку моделей штучного інтелекту, водночас розвиваючи системи для наукових досліджень і створення наступних поколінь ШІ. Про підходи компанії та її плани він розповів в інтерв’ю Nature.
За словами Чена, OpenAI прагне застосовувати моделі не лише для окремих дисциплін, зокрема математики. Серед напрямів він назвав пришвидшення пошуку лікарських препаратів: моделі можуть допомогти зі стислим оглядом наукової літератури та дослідженням потенційних цілей, на які нині витрачають тижні або місяці. Компанія також працює над використанням ШІ у проєктуванні та розробці напівпровідників.
Моніторинг моделей
Чен назвав моніторинг ключовим підходом до безпеки та узгодження моделей із людськими цілями. За його оцінкою, наразі найефективнішим способом є використання одних моделей для контролю внутрішніх процесів інших. Він пояснив, що моделі можуть показувати ланцюжок міркувань під час пошуку розв’язання, однак зі зростанням їхньої потужності вони виконують більше обчислень до того, як демонструють цей процес.
OpenAI також створила дорадчу групу у відповідь на занепокоєння математиків щодо дедалі більшої ролі ШІ в їхній галузі. Чен зазначив, що компанія хоче залучати наукову спільноту до розроблення передових моделей, публікувати результати про можливості технології та спільно формувати норми її використання.
ШІ для внутрішніх досліджень
Окремим завданням OpenAI є використання моделей для прискорення розробки майбутніх систем. Першою ціллю Чен назвав створення «наукового стажера» — ШІ-агента, якому можна доручати чітко окреслені завдання, зокрема базові експерименти або налагодження окремих запусків.
За його словами, компанія вже досягла етапу, коли агент для написання коду Codex безпосередньо керує кількома сотнями тисяч чипів для внутрішніх дослідницьких експериментів. Амбітніша мета на 2028 рік — перейти до більш комплексних дослідницьких процесів. Одним із головних обмежень Чен назвав потребу навчити моделі краще визначати, які ідеї варті подальшого вивчення.
