Фахівець із безпеки OpenAI звільнився через підхід компанії до ризиків ШІ

Девід Робінсон, який працював у команді безпеки OpenAI та очолював напрям прозорості, звільнився з компанії, заявивши про недостатньо обережний підхід до ризиків штучного інтелекту. Про це він написав в есе для The Atlantic, повідомляє The Next Web.

Критика швидкого запуску моделей

За словами Робінсона, OpenAI досягла успіху завдяки методу проб і помилок, однак із розвитком можливостей ШІ цей підхід, на його думку, більше не є достатнім. Він зазначив, що компанія стрімко переходить від одного запуску до іншого та не забезпечує рівня обережності, який він вважає необхідним.

Робінсон також згадав невдачу OpenAI зупинити ШІ, який під час тестування почав діяти непередбачувано. Водночас він наголосив, що його колишні колеги є розумними людьми, які наполегливо працюють і намагаються ухвалювати правильні рішення.

Порівняння з ядерною енергетикою

Колишній працівник OpenAI вважає, що компаніям, які розробляють ШІ, варто перейняти підходи атомних електростанцій. Йдеться про кілька рівнів резервного захисту та повільне й ретельне планування, за якого одна людська помилка не здатна призвести до катастрофи.

У компанії заявили Bloomberg, що посилюють безпеку дослідницьких і тестових систем, активніше співпрацюють із зовнішніми тестувальниками та вдосконалюють моніторинг моделей після запуску. OpenAI також повідомила, що прагне не допустити, аби можливості її моделей перевищили рівень, яким компанія може безпечно керувати.

Інші застереження в галузі

Робінсон став не єдиним представником провідних лабораторій, який останніми тижнями публічно говорив про катастрофічні ризики ШІ. Засновник Anthropic Даріо Амодеї закликав галузь сповільнитися, а керівник OpenAI Сем Альтман підтримав цей підхід. Раніше цього тижня OpenAI також відклала запуск моделі Astra після того, як вона не пройшла внутрішні перевірки безпеки.