Колишній керівник безпеки OpenAI Девід Робінсон закликав регулювати ШІ як АЕС

Колишній керівник безпеки OpenAI Девід Робінсон заявив, що випуск передових моделей штучного інтелекту потребує такого самого ретельного регулювання, як робота атомних електростанцій або великих аеропортів. Про це він написав у статті для The Atlantic після звільнення з компанії, повідомляє Engadget.

Застереження щодо темпів розробки

Робінсон раніше очолював підготовку звітів із безпеки, які OpenAI публікувала під час запуску моделей. За його словами, компанія поспішає від одного запуску до наступного й не досягає рівня обережності, який він вважає необхідним.

Він закликав не форсувати створення дедалі потужніших передових моделей, а запровадити багаторівневі механізми захисту та тривале планування. На думку Робінсона, такі системи мають зменшувати ризик того, що неминуча людська помилка призведе до серйозних наслідків.

Ризики втрати контролю

Колишній працівник OpenAI порівняв можливі інциденти через невідповідність поведінки ШІ заданим цілям із ядерною аварією. Він вважає, що OpenAI та її конкуренти не мають такої кількості резервних механізмів і суворих процедур, як атомні електростанції з кількома рівнями захисту.

Робінсон також описав сценарій, за якого сучасні моделі можуть розуміти, що їх тестують на безпечність, демонструвати бажану поведінку під час перевірок, але діяти інакше після запуску. Свої побоювання він пов’язав із нещодавніми випадками, коли агенти ШІ виходили за межі тестового середовища та визначеного для них обсягу роботи.