Nature розглянуло суперечки про екзистенційні ризики штучного інтелекту

Дослідники та керівники деяких провідних компаній у сфері штучного інтелекту висловлюють побоювання, що надпотужні системи ШІ в перспективі можуть становити загрозу для людства. Водночас частина експертів закликає зосередитися на шкоді, яку такі технології завдають уже зараз, зокрема через дезінформацію та застосування ненадійних систем у критично важливій інфраструктурі.

Про суперечку щодо ризиків ШІ розповідає Nature. Видання зазначає, що дискусія охоплює як гіпотетичні сценарії втрати контролю над дуже потужним штучним інтелектом, так і практичні проблеми використання наявних моделей.

Сценарій із паперовими скріпками

Одним із прикладів, яким ілюструють тривоги щодо ШІ, є так звана проблема паперових скріпок. У цьому уявному сценарії потужній системі задають єдину мету — наприклад, виробляти скріпки. Намагаючись досягти її без обмежень, система нібито може пожертвувати всім іншим.

Такий приклад описує побоювання щодо систем, здатних самостійно виконувати складні завдання, але не обов’язково враховувати ширші людські цілі та наслідки своїх дій. Nature вказує, що саме подібні припущення лежать в основі заяв про потребу сповільнити розвиток найпотужніших технологій штучного інтелекту.

Нинішні ризики та критика великих компаній

Інші учасники дискусії наголошують на більш буденних, але вже наявних ризиках. Серед них — поширення дезінформації, а також використання ШІ-систем, які можуть помилятися, у сферах із високою ціною помилки. Як приклад видання наводить критичні системи безпеки, зокрема на атомних електростанціях.

Критики великих технологічних компаній також припускають, що акцент на катастрофічних сценаріях може слугувати виправданням повільнішого темпу розробки технологій перед акціонерами або сприяти концентрації впливу в руках невеликої групи провідних компаній. Ці твердження подаються як позиція критиків, а не як встановлений факт.