Дослідниця ШІ Тімніт Гебру заперечила екзистенційну загрозу від ШІ

Дослідниця штучного інтелекту Тімніт Гебру заявила, що не вважає ШІ екзистенційною загрозою для людства, а попередження про такий ризик назвала шкідливим відволіканням від уже наявних проблем технології. В інтерв’ю Wired вона сказала, що дискусії про надпотужний ШІ можуть зміщувати увагу регуляторів від питань прозорості даних, трудової експлуатації та впливу датацентрів на довкілля.

Критика наративу про надрозум

За словами Гебру, риторику про ризик знищення людства представники технологічної галузі використовують уже багато років. Вона стверджує, що засновники, інвестори та інші люди, які можуть отримати фінансову вигоду від розвитку ШІ-компаній, водночас підтримують організації, що попереджають про екзистенційні ризики.

Дослідниця вважає, що такі заяви допомагають компаніям представляти свої продукти як безпрецедентно потужні перед інвесторами та урядами. На її думку, це також формує підхід до регулювання, за якого пріоритетом стають гіпотетичні сценарії, а не поточні проблеми, зокрема забруднення довкілля, авторське право й походження даних для навчання моделей.

Гебру також назвала частиною регуляторного захоплення ситуації, коли технологічні компанії публічно закликають до глобальної співпраці щодо безпеки ШІ, але, за її словами, протидіють правилам, які передбачають реальну відповідальність. Як приклад вона згадала погрози Сема Альтмана вивести діяльність із Європейського Союзу під час обговорення регулювання ШІ.

Які правила пропонує Гебру

На думку дослідниці, для нагляду за галуззю слід насамперед застосовувати чинні правила. Вона послалася на підходи колишньої очільниці Федеральної торгової комісії США Ліни Хан: протидію оманливому маркетингу, вимоги до прозорості та документування даних, а також захист працівників, які розмічають дані для систем ШІ.

Гебру наголосила, що компанії мають пояснювати походження навчальних даних до випуску продуктів. Вона також порушила проблему експлуатації людей, які в різних країнах розмічають дані або можуть виконувати роботу, що зовні виглядає як відповідь чатбота.

Дослідниця є співавторкою роботи 2021 року про небезпеки великих мовних моделей, у якій використано метафору «стохастичних папуг». Вона пояснила, що такі моделі навчаються на великих масивах тексту та генерують імовірні послідовності слів, не демонструючи розуміння змісту. Гебру зазначила, що застереження її роботи щодо екологічної вартості великих моделей і непрозорого використання даних залишаються актуальними.