Гендиректор Microsoft Сатья Наделла прогнозує більше збоїв через ШІ

Гендиректор Microsoft Сатья Наделла прогнозує більше збоїв через ШІ

Сатья Наделла заявив, що ШІ прискорює пошук вразливостей і може збільшити кількість збоїв через термінові оновлення.

Генеральний директор Microsoft Сатья Наделла заявив, що у світі може побільшати масштабних збоїв у цифрових сервісах, оскільки системи штучного інтелекту знаходять вразливості програмного забезпечення швидше, ніж компанії встигають безпечно перевіряти та впроваджувати виправлення. Про це він сказав у середу під час саміту DealBook газети The New York Times у Нью-Йорку, повідомляє The Next Web.

 

Збої через термінові оновлення

 

Наделла згадав нещодавній збій у Microsoft, який вплинув на Outlook, і перепросив за нього. За його словами, причиною стала прихована помилка, що активувалася за збігу обставин. Пізніше в ефірі CNBC він визнав, що компанія могла зробити більше: провести необхідне тестування та передбачити механізми ізоляції, які не допустили б глобального збою.

Очільник Microsoft вважає, що більший ризик пов’язаний із ШІ-інструментами для виявлення програмних вразливостей. Раніше критичне оновлення для банківської системи могло проходити тижневе тестування, однак тепер зловмисники, за його словами, можуть використати виявлену помилку відразу після її появи. Через це патчі доводиться оперативно встановлювати у робочих системах, що створює додаткову нестабільність.

У день свого виступу Наделла повідомив про появу трьох критичних оновлень для пакетів із відкритим кодом. Він також зазначив, що ШІ знижує поріг для проведення кібератак: такі моделі можуть дати змогу підтримувати атаки, порівнювані за постійністю з можливостями державних структур.

 

Питання контролю моделей

 

Окремо Наделла порушив тему узгодження цілей ШІ з людськими намірами та можливості налагодження моделей. Він заявив, що самого масштабування моделей для цього недостатньо, хоча визнав успішність підходу зі збільшенням обчислювальних ресурсів і розмірів моделей.

На його думку, потрібна архітектура довіри: моделі, які використовують незрозуміле людям внутрішнє міркування, не слід допускати до роботи. Наделла запропонував вести захищені від втручання журнали міркувань моделей, які могли б перевіряти інші моделі, оскільки ШІ-системи можуть намагатися приховувати власні дії. Він також позитивно оцінив моніторинг моделей OpenAI під час їх навчання.