IEEE Spectrum: системне мислення стає ключовим для інженерів у добу ШІ
IEEE Spectrum пояснює, чому ШІ не замінює інженерів і чому системне мислення та людська перевірка стають важливішими.
Штучний інтелект може прискорити пошук технічної інформації, створення варіантів дизайну та моделювання, але остаточні рішення в інженерних проєктах мають залишатися за людьми. Про це йдеться в авторській колонці IEEE Spectrum, де наголошують на зростанні ролі системного мислення та координації фахівців.
Автор зазначає, що інженер може доручити ШІ пошук досліджень і стандартів, попередній аналіз даних, генерацію проєктних рішень та їхнє тестування в симуляціях. Водночас оцінити безпеку конструкції, її практичну придатність у конкретних умовах і вплив на користувачів самостійно ШІ не здатен. Для цього потрібні профільні спеціалісти, а відповідальність за рух проєкту вперед несе людина.
ШІ не замінює спеціалізацію
У колонці підкреслюється, що розвиток ШІ не скасовує потреби у глибокій експертизі в електротехніці, механіці, цивільному будівництві, програмуванні чи інших дисциплінах. Натомість технологія полегшує інженерам роботу з питаннями поза межами їхньої основної спеціальності.
Наприклад, розробник програмного забезпечення для медичного пристрою може за допомогою ШІ опрацювати біомедичні дослідження, розібратися з незнайомими термінами, проаналізувати дані та створити ранню модель. Це не робить його медиком або біомедичним експертом, проте дає змогу підготувати точніші питання для подальшої роботи з такими фахівцями.
Проблеми в енергетиці, транспорті чи виробництві можуть одночасно охоплювати програмне й апаратне забезпечення, вимоги безпеки, економіку, людську поведінку та регулювання. Тому завдання інженера полягає не в опануванні всіх галузей, а у визначенні необхідної експертизи та залученні потрібних людей і інструментів.
Людська перевірка і відповідальність
Системне мислення передбачає аналіз усієї проблеми, зв’язків між її частинами, обмежень, можливих точок відмови та компромісів. Із появою ШІ інженери також мають вирішувати, які завдання доручати моделі, що повинна перевірити людина, коли рішення має ухвалювати вузький спеціаліст і коли необхідно змінити саме формулювання проблеми.
Автор застерігає, що ШІ здатен видавати переконливі відповіді за слабких припущень: згенерований код може працювати в одному тесті й давати збій в іншому, а підсумки досліджень можуть не враховувати силу доказів. Машини корисні для швидкого пошуку, масштабної обробки, розпізнавання закономірностей і генерування даних, тоді як люди потрібні для оцінки контексту, цінностей, відповідальності та суджень.
Як приклад у матеріалі наведено медичний сенсор: ШІ може запропонувати кілька конструкцій і спрогнозувати їхню роботу, інженер — перевірити відповідність технічним вимогам, а клініцист — оцінити можливість реального застосування. Досвід пацієнтів і практиків також може виявити проблеми, яких не помітили розробники.
Колонка також пропонує IEEE розвивати спільноти навколо міждисциплінарних завдань і формувати практичні стандарти співпраці людини та машини: зокрема щодо перевірки результатів ШІ, документування невизначеності та розподілу відповідальності.
