Експерти закликали оцінювати щоденну шкоду від продуктів штучного інтелекту

Автори колонки в MIT Technology Review закликали не обмежувати регулювання штучного інтелекту запобіганням найтяжчим випадкам шкоди. На їхню думку, технологічні компанії мають також доводити, що їхні продукти не послаблюють здатність людей мислити, навчатися та підтримувати стосунки.

У матеріалі зазначається, що базові запобіжники — зокрема обмеження заохочення самогубства чатботами чи ускладнення доступу дітей до фентанілу через соцмережі — необхідні. Водночас такі заходи, на думку авторів, не усувають повсякденні ризики: залежність підлітків від симульованих дружніх стосунків, надмірне використання чатботів для навчальних завдань і стрічки, спроєктовані для утримання уваги.

Регулювання та інтереси платформ

Автори вважають, що вузьке визначення безпеки є політично зручним для технологічних компаній. Запобігання резонансним інцидентам може зменшити кількість позовів і тиск щодо суворішого регулювання, тоді як протидія щоденним наслідкам залежності від продуктів могла б вимагати обмеження залучення користувачів або функцій, пов’язаних із негативними результатами.

Як приклад вони наводять законопроєкти щодо чатботів, які цього року підтримала Google у кількох штатах США. Ці ініціативи передбачали базовий захист від сексуального контенту та заохочення самоушкодження, але містили широкі винятки, що могли звільнити частину популярних сервісів від вимог. За оцінкою авторів, у Небрасці законодавство значною мірою формувалося під впливом індустрії, а сильніші ініціативи щодо запобігання емоційній залежності дітей від ШІ не були ухвалені.

Вплив на навчання і спілкування

У колонці нагадали, що користувачі інтернету у світі в середньому проводять у соціальних мережах понад дві години на день. Штучний інтелект, на думку авторів, поширює цю логіку на нові сфери, пропонуючи писати тексти замість людини та замінювати живе спілкування.

За наведеними в матеріалі даними, третина підлітків обирає обговорювати серйозні теми з ШІ-компаньйонами, а не з іншими людьми. Дослідники MIT, як зазначено в колонці, виявили слабшу мозкову зв’язність під час виконання письмових завдань учасниками, які використовували ChatGPT. Автори пишуть, що ознаки «когнітивного боргу» зберігалися і після завершення завдання.

Вони пропонують вимагати від технологічних компаній і шкільних округів переконливих доказів поліпшення навчання та критичного мислення перед широким упровадженням ШІ в класах. Також автори виступають за заборону ШІ-компаньйонів, які імітують свідомість або освідчуються користувачам у коханні, та за незалежну перевірку впливу таких систем на стосунки і самостійність мислення.