Відмови ШІ не завжди блокують небезпечні запити
MIT Technology Review пояснило, чому відмови чатботів не завжди зупиняють небезпечні запити та які ризики це створює.
Сучасні моделі штучного інтелекту навчають відмовлятися від великої кількості небезпечних запитів, однак цей механізм працює не завжди. Як зазначає MIT Technology Review, користувачі можуть намагатися застосовувати ШІ для вдосконалення біологічних патогенів або створення роїв автономних дронів.
Межі відмов штучного інтелекту
Чатботи зазвичай відхиляють запити про отруєння людини чи виготовлення зашморгу. Водночас система відмов може давати збій, а покладання лише на здатність моделі сказати «ні» створює ризики, йдеться в матеріалі.
Автори звертають увагу і на проблему визначення меж: необхідно вирішувати, які запити модель має виконувати, а які — відхиляти. Уряди також можуть встановлювати власні обмеження, що потенційно здатні звужувати свободу слова.
Видання вказує на суперечність між корисними та небезпечними можливостями ШІ. Зокрема, для допомоги в лікуванні раку моделі потрібні знання з генетики, але такі самі компетенції можуть бути використані для створення біологічної зброї.
Дослідження побічних ефектів GLP-1
Окремо MIT Technology Review повідомляє про вивчення препаратів для зниження ваги класу GLP-1. Нові дослідження припускають, що ці ліки можуть уповільнювати біологічне старіння, однак науковці продовжують досліджувати їхні побічні ефекти.
Найпоширенішими названо шлунково-кишкові побічні реакції. Дослідники також перевіряють можливий зв’язок препаратів із випадінням волосся, порушеннями стану нігтів і ураженням нервів позаду ока.
