IEEE відзначила 10 років упровадження етичних принципів у системи ШІ
IEEE відзначила 10 років документа Ethically Aligned Design і розвитку стандартів та сертифікацій для етичного штучного інтелекту.
IEEE Standards Association відзначила 10 років від появи першого проєкту документа Ethically Aligned Design (EAD), присвяченого інтеграції етичних принципів у розробку автономних та інтелектуальних систем. До річниці організація запустила сайт, серію подкастів і блог про результати та вплив цієї роботи, повідомляє IEEE Spectrum.
Ініціативу IEEE щодо етичних аспектів автономних та інтелектуальних систем започаткували у 2016 році. Того ж року опублікували EAD — документ, що закликає розробників ставити добробут людини в центр створення технологій. Над його першою версією працювала міждисциплінарна міжнародна спільнота, а свої пропозиції надали понад 100 експертів із етики штучного інтелекту. Другу версію звіту випустили у 2017 році.
Вісім принципів для розробників
EAD сформулював вісім базових принципів проєктування автономних систем. Серед них — повага до прав людини, орієнтація на підвищення добробуту як критерій успіху розробки, контроль людей над власними даними та ідентичністю, ефективність, прозорість, підзвітність, усвідомлення можливого зловживання технологією і компетентність її творців.
Автори документа пропонують враховувати прикладну етику ще на етапі проєктування, а не після випуску системи. За словами Джона С. Гейвенса, який був першим виконавчим директором глобальної ініціативи, обидві версії EAD збирали публічні відгуки та отримали сотні сторінок коментарів. До 2019 року кількість учасників спільноти перевищила 400.
Стандарти та сертифікації
На основі підходу EAD розвивається серія стандартів IEEE 7000. Наразі вона налічує 29 проєктів, із яких 11 уже опубліковано. Вони охоплюють етичну модель процесу проєктування систем, прозорість ШІ, конфіденційність даних, алгоритмічну упередженість, вплив технологій на добробут людей, машинозчитувані вимоги до приватності та системи, що імітують людську емпатію.
IEEE SA також пропонує програми сертифікації у сфері етики ШІ, зокрема CertifAIEd для фахівців і продуктів. Окрема програма Responsible AI for Children передбачає незалежне тестування та перевірку ШІ-продуктів для дітей на відповідність вимогам до дизайну й етики.
Крім того, група IEEE Artificial Intelligence Systems for Global Flourishing, до якої входять понад 200 учасників, розробляє рекомендації для проєктування, оцінювання та управління системами, що мають вимірювано покращувати добробут людей і екологічну сталість.