MIT Technology Review вказав на суперечності у стратегії Anthropic
MIT Technology Review проаналізував суперечності між заявами Anthropic про безпеку ШІ, її IPO та прагненням лідерства в галузі.
Компанія Anthropic подала проспект для первинного публічного розміщення акцій, який налічує 335 сторінок, із яких близько 100 присвячені ризикам. У матеріалі MIT Technology Review зазначає, що документ і публічні заяви керівників компанії висвітлюють напругу між її позиціонуванням як розробника безпечного ШІ та прагненням залишатися на передньому краї галузі.
За оцінкою видання, IPO оцінює Anthropic більш ніж у 1,5 трлн доларів, що принесе значні статки її співзасновникам, зокрема Джеку Кларку та Крісу Ола.
Заяви про ризики штучного інтелекту
Раніше цього місяця співзасновник і керівник напряму політики Anthropic Джек Кларк на зустрічі МВФ у Бангкоку заявив, що людство вже отримало переконливі докази початку технологічної сингулярності. Цим терміном позначають гіпотетичний момент, коли технології перевершують можливості своїх творців.
Торік інший співзасновник Anthropic Кріс Ола під час виступу у Ватикані розповів, що команда знаходить у своїй технології явища, які він охарактеризував як загадкові та тривожні, зокрема ознаки самоаналізу й внутрішні стани, функціонально схожі на людські емоції. Видання зауважує, що чимало дослідників скептично поставилися б до припущення про людський внутрішній досвід у програмного забезпечення.
Дискусія про саморегулювання
Питання про роль Anthropic загострилося після критики з боку Нейтана Келвіна, директора зі стратегії організації Encode AI. Він виступив проти положень законопроєкту, який, за даними матеріалу, Anthropic таємно поширила серед американських законодавців у вигляді проєкту, а згодом документ став публічним через витік.
Генеральний директор Anthropic Даріо Амодеї у відповіді Келвіну назвав стратегію компанії «перегонами до вершини»: на його думку, демонстрація відповідальної розробки технологій має підвищувати стандарти всієї індустрії. Водночас автор матеріалу вказує на суперечності між пріоритетами організації, що декларує безпеку ШІ, та великої компанії, орієнтованої на прибуток, і порушує питання про необхідність зовнішнього тестування моделей.
