Генпрокурор Флориди просить суд зупинити розробку моделей OpenAI
Генпрокурор Флориди просить суд заборонити OpenAI навчати нові моделі без незалежного нагляду та обмежити доступ неповнолітніх до ChatGPT.
Генеральний прокурор Флориди Джеймс Утмаєр звернувся до суду штату з клопотанням заборонити OpenAI навчати нові моделі без незалежного нагляду та припинити доступ неповнолітніх до ChatGPT. Про це повідомляє Engadget.
Клопотання подали в понеділок у межах позову штату проти компанії, поданого в червні. До цього, у квітні, офіс Утмаєра розпочав кримінальне розслідування щодо OpenAI після масової стрілянини 2025 року у Флоридському державному університеті. За твердженням офісу генпрокурора, підозрюваний у цій справі використовував ChatGPT напередодні нападу.
Вимоги до OpenAI
Утмаєр заявив, що компанія не повинна розробляти нові моделі без незалежних гарантій безпеки, збирати дані дітей або називати продукт безпечним, точним чи надійним. Також він виступив проти функцій, які, за його словами, заохочують користувачів продовжувати спілкування з чатботом у небезпечних ситуаціях.
В обґрунтуванні клопотання офіс генпрокурора послався на нещодавні повідомлення OpenAI про безпеку, зокрема після зламу Hugging Face, а також на заклики генерального директора OpenAI Сема Альтмана сповільнити темпи розробки передових моделей штучного інтелекту.
Позиція компанії та канадський випадок
OpenAI не надала Engadget оперативного коментаря щодо нового клопотання. Після початку кримінального розслідування компанія заявляла, що трагедія у Флоридському державному університеті була жахливим злочином, за який ChatGPT не несе відповідальності. У компанії також зазначали, що постійно посилюють механізми виявлення шкідливих намірів, обмеження зловживань і реагування на ризики безпеки.
У лютому канадські регулятори закликали OpenAI змінити підхід до погроз завдання шкоди. Це сталося після публікації The Wall Street Journal, де стверджувалося, що компанія позначила акаунт імовірного стрільця у Тамблер-Ридж Джессі Ван Рутселара у 2025 році, але не передала інформацію правоохоронцям. Після трагедії OpenAI погодилася на нові правила взаємодії з канадськими правоохоронними органами.
