OpenAI создает команду для изучения рисков ИИ

Компания OpenAI создает новую команду для оценки, прогнозирования и защиты от рисков ИИ. Об этом объявил основатель ИИ-разработчика Сэм Альтман. Новая команда называется Preparedness (Подготовленность) и возглавляет ее Александр Мадри, профессор Массачусетского технологического института. Проект базируется на понятии подготовленности к возможным сценариям, когда ИИ будет использоваться для ущерба как сейчас, так и в будущем. Команда поможет отслеживать, оценивать, прогнозировать и защищать от катастрофических рисков использования ИИ.