OpenAI, Anthropic і Google DeepMind обговорюють безпеку ШІ
OpenAI підтвердила переговори з Anthropic і Google DeepMind щодо безпеки штучного інтелекту.
OpenAI протягом кількох тижнів проводить переговори з Anthropic і Google DeepMind щодо безпеки штучного інтелекту. Це підтвердив журналістам у вівторок керівник глобальної політики OpenAI Кріс Лехейн, повідомляє TechCrunch.
За даними видання, Лехейн перебуває у Вашингтоні, де працює з американськими законодавцями над питаннями катастрофічних ризиків, пов’язаних зі штучним інтелектом. Заява пролунала після есе генерального директора Anthropic Даріо Амодеї, опублікованого в суботу. У ньому він закликав галузь спільно уповільнити розвиток передових систем ШІ та уникнути катастрофічних ризиків.
Підтримка спільних дій
Заклик Амодеї підтримали керівник OpenAI Сем Альтман, очільник Google DeepMind Деміс Гассабіс та Ілон Маск. Альтман заявив, що OpenAI разом з Anthropic залучатиме незалежних оцінювачів для контролю за безпекою моделей.
Водночас деякі учасники дискусії, зокрема Альтман, зазначали, що координація між компаніями може створити ризики порушення антимонопольного законодавства, якщо її визнають такою, що обмежує конкуренцію. Амодеї пропонував запровадити вузький урядовий виняток для такої співпраці з питань безпеки, проте Лехейн, за інформацією TechCrunch, сказав, що компаніям він не потрібен.
Ідея галузевого органу
Раніше The Information повідомляло, що три компанії працюють над створенням органу зі стандартів для індустрії ШІ. Альтман, як стверджує видання, повідомив працівникам, що це має відбутися без підтримки уряду США. У липні Гассабіс закликав США створити новий орган нагляду за ШІ, який міг би перевіряти найпередовіші моделі у світі та координувати галузеве уповільнення їхнього розвитку в разі зростання небезпек.
Президент США Дональд Трамп називав занепокоєння щодо безпеки ШІ обманом і виступав проти жорсткішого регулювання, заявляючи, що уповільнення дасть Китаю перевагу. Його радник із питань ШІ Девід Сакс також заявляв, що побоювання екзистенційних ризиків від ШІ перебільшені. Лехейн водночас повідомив про підтримку OpenAI положення FRONTIER Act, яке вимагало б від провідних лабораторій допускати незалежні організації з верифікації для перевірки безпечності розробки моделей.
