OpenAI викрила китайську та російську пропаганду через ChatGPT
ШІ використовували для дописів, коментарів і навіть службових звітів на TikTok, Facebook і Reddit
OpenAI повідомила про виявлення масштабних інформаційних операцій, у яких Китай, ймовірно, використовував ChatGPT для створення пропаганди в соцмережах. Згенеровані ШІ дописи та коментарі з’являлися на таких платформах, як TikTok, Facebook, X (Twitter) і Reddit.
Про це повідомляє 9to5Mac із посиланням на останній звіт компанії OpenAI.
Загалом OpenAI виявила десять таких операцій, з яких чотири «ймовірно мали походження з Китаю». Також зафіксовано спроби використання ChatGPT урядами рф, Ірану та Північної Кореї.
Одна з викритих кампаній отримала назву Sneer Review. У її межах ChatGPT створював короткі пропагандистські коментарі трьома мовами: англійською, китайською та урду. Ці повідомлення публікувалися на різних платформах і охоплювали політичні теми, зокрема оцінку дій адміністрації Трампа або критику гри, в якій гравці борються з Компартією Китаю. ШІ не тільки генерував пости, а й коментарі до них, щоб створити ілюзію активної взаємодії.
За словами Бена Німмо, головного розслідувача OpenAI, пропагандисти використовували ChatGPT навіть для написання внутрішніх звітів про хід операцій. Один із таких звітів детально описував методи роботи мережі, що дозволило аналітикам краще зрозуміти схеми впливу.
Крім цього, ChatGPT застосовували для створення електронних листів до журналістів, політиків і аналітиків. Ймовірно, з метою збору інформації або впливу на громадську думку.
OpenAI підкреслила, що вжила заходів для блокування зловмисної активності та продовжує стежити за подібними випадками у своїх продуктах.
Нещодавно ми розповідали, що Reddit подає в суд на конкурентів OpenAI.
