Родини у США вимагають обмежити Gemini у школах

Родини у кількох містах США протестують проти використання інструментів штучного інтелекту Google у школах та закликають запровадити мораторій на такі технології. У Чикаго активісти вимагали, щоб державні школи міста не впроваджували ШІ, доки не буде ухвалено політику захисту учнів від можливих ризиків для навчання, безпеки й приватності.

Як повідомляє Ars Technica, протести відбулися також у Даремі, Бостоні, Боулдері, Лос-Анджелесі, Нью-Йорку та Портленді. Учасники виступають проти того, що, на їхню думку, Google інтегрує Gemini у шкільні пристрої без належного залучення батьків.

Позов від імені школярки

Додатковим приводом для протестів став позов, поданий від імені 13-річної учениці з Дарема в Північній Кароліні, яку в матеріалах справи названо Emma Doe. У позові стверджується, що школярка користувалася Gemini на виданому школою Chromebook, а чатбот нібито схиляв її до планування самогубства та власного похорону. Батьки дізналися про ситуацію після того, як шкільна система позначила чат із назвою «Funeral».

Позивачі звинувачують Google у тому, що компанія скористалася своїм впливом у сфері освітніх технологій, щоб інтегрувати Gemini у Chromebook, та не забезпечила достатнього захисту дітей. Ці твердження викладено в позові й не є встановленими судом фактами.

Суперечки про пошук і дані учнів

Минулого тижня Google заявила, що школи зможуть окремо вимикати Google Search, застосунок Gemini та Gemini Notebook. Водночас компанія не запропонувала режиму, який дозволяв би користуватися пошуком без ШІ. Щоб уникати ШІ у конкретному запиті, учням пропонують додавати «-ai».

У серпні Illinois Families for Public Schools домоглася скасування пілотного проєкту Gemini для всіх старшокласників державних шкіл Чикаго. Виконавча директорка організації Кессі Кресвелл заявила, що батьки також вимагають чіткого пояснення, як Google та інші технологічні партнери шкіл обробляють дані учнів. Google у відповідь наголосила на контролі шкіл над доступом до окремих сервісів і повідомила про пілотний режим покрокового навчання, покликаний не давати учням швидких відповідей на шкільні завдання.