The Verge тестує локальні мовні моделі на Mac і Windows
The Verge розпочав тестування локальних мовних моделей на Mac і Windows, оцінюючи їхню практичність та переваги для конфіденційності.
Оглядач The Verge Антоніо Дж. Ді Бенедетто розпочав тестування локальних великих мовних моделей на комп’ютерах Mac і Windows, зокрема в межах перевірки Mac Studio з чипом M5 Ultra. Автор хоче з’ясувати, чи можуть такі інструменти бути корисними для повсякденних завдань без передавання особистих даних до хмарних сервісів.
Локальний запуск замість хмари
Як повідомляє The Verge, журналіст раніше не поспішав регулярно користуватися ШІ через потребу надавати персональну інформацію хмарним платформам. На його думку, можливість запускати потужні моделі безпосередньо на власному пристрої робить цю технологію привабливішою з погляду конфіденційності.
Ді Бенедетто не позиціонує себе як експерта зі штучного інтелекту й планує документувати власний досвід використання локальних моделей. Він зазначає, що не має наміру доручати ШІ написання чи редагування текстів, але розглядає його як потенційний інструмент для рутинних завдань.
Нові комп’ютери для ШІ
Apple просуває нові настільні комп’ютери Mac як пристрої, придатні для локальної роботи зі штучним інтелектом. Водночас на ринку очікується поява комп’ютерів на Windows із лінійки RTX Spark, орієнтованих на використання агентних ШІ-систем і оснащених до 128 ГБ оперативної пам’яті.
Автор порушує питання, чи виправдовує практична користь локальних моделей витрати на комп’ютер або ноутбук із великим обсягом оперативної пам’яті. Його тестування має охопити Mac Studio M5 Ultra, а також інші системи на Mac і Windows.
