Домой / Гаджеты / На взломанной PS4 запустили локальную Qwen

На взломанной PS4 запустили локальную Qwen

Консоль 2013 года и не подозревала, что будут с ней вытворять разработчики-энтузиасты спустя дюжину лет после выпуска.

Опенсорсный проект Garlic LLM позволяет запустить на древнем (по нынешним-то временам) графическом процессоре вполне современную локальную нейросеть на 9 млрд параметров.

Авторы же умудрились уместить в 8 ГБ объединённой памяти консоли модель Qwen3.5-9B, а также модели для распознавания речи и преобразования текста в речь. Скорость ответа модели в текстовом чате составляет от 31 до 39 токенов в секунду, а при работе с кодом — 43 токена. Контекстное окно небольшое, всего 16 тысяч токенов. При этом она ещё и запрос голосом может принять, и сама голосом же ответить.

Всё это, во-первых, работает, а во-вторых, позволяет PS4 стать собеседником для долгих зимних вечеров или писать код (пусть и паааршивенько). Не сбрасывайте со счетов старое железо в век локальных нейронок!

Про Редактор Новостей

Проверьте также

Не спешите покупать новую Apple TV! Её искусственно урезали в самом важном

Больше памяти, но без пользы для приложений.